隨著 Microsoft Copilot 的推出，微軟開始將人工智能技術(shù)整合至旗下所有產(chǎn)品中，所以公司需要構(gòu)建一個更加集中化的系統(tǒng)來確保所有發(fā)布的產(chǎn)品均達到統(tǒng)一的高標(biāo)準(zhǔn)。為此，微軟正在 Azure AI 中開發(fā)一個 RAI 技術(shù)棧，以便團隊能夠依靠統(tǒng)一的工具和流程。

此外，微軟 RAI 專家團隊還開創(chuàng)了一套新的管理方法，用以集中管理產(chǎn)品發(fā)布的評估和審批過程。依據(jù)“共識驅(qū)動框架”，該團隊在技術(shù)棧的每個層面，以及產(chǎn)品發(fā)布的前、中、后階段，都會審查產(chǎn)品團隊在識別、評估和管理生成式人工智能可能帶來的風(fēng)險時所采取的措施。同時，團隊也會考慮測試、威脅建模和“Red Teaming”（一種通過嘗試破壞或規(guī)避安全功能來對新的生成式人工智能技術(shù)進行壓力測試的方法）中收集的數(shù)據(jù)。

通過集中化的審查流程，微軟能夠更有效地發(fā)現(xiàn)并減少產(chǎn)品組合中的潛在安全漏洞，制定最佳實踐策略，并確保與公司內(nèi)部以及微軟外部的客戶和開發(fā)者的信息能夠得到及時共享。

Sarah Bird 說：“技術(shù)發(fā)展日新月異。我們必須真正集中精力一蹴即至，然后最大限度地利用這些經(jīng)驗教訓(xùn)?！?/p>

04為人們明確信息來源

人工智能技術(shù)在創(chuàng)建逼真的合成視頻、音頻和圖像方面的能力日益精進，因此用戶能夠識別出人工智能生成內(nèi)容的出處和來源就變得尤為關(guān)鍵。

今年2月，微軟聯(lián)合19家企業(yè)簽署了一系列自愿性承諾，旨在在2024年美國大選期間打擊人工智能的欺詐性使用以及潛在的 deepfakes 技術(shù)的濫用。承諾內(nèi)容包括開發(fā)功能以阻止創(chuàng)建誤導(dǎo)公眾的虛假圖像，嵌入元數(shù)據(jù)以追溯圖像的來源，并為候選人提供一種機制，使他們能夠舉報自己被 deepfakes 技術(shù)偽造的圖像。

微軟已經(jīng)開發(fā)并部署了媒體來源功能（又稱“內(nèi)容憑證”），允許用戶驗證圖片或視頻是否由人工智能生成。這一功能使用加密技術(shù)對人工智能生成的內(nèi)容進行了標(biāo)記和簽名，并附上了關(guān)于其來源和歷史的元數(shù)據(jù)，遵循了2021年創(chuàng)立的內(nèi)容來源和真實性聯(lián)盟（C2PA）制定的開放技術(shù)標(biāo)準(zhǔn)。微軟 AI for Good 實驗室也在加大力度識別深度偽造內(nèi)容、追蹤不良行為者并分析其策略。

Natasha Crampton 表示：“這些問題不僅是科技公司所面臨的挑戰(zhàn)，更是需要整個社會共同應(yīng)對的挑戰(zhàn)。”

05將RAI工具交到客戶手中

為了提高人工智能模型的輸出質(zhì)量，并防止生成式人工智能系統(tǒng)遭到濫用，微軟正在積極向客戶提供自身所采用的工具和安全措施，以便他們能夠負(fù)責(zé)任地構(gòu)建人工智能。這些資源包括開源工具、商業(yè)工具和服務(wù)，以及一系列協(xié)助企業(yè)構(gòu)建、評估、部署和管理他們生成式人工智能系統(tǒng)的模板和指南。

2023年，微軟推出了 Azure AI Content Safety，幫助客戶識別并過濾掉人工智能模型中有害的輸出，如仇恨、暴力、性或自殘等內(nèi)容。最近，Azure AI Studio 中還添加了新的工具（這些工具即將或已經(jīng)可以使用），旨在幫助開發(fā)者和客戶提高他們自己生成式人工智能系統(tǒng)的安全性和可靠性。這些新工具包括允許客戶對其應(yīng)用程序進行安全評估的功能，幫助開發(fā)者快速識別和解決漏洞，執(zhí)行額外的風(fēng)險和安全監(jiān)控，并檢測模型產(chǎn)生“幻覺”、生成虛假或虛構(gòu)數(shù)據(jù)的情況。

Sarah Bird 表示：“關(guān)鍵在于，我們希望安全性能成為默認(rèn)選項?！?/p>

06預(yù)見并防范破壞行為

人工智能技術(shù)的越來越復(fù)雜，或許不可避免會有人試圖以各種方式挑戰(zhàn)系統(tǒng)，進行一些無害或惡意的“越獄”操作。在科技領(lǐng)域，“越獄”指的是繞過人工智能系統(tǒng)中的安全機制的行為。

除了在新產(chǎn)品發(fā)布前探測漏洞，微軟還與客戶合作，為其提供最新工具以保護客戶在 Azure 上的自定義 AI 應(yīng)用。例如，微軟推出的新模型可以通過模式識別檢測并阻止惡意“越獄”，從而保護了大語言模型和用戶交互的完整性，并防止惡意指令控制或攻擊 AI 系統(tǒng)。

Natasha Crampton 指出：“這些用途顯然不是我們設(shè)計系統(tǒng)時的初衷，但隨著技術(shù)的邊界不斷向前推進，這就會自然發(fā)生?！?/p>

07幫助用戶了解人工智能的局限性

盡管人工智能給我們的生活帶來了諸多便利，但它并非完美無缺。微軟鼓勵用戶驗證AI系統(tǒng)提供的信息，并在聊天輸出結(jié)果的末尾提供了引用來源鏈接，以增強透明度。

自2019年以來，微軟一直都有發(fā)布“透明度說明”，為客戶提供關(guān)于 AI 功能、限制、用途及負(fù)責(zé)任使用的詳細(xì)信息。公司還在面向消費者的產(chǎn)品（如 Copilot）中加入了用戶友好型通知，圍繞風(fēng)險識別、人工智能報錯或生成意外內(nèi)容的可能性等主題提供重要披露，并提醒人們他們正在與人工智能進行交互。

隨著生成式人工智能技術(shù)及其用途的不斷擴展，持續(xù)改進系統(tǒng)、適應(yīng)新法規(guī)、更新流程并努力創(chuàng)造符合用戶需求的人工智能體驗，將尤為重要。

“我們必須保持謙遜，認(rèn)識到我們對新技術(shù)的應(yīng)用方式尚不明確，因此，我們需要傾聽用戶的聲音，” Sarah Bird 說，“我們必須不斷創(chuàng)新、學(xué)習(xí)和傾聽?！?/p>