據(jù)昨日消息，全球領(lǐng)先的人工智能研究機(jī)構(gòu)OpenAI于當(dāng)?shù)貢r間本周二發(fā)布博客稱，已正式成立一支名為“集體對齊”的新團(tuán)隊。新團(tuán)隊集結(jié)了一批經(jīng)驗豐富的研究員及工程師，現(xiàn)正致力于策劃并實行群眾觀點(diǎn)采集環(huán)節(jié)，幫助調(diào)整及規(guī)范其人工智能模型行為，以期化解可能出現(xiàn)的偏頗及相關(guān)挑戰(zhàn)。

OpenAI在博客中分享說：“我們的終極愿景是構(gòu)建一套能收集并轉(zhuǎn)化公眾對于我們模型行為的認(rèn)識的體系，以期把這些重要且細(xì)致入微的建議融入我們今后的產(chǎn)品和服務(wù)中，使我們的人工智能模型更趨向于與人類道德觀相符?！?/p>

為此，OpenAI積極尋找具備各種技術(shù)資質(zhì)的研究工程師加入新團(tuán)隊。他們期望與外部咨詢公司加強(qiáng)協(xié)作，甚至開始進(jìn)行創(chuàng)新試驗，將最初版本引入我們的模型中。他們迫切需要各界專才，攜手邁出這一步。

“集體對齊”團(tuán)隊實際上為OpenAI于去年五月份開啟的公共項目的延續(xù)。這個項目致力于資助研發(fā)“民主程序”的實驗，以確立人工智能系統(tǒng)應(yīng)遵守的規(guī)則。OpenIA曾經(jīng)明確表態(tài)，該項目是為了支持個人、團(tuán)隊以及組織研發(fā)概念驗證，并在概念明確后回答關(guān)于人工智能監(jiān)測與治理方面的問題。

OpenAI研究工程師、新團(tuán)隊創(chuàng)始人之一泰納·埃倫杜（Tyna Eloundou）強(qiáng)調(diào)：“隨著我們走向超級智能模型，這類模型必將逐步成為社會生活不可缺少的一環(huán)。因此，讓公眾有機(jī)會發(fā)表意見至關(guān)重要?！?/p>

舉例來說，為確保僅由人類參與投票并給予評價，OpenAI正考慮與Worldcoin展開合作。Worldcoin是OpenAI首席執(zhí)行官薩姆 · 阿爾特曼（Sam Altman）親自操刀的加密貨幣項目，具備識別人類和人工智能機(jī)器人的獨(dú)特功能。

自2022年末推出ChatGPT以來，OpenAI憑借生成性人工智能技術(shù)取得眾多公眾的關(guān)注。運(yùn)用這種技術(shù)，簡單暗示即可生成大量文字內(nèi)容，使得ChatGPT成為有史以來增長速度最為迅猛的應(yīng)用程序之一。

然而，人工智能技術(shù)催人不及掩耳的進(jìn)步亦引起深深憂慮。尤其是其制造虛假圖像及誤導(dǎo)性信息的能力，令2024年美國總統(tǒng)選舉臨近之際，公眾擔(dān)心不已。多位評論家指出，如ChatGPT等人工智能系統(tǒng)因接受的數(shù)據(jù)成分所限而自帶偏見，用戶已多次發(fā)現(xiàn)某些人工智能軟件輸出顯示出明顯的種族主義或性別歧視傾向。

本次博客更新中，OpenAI還詳盡總結(jié)了支援對象的工作成果，其中包含視頻對話界面、人工智能模型眾包審計平臺以及“如何將信仰映射至可用于精細(xì)調(diào)整模型行為的因素”的方法。除此之外，他們也公開了所有援助對象在工作中所采納的代碼以及每個項目方案的精華摘要。

盡管 OpenAI 試圖將該項目描述為與其商業(yè)利益無關(guān)，但考慮到其首席執(zhí)行官阿爾特曼對歐盟人工智能監(jiān)管的批評態(tài)度，這一說法似乎有些難以令人信服。阿爾特曼以及 OpenAI 總裁格雷格?布羅克曼（Greg Brockman）和首席科學(xué)家伊利亞?蘇茨凱弗（Ilya Sutskever）一再強(qiáng)調(diào)，人工智能的創(chuàng)新速度非?？?，以至于我們無法指望現(xiàn)有的權(quán)威機(jī)構(gòu)能夠充分控制這項技術(shù)。因此，他們提出了將這項工作眾包的解決方案。