在過去十年中，人工智能 (AI) 領(lǐng)域取得了令人矚目的進(jìn)步，尤其是在數(shù)據(jù)驅(qū)動(dòng)的機(jī)器學(xué)習(xí)（ML）技術(shù)方面。然而，對(duì)于許多國家安全應(yīng)用來說，具有適當(dāng)可信度的人工智能還不存在。為了獲得信任，這樣的系統(tǒng)必須能夠可靠地運(yùn)行，與人進(jìn)行適當(dāng)?shù)幕?dòng)，并以合乎道德倫理的方式滿足緊迫的國家安全需求。創(chuàng)建這樣的系統(tǒng)需要在（至少）三個(gè)關(guān)鍵領(lǐng)域取得重大進(jìn)展：

1.基礎(chǔ)理論：了解可能性的藝術(shù)，限制特定系統(tǒng)實(shí)例化的限制，并為國家安全等具有挑戰(zhàn)性領(lǐng)域的人工智能系統(tǒng)提供信息；

2.人工智能工程：以可預(yù)測(cè)的方式構(gòu)建在現(xiàn)實(shí)世界中按預(yù)期工作的系統(tǒng)，而不僅僅是在實(shí)驗(yàn)室中；

3.人機(jī)協(xié)同：使系統(tǒng)能夠成為具有不同背景的人的流暢、直觀、值得信賴的隊(duì)友。

DARPA對(duì)于人工智能的理解（翻譯&字幕 by 防務(wù)菌）

美國防高級(jí)研究計(jì)劃局（DARPA）在起草當(dāng)前的“AI分析框架”過程中，這些要點(diǎn)成為重要方向，并與國家AI研發(fā)戰(zhàn)略重點(diǎn)保持一致 。此外，需要在數(shù)據(jù)和計(jì)算方面顯著提高M(jìn)L的效率，以使基于ML的系統(tǒng)對(duì)許多國家安全應(yīng)用具有成本效益。

2022年9月13日，DARPA在“前沿”系列研討會(huì)（詳情可參見防務(wù)菌此前推送：【Forward Conference】重磅！DARPA即將召開前沿系列研討會(huì)）的第二站華盛頓州立大學(xué)活動(dòng)上（詳情可參見防務(wù)菌此前推送：【Forward Conference】DARPA“前沿”系列研討會(huì)之第二站——華盛頓州立大學(xué)），信息創(chuàng)新辦公室（I2O）主任凱瑟琳·費(fèi)舍爾（Kathleen Fisher）博士向與會(huì)者做了題為“用于對(duì)抗環(huán)境的可信人工智能”的系列項(xiàng)目簡(jiǎn)介。在將近45分鐘的時(shí)間里，梳理了從生成對(duì)抗網(wǎng)絡(luò)（GAN）、深度語音2（Deep Speech 2）到AlphaGo、Move 37、Libratus系統(tǒng)、特斯拉自動(dòng)駕駛、GPT-3、AlphaFold等等一系列AI在各個(gè)領(lǐng)域的應(yīng)用情況，最終落到國防領(lǐng)域。

用于對(duì)抗環(huán)境的可信人工智能（翻譯&字幕 by 防務(wù)菌）

2022年10月26日，在“前沿”系列研討會(huì)的第四站佐治亞理工學(xué)院站活動(dòng)上（詳情可參見防務(wù)菌此前推送：【Forward Conference】DARPA“前沿”系列研討會(huì)之第四站——佐治亞理工學(xué)院），凱瑟琳·費(fèi)舍爾（Kathleen Fisher）宣布了“人工智能前沿”（AI Forward）計(jì)劃，聚焦三個(gè)關(guān)鍵領(lǐng)域：第一，基礎(chǔ)理論，以便了解可能的藝術(shù)；第二，人工智能工程，以便能夠可靠地和可預(yù)測(cè)地建立在現(xiàn)場(chǎng)和實(shí)驗(yàn)室中都能工作的系統(tǒng) ；第三，人-AI協(xié)同，使系統(tǒng)能夠作為流暢的直覺伙伴，而不僅僅是工具（詳情可參見防務(wù)菌此前推送：【AI Tutoring 】DARPA人工智能（AI）應(yīng)用新開一局）。

DARPA信息創(chuàng)新辦公室（I2O）主任凱瑟琳·費(fèi)舍爾解讀“AI前沿”（AI Forward）計(jì)劃（翻譯&字幕 by 防務(wù)菌）

為加速推進(jìn)AI Forward計(jì)劃，2023年2月25日，DARPA通過其官網(wǎng)宣布，將于2023年6月和7月，分別通過在線和現(xiàn)場(chǎng)的方式召開兩個(gè)研討會(huì)。

1.在線研討會(huì)：2023年6月13日至16日（周二至周五）；美國東部時(shí)間12:00 - 5:00，每天休息一小時(shí)。

2.現(xiàn)場(chǎng)研討會(huì)：2023年7月31日至8月2日，馬薩諸塞州波士頓，美國東部時(shí)間，周一 11:00 - 6:00；周二 9:00 - 6:00；周三 9:00 - 5:00

在這些高度互動(dòng)和協(xié)作的研討會(huì)中，參與者將共同設(shè)想新的AI研究方向，這些方向可能會(huì)催生適用于國家安全應(yīng)用的可信AI。每個(gè)研討會(huì)的參與人數(shù)限制為大約100人。每個(gè)研討會(huì)都將包括與行業(yè)、學(xué)術(shù)和政府領(lǐng)導(dǎo)以及專家就AI當(dāng)前和未來研究方向進(jìn)行的討論和有指導(dǎo)的頭腦風(fēng)暴會(huì)議。

DARPA預(yù)計(jì)研討會(huì)將是激烈、互動(dòng)和自由思考的。他們旨在激發(fā)對(duì)跨越AI許多不同領(lǐng)域的有前途的新研究方向的思考，包括人類語言技術(shù)、大型語言模型、生成模型、AI哲學(xué)和倫理，以及著眼于未來國家安全相關(guān)的具身認(rèn)知應(yīng)用程序。參與者將被期望與彼此、協(xié)調(diào)人和主題指南（將幫助構(gòu)建和指導(dǎo)討論的領(lǐng)域?qū)＜遥┙ㄔO(shè)性地進(jìn)行對(duì)話，以制定合作研究主題，以幫助定義未來可能的DARPA活動(dòng)。目標(biāo)是將來自不同學(xué)科的個(gè)人聚集在一起，根據(jù)第一原則進(jìn)行互動(dòng)和自由思考，相互學(xué)習(xí)，

在研討會(huì)的過程中，參與者將組成小組，針對(duì)跨學(xué)科主題領(lǐng)域推介和完善主題（基于主題指南的輸入），這些主題領(lǐng)域推進(jìn)關(guān)于AI未來的科學(xué)問題，以及如何解決有能力、可信AI的問題在具有挑戰(zhàn)性的現(xiàn)實(shí)世界問題中與人類很好地合作。

AI Forward計(jì)劃將由KnowInnovation推動(dòng)，KnowInnovation 是一家專門與科學(xué)團(tuán)體合作以加速創(chuàng)新并實(shí)現(xiàn)戰(zhàn)略成果的公司。參與者可以期待高度互動(dòng)的在線和現(xiàn)場(chǎng)活動(dòng)。在一些旨在搭建舞臺(tái)的有針對(duì)性的全體演講之后，大部分時(shí)間將花在以解決方案為中心的討論上。

AI Forward研討會(huì)的最終成果將是確定大約40個(gè)有前途的未來研究領(lǐng)域。對(duì)于每個(gè)領(lǐng)域，參與者將探索諸如未解決的問題、潛在的研究問題、預(yù)期的影響以及取得進(jìn)展所需的專業(yè)知識(shí)等項(xiàng)目。參與者將針對(duì)每個(gè)領(lǐng)域進(jìn)行演示（2-3 分鐘）并提供配套的白皮書（2-3 頁）。DARPA將考慮這些演示文稿和白皮書，以制定其未來的AI戰(zhàn)略。作為該戰(zhàn)略的一部分，DARPA可能會(huì)根據(jù)兩個(gè)AI Forward研討會(huì)的成果創(chuàng)建2個(gè)新的人工智能探索項(xiàng)目 (AIE) 。參與者將能夠向這些AIE提交他們的工作以供考慮，這些AIE將被廣泛宣布以征求建議。

對(duì)于即將召開的AI Forward研討會(huì)，凱瑟琳·費(fèi)舍爾表示：“盡管我們已經(jīng)看到了該領(lǐng)域的巨大進(jìn)步，但人工智能仍然需要大量的投資和進(jìn)步，以開發(fā)可靠運(yùn)行、與人適當(dāng)互動(dòng)的技術(shù)，并以倫理道德方式滿足最緊迫的國家安全和社會(huì)需求。我們正在呼吁所有相關(guān)的研究人員和專家加入我們的行列，因?yàn)槲覀冋诙x當(dāng)今最具影響的技術(shù)的未來。通過參與AI Forward，你將有機(jī)會(huì)幫助規(guī)劃未來幾十年保持我們國家和我們盟友安全所必需的能力?！?/p>

審核編輯 ：李倩