2020年12月18日晚九點(diǎn)，在首屆清華大學(xué)人工智能合作與治理國(guó)際論壇上舉行了“人工智能與國(guó)際安全：挑戰(zhàn)與機(jī)遇”分論壇，由清華大學(xué)戰(zhàn)略與安全研究中心（以下簡(jiǎn)稱中心）承辦。此次分論壇重點(diǎn)公布和通報(bào)了中心與布魯金斯學(xué)會(huì)聯(lián)合研究項(xiàng)目“人工智能與國(guó)際安全”的初步成果，這個(gè)項(xiàng)目得到博古睿研究院和明德路基金會(huì)的共同支持。

論壇現(xiàn)場(chǎng)

清華大學(xué)戰(zhàn)略與安全研究中心主任、人工智能?chē)?guó)際治理研究院名譽(yù)院長(zhǎng)傅瑩和布魯金斯學(xué)會(huì)主席約翰·艾倫（John Allen）圍繞會(huì)議主題做主旨發(fā)言。清華大學(xué)戰(zhàn)略與安全研究中心高級(jí)研究員、國(guó)際關(guān)系學(xué)系教授李彬?qū)β?lián)合研究的情況和中方專(zhuān)家關(guān)于智能武器風(fēng)險(xiǎn)和治理的思路做了詳細(xì)介紹。中國(guó)電科發(fā)展戰(zhàn)略研究中心高級(jí)工程師郝英好、中國(guó)軍控與裁軍協(xié)會(huì)副會(huì)長(zhǎng)兼秘書(shū)長(zhǎng)李馳江、博古睿研究院項(xiàng)目副總裁尼爾斯·吉爾曼（Nils Gilman）、布魯金斯學(xué)會(huì)研究員克里斯·梅塞羅（Chris Meserole）、布魯金斯學(xué)會(huì)訪問(wèn)研究員湯姆·斯蒂芬尼克（Tom Stefanick）等項(xiàng)目成員，就人工智能的攻擊禁區(qū)、數(shù)據(jù)安全風(fēng)險(xiǎn)、對(duì)國(guó)際法的挑戰(zhàn)以及中美在全球治理上的合作等問(wèn)題分別發(fā)表觀點(diǎn)。分論壇由清華大學(xué)戰(zhàn)略與安全研究中心副主任肖茜主持。

約翰·艾倫在主旨發(fā)言中提到，中美在人工智能等新興技術(shù)領(lǐng)域的戰(zhàn)略競(jìng)爭(zhēng)日益明顯，圍繞著“人工智能軍備競(jìng)賽”的說(shuō)法不絕于耳。為了避免不可控的軍備競(jìng)賽，他希望“人工智能與國(guó)際安全”項(xiàng)目中所討論的安全關(guān)切，能夠在政府層面對(duì)話和非官方論壇中得到進(jìn)一步探討，特別是針對(duì)人工智能所構(gòu)成的國(guó)家安全風(fēng)險(xiǎn)，以降低這些風(fēng)險(xiǎn)發(fā)生的可能性。他認(rèn)為現(xiàn)在正是規(guī)范技術(shù)發(fā)展和應(yīng)用的關(guān)鍵期，呼吁美中兩國(guó)的政府和專(zhuān)家團(tuán)體能夠抓住當(dāng)下的機(jī)遇，圍繞降低人工智能可能構(gòu)成的國(guó)家安全風(fēng)險(xiǎn)的實(shí)際步驟達(dá)成共識(shí)。

傅瑩在主旨發(fā)言中重點(diǎn)介紹了中國(guó)關(guān)于人工智能治理國(guó)際合作的主張，她說(shuō)，今年11月中國(guó)***習(xí)近平在二十國(guó)集團(tuán)（G20）峰會(huì)上強(qiáng)調(diào)，中方支持圍繞人工智能加強(qiáng)對(duì)話，倡議適時(shí)召開(kāi)專(zhuān)題會(huì)議，推動(dòng)落實(shí)G20人工智能原則，引領(lǐng)全球人工智能的健康發(fā)展。今年9月，中國(guó)國(guó)務(wù)委員兼外長(zhǎng)王毅提出《全球數(shù)據(jù)安全倡議》，表示希望國(guó)際社會(huì)在普遍參與的基礎(chǔ)上就人工智能的安全問(wèn)題達(dá)成國(guó)際協(xié)議，支持通過(guò)雙邊或多邊協(xié)議的形式確認(rèn)倡議中的承諾。他提出有效應(yīng)對(duì)數(shù)據(jù)安全風(fēng)險(xiǎn)應(yīng)遵循的三項(xiàng)原則,包括秉持多邊主義、兼顧安全發(fā)展和堅(jiān)守公平正義等。

她說(shuō)，中美關(guān)于人工智能安全治理的聯(lián)合研究項(xiàng)目是一個(gè)成功的案例，雙方都從中受益良多，研究結(jié)果也有很好的參考價(jià)值。既然人工智能武器化不可避免，我們需要尋找合適的治理路徑。人類(lèi)必須汲取歷史教訓(xùn)，例如對(duì)核武器的治理共識(shí)就發(fā)生的太晚，導(dǎo)致人類(lèi)曾經(jīng)面臨巨大威脅，互聯(lián)網(wǎng)的治理也沒(méi)有能夠在早期實(shí)現(xiàn)。大家希望這次對(duì)人工智能，尤其是智能武器的治理，人類(lèi)能走在技術(shù)變革的前面，充分認(rèn)識(shí)其風(fēng)險(xiǎn)，早些達(dá)成治理共識(shí)。在討論人工智能?chē)?guó)際治理時(shí)，人們經(jīng)常引用在核武器治理方面享有聲譽(yù)的Pugwash機(jī)構(gòu)（帕格沃什科學(xué)和世界事務(wù)會(huì)議），這一機(jī)構(gòu)在核軍控領(lǐng)域起到了積極作用。在推動(dòng)人工智能的國(guó)際治理方面，也可以參考這樣的方式，成立一個(gè)由科研人員、政府和政策專(zhuān)業(yè)人士組成的“人工智能?chē)?guó)際治理委員會(huì)”。

傅瑩發(fā)言

中方團(tuán)隊(duì)牽頭人李彬在總結(jié)中方團(tuán)隊(duì)研究的進(jìn)展和發(fā)現(xiàn)時(shí)說(shuō)，國(guó)際法的基本準(zhǔn)則應(yīng)該被納入到人工智能武器的設(shè)計(jì)和部署之中，從而確保使用智能武器進(jìn)行武力攻擊時(shí)符合國(guó)際法律規(guī)范。他談到武力法和武裝沖突法的運(yùn)用，主張用國(guó)際法的基本原則指導(dǎo)人工智能軍用技術(shù)的開(kāi)發(fā)，同時(shí)還應(yīng)該在人工智能程序員和軍事操作人員中開(kāi)展教育，讓他們更好地理解和在實(shí)踐中貫徹使用武力法中的相稱性原則和武裝沖突法中的比例原則。

李彬發(fā)言

在座談環(huán)節(jié)，專(zhuān)家就中美如何在人工智能治理領(lǐng)域合作展開(kāi)深入討論并表示，中美兩國(guó)是人工智能大國(guó)，都有防范軍用人工智能技術(shù)風(fēng)險(xiǎn)和完善治理的需求。人工智能技術(shù)的濫用或者偏差有可能沖擊戰(zhàn)略穩(wěn)定、改變交戰(zhàn)規(guī)則，抬高軍事風(fēng)險(xiǎn)。中美都有較強(qiáng)的風(fēng)險(xiǎn)管控需求和共同利益。因此，中美在人工智能?chē)?guó)際治理中有很大的合作空間。有專(zhuān)家指出，人工智能在數(shù)據(jù)收集、算法訓(xùn)練和戰(zhàn)場(chǎng)應(yīng)用中，必須遵守國(guó)際法中的比例原則和區(qū)分原則，不能攻擊平民或民用設(shè)施，造成過(guò)多的傷害。中方專(zhuān)家提出采用數(shù)據(jù)收集的“紅綠燈”規(guī)則，禁止人工智能武器攻擊民用目標(biāo)，只能對(duì)完全確認(rèn)的軍用目標(biāo)發(fā)動(dòng)進(jìn)攻。這個(gè)措施可以使人工智能更好地遵守國(guó)際法。

最后，專(zhuān)家們表示，包括中美在內(nèi)的世界各國(guó)可以通過(guò)政策交流、互換文件、學(xué)者探討等多種方式，增信釋疑，實(shí)現(xiàn)在人工智能安全問(wèn)題上形成國(guó)際治理共識(shí)。

責(zé)任編輯：lq