本周二，美東時(shí)間，得以觀測(cè)到，在上個(gè)月有“里程碑式”標(biāo)簽的行政命令簽署后，美國(guó)總統(tǒng)Biden正在領(lǐng)導(dǎo)一場(chǎng)關(guān)于生成式人工智能的政策改革。該行動(dòng)從早在四季度就開(kāi)始實(shí)施，其目的就是為了保證機(jī)器學(xué)習(xí)系統(tǒng)能精準(zhǔn)處理安全問(wèn)題。

美國(guó)商務(wù)部的國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）宣布，即將于2月2日起，啟動(dòng)人工智能的關(guān)鍵性測(cè)試工作，這對(duì)于保護(hù)人工智能系統(tǒng)的安全性具有巨大的現(xiàn)實(shí)意義。

NIST強(qiáng)調(diào)，正在積極擬定評(píng)估和檢測(cè)AI系統(tǒng)的具體指南，以推動(dòng)人工智能領(lǐng)域的標(biāo)準(zhǔn)化進(jìn)程，同時(shí)為評(píng)估人工智能系統(tǒng)提供完善的測(cè)試環(huán)境。針對(duì)人工智能行業(yè)的潛在風(fēng)險(xiǎn)，美國(guó)商務(wù)部長(zhǎng)Gina Raimondo表示，全新的NIST措施正受到Biden總統(tǒng)10月份行政命令的催化作用影響，致力于打造“涵蓋范圍廣泛，關(guān)乎人工智能安全、保障及信任的行業(yè)標(biāo)準(zhǔn)，以此加強(qiáng)美國(guó)在負(fù)責(zé)任運(yùn)營(yíng)和使用這項(xiàng)快速進(jìn)化技術(shù)方面的全球領(lǐng)導(dǎo)地位。”

據(jù)悉，NIST目前計(jì)劃制定包含“紅隊(duì)”測(cè)試策略在內(nèi)的專項(xiàng)指導(dǎo)方針，即由專家團(tuán)隊(duì)模擬對(duì)手環(huán)境，對(duì)人工智能系統(tǒng)的安全性能進(jìn)行全面檢驗(yàn)?！凹t隊(duì)”測(cè)試作為網(wǎng)絡(luò)安全測(cè)試中的核心環(huán)節(jié)，其重要性不言而喻。8月份，在一次重量級(jí)的網(wǎng)絡(luò)安全會(huì)議上，美國(guó)首次公開(kāi)展示了人工智能的“紅隊(duì)”測(cè)試過(guò)程，吸引了大量AI行業(yè)組織如AI Village、SeedAI和Humane Intelligence等參與其中。

據(jù)白宮披露，該次測(cè)試的參與人次高達(dá)數(shù)千人，大家通過(guò)嘗試主動(dòng)攻擊系統(tǒng)來(lái)找出可能存在的安全隱患，并探討了如何改進(jìn)以提升整體防御水平。此次測(cè)試也證實(shí)了“外部紅隊(duì)在發(fā)現(xiàn)新穎的人工智能風(fēng)險(xiǎn)方面的顯著優(yōu)勢(shì)”。