3月13日，《中華人民共和國國民經(jīng)濟(jì)和社會發(fā)展第十五個五年規(guī)劃綱要》（以下簡稱《綱要》）正式發(fā)布，為我國未來五年經(jīng)濟(jì)社會發(fā)展擘畫了宏偉藍(lán)圖、明確了實踐路徑。人工智能作為新質(zhì)生產(chǎn)力的核心引擎，在《綱要》正文中被提及30次，被賦予了前所未有的戰(zhàn)略地位，其發(fā)展與安全治理被納入數(shù)字中國建設(shè)、國家安全體系的全局部署。

統(tǒng)籌發(fā)展與安全是《綱要》的基本方略，也是未來五年我國人工智能產(chǎn)業(yè)發(fā)展的主基調(diào)?！毒V要》明確將人工智能安全與治理納入國家頂層設(shè)計，并在戰(zhàn)略布局、法律法規(guī)、體系建設(shè)、重點治理等層面，提出了明確的規(guī)劃與要求。這標(biāo)志著我國人工智能安全與治理正式進(jìn)入全領(lǐng)域、全流程、制度化的全新發(fā)展階段，也為政、企、學(xué)、研、用各界指明了方向、確立了目標(biāo)。

本文將系統(tǒng)解讀《綱要》對于人工智能安全與治理的相關(guān)政策部署，聚焦全生命周期風(fēng)險管理制度與風(fēng)險防控體系建設(shè)，為各界準(zhǔn)確把握政策導(dǎo)向提供權(quán)威參考。

一、夯實制度基石：完善人工智能安全治理的法治體系

“十五五”期間，人工智能安全與治理全面納入法治化軌道?！毒V要》第十四章第二節(jié)“完善科學(xué)有效監(jiān)管機(jī)制”中明確要求：“完善人工智能領(lǐng)域法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則，健全算法備案、透明度管理、安全評估等制度，探索建立人工智能生成物權(quán)利歸屬和開發(fā)者、經(jīng)營者、使用者權(quán)責(zé)認(rèn)定規(guī)則”。

這意味著，我國將加速構(gòu)建“法治+監(jiān)管+倫理+標(biāo)準(zhǔn)”四位一體的治理體系，為風(fēng)控體系落地提供制度支撐。

在法治層面，新修訂的《網(wǎng)絡(luò)安全法》已新增人工智能安全與治理相關(guān)條款，將AI安全納入網(wǎng)絡(luò)安全基礎(chǔ)性法律框架，實現(xiàn)了AI安全與網(wǎng)絡(luò)、數(shù)據(jù)安全的法治銜接。結(jié)合《綱要》部署，“十五五”期間，業(yè)界期盼已久的《人工智能法》有望正式進(jìn)入立法程序，針對算法歧視、深度偽造責(zé)任歸屬等深層次問題提供專項法律依據(jù)。

在監(jiān)管層面，《綱要》明確要求制定的算法備案、透明度管理、安全評估三大制度，將保證算法可追溯、打破算法黑箱、嚴(yán)控源頭風(fēng)險。

在倫理和標(biāo)準(zhǔn)層面，倫理準(zhǔn)則與配套的國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)為技術(shù)應(yīng)用劃定價值底線，提供可操作的執(zhí)行依據(jù)，讓AI治理有法可依、有章可循。

二、強(qiáng)化風(fēng)險管理：建立人工智能全生命周期風(fēng)險管理制度

《綱要》明確提出：“推動建立人工智能全生命周期風(fēng)險管理制度”。這是AI安全治理的核心制度安排，也是落實“統(tǒng)籌發(fā)展與安全”方針的關(guān)鍵舉措，旨在破解傳統(tǒng)監(jiān)管“事前無防范、事中難管控、事后缺處置”的痛點，將治理的觸角延伸至算法設(shè)計、數(shù)據(jù)采集、模型訓(xùn)練、測試評估及部署應(yīng)用的每一個細(xì)胞。

該制度覆蓋AI系統(tǒng)從規(guī)劃到退役的六大核心環(huán)節(jié)，全程落實風(fēng)險可預(yù)判、可監(jiān)測、可處置、可追溯的要求。

需求分析與設(shè)計階段：聚焦風(fēng)險前置評估，在系統(tǒng)立項初期同步識別安全、倫理、法律風(fēng)險，建立風(fēng)險清單與分級標(biāo)準(zhǔn)，對高風(fēng)險場景嚴(yán)格約束，從源頭防范技術(shù)盲目落地。

數(shù)據(jù)準(zhǔn)備與預(yù)處理階段：聚焦數(shù)據(jù)合規(guī)與質(zhì)量管控，遵循法律法規(guī)要求，規(guī)范數(shù)據(jù)采集、標(biāo)注、存儲全流程，開展質(zhì)量校驗，強(qiáng)化敏感數(shù)據(jù)加密與隱私保護(hù)，為后續(xù)模型開發(fā)提供安全合規(guī)的數(shù)據(jù)支撐。

模型開發(fā)與訓(xùn)練階段：落實“安全左移”理念，強(qiáng)化模型算法安全測試、數(shù)據(jù)安全管控與隱私保護(hù)，規(guī)范數(shù)據(jù)全流程使用，杜絕非法數(shù)據(jù)濫用，消除技術(shù)內(nèi)生安全隱患。

工程化與部署階段：實施分級安全管控，完成安全驗證、算法備案與透明度評估，按場景風(fēng)險等級差異化監(jiān)管，涉及公共利益、國家安全的高風(fēng)險場景從嚴(yán)管控，確保不安全系統(tǒng)不落地運行。

運行與監(jiān)控階段：搭建常態(tài)化監(jiān)測平臺，實時跟蹤系統(tǒng)運行、模型輸出與數(shù)據(jù)流轉(zhuǎn)，精準(zhǔn)識別異常漏洞與倫理偏差，實現(xiàn)風(fēng)險早發(fā)現(xiàn)、早研判。

退役與停用階段：規(guī)范數(shù)據(jù)銷毀、模型封存與系統(tǒng)關(guān)停流程，徹底清除敏感數(shù)據(jù)與技術(shù)殘留，杜絕后續(xù)數(shù)據(jù)泄露風(fēng)險，形成完整管理閉環(huán)。

這要求企業(yè)將安全管理由“外部約束”全面轉(zhuǎn)化為“內(nèi)部流程體系”。在實踐層面，企業(yè)應(yīng)嚴(yán)格落實《綱要》關(guān)于算法備案、透明度管理與安全評估的法定要求，將合規(guī)審查節(jié)點深度嵌入從立項研發(fā)、數(shù)據(jù)處理到部署退役的每一道流程關(guān)口。通過建立貫穿全過程的倫理審查與權(quán)責(zé)認(rèn)定機(jī)制，確保AI系統(tǒng)在生命周期的每一個坐標(biāo)點都具備“合規(guī)身份”，從而在組織制度層面筑牢防御陣地，實現(xiàn)從“零散防范”向“全流程合規(guī)管理”的系統(tǒng)性跨越。

三、提升響應(yīng)能力：打造風(fēng)險防控閉環(huán)體系

如果說全生命周期管理制度是治理的“藍(lán)圖”，那么風(fēng)險防控體系就是實現(xiàn)該藍(lán)圖的核心“抓手”。《綱要》明確提出：“健全覆蓋安全監(jiān)測、風(fēng)險預(yù)警、應(yīng)急響應(yīng)的風(fēng)險防控體系”。該體系是全生命周期風(fēng)險管理制度的核心支撐，三大機(jī)制協(xié)同聯(lián)動，構(gòu)建“監(jiān)測-預(yù)警-響應(yīng)”的風(fēng)險管理閉環(huán)，實現(xiàn)從單點防御到系統(tǒng)防護(hù)的升級。

安全監(jiān)測機(jī)制是風(fēng)險防控的基礎(chǔ)，依托技術(shù)平臺搭建全覆蓋監(jiān)測體系，覆蓋模型、數(shù)據(jù)、系統(tǒng)、算法等核心維度，實時捕捉風(fēng)險苗頭與異常波動，為風(fēng)險處置提供精準(zhǔn)數(shù)據(jù)支撐，做到風(fēng)險早發(fā)現(xiàn)。

風(fēng)險預(yù)警機(jī)制是防控樞紐，基于監(jiān)測數(shù)據(jù)開展分級研判，劃分一般、重大、特別重大風(fēng)險等級，建立分級預(yù)警流程，對高風(fēng)險事項及時發(fā)出提示，為風(fēng)險處置爭取時間，做到防患未然。

應(yīng)急響應(yīng)機(jī)制是最后防線，制定專項應(yīng)急預(yù)案，建立AI系統(tǒng)熔斷與一鍵管控機(jī)制，突發(fā)風(fēng)險時快速啟動處置，暫停違規(guī)系統(tǒng)運行，控制風(fēng)險擴(kuò)散，降低損失并復(fù)盤優(yōu)化，形成處置閉環(huán)。

風(fēng)險防控體系的有效運轉(zhuǎn)，核心在于實現(xiàn)從“管理框架”到“內(nèi)生本領(lǐng)”的技術(shù)跨越。企業(yè)需深度落實《綱要》關(guān)于“深化可解釋、可決策等關(guān)鍵算法研究”的部署，從底層架構(gòu)層面賦予系統(tǒng)更強(qiáng)的抗干擾能力與邏輯透明度。通過構(gòu)建動態(tài)感知的安全監(jiān)測儀表盤與標(biāo)準(zhǔn)化的應(yīng)急止損接口，確保在面對數(shù)據(jù)濫用、深度偽造等突發(fā)風(fēng)險時，系統(tǒng)能夠?qū)崿F(xiàn)“感知即預(yù)警、預(yù)警即響應(yīng)”的技術(shù)閉環(huán)。這種即時化的風(fēng)險處置能力，將成為企業(yè)在復(fù)雜數(shù)智環(huán)境下確保業(yè)務(wù)連續(xù)性的核心安全底座。

四、精準(zhǔn)靶向治理：重塑社會治理與平臺經(jīng)濟(jì)數(shù)智規(guī)范

針對社會反響強(qiáng)烈的AI亂象，《綱要》列出了明確的治理“清單”，即要求“依法打擊數(shù)據(jù)濫用、深度偽造、泄露隱私等行為”。這體現(xiàn)了監(jiān)管層面對個人信息保護(hù)和網(wǎng)絡(luò)空間真實性的高度重視。同時，對于支撐AI運行的平臺生態(tài)，《綱要》要求“加強(qiáng)平臺企業(yè)數(shù)據(jù)、算法、流量和規(guī)則監(jiān)管”，旨在打破“內(nèi)卷式”競爭，促進(jìn)平臺企業(yè)和平臺內(nèi)經(jīng)營者、勞動者共贏發(fā)展

此外，《綱要》高度重視人工智能在社會治理中的作用。通過深化“人工智能+”行動，《綱要》要求在安全生產(chǎn)監(jiān)管、防災(zāi)減災(zāi)救災(zāi)、社會治安管理等領(lǐng)域全面賦能，從而實現(xiàn)社會治理的智慧化、精細(xì)化。

五、深化國際合作：貢獻(xiàn)人工智能全球治理的“中國方案”

人工智能的治理不僅是中國的問題，更是全球的共同挑戰(zhàn)?！毒V要》提出要“拓展數(shù)智領(lǐng)域國際合作”，并“積極參與人工智能、數(shù)字貨幣、數(shù)據(jù)跨境流動等領(lǐng)域國際治理”。在具體的組織架構(gòu)上，《綱要》明確提出要“推動成立世界人工智能合作組織”，并建設(shè)“‘一帶一路’人工智能多邊合作平臺”。

中國正以負(fù)責(zé)任大國的姿態(tài)，倡導(dǎo)“構(gòu)建平權(quán)、互信、多元、共贏的全球人工智能開放生態(tài)”。這種國際化視野不僅有助于在全球范圍內(nèi)輸AI治理的“中國方案”，更能通過“加強(qiáng)國際司法協(xié)調(diào)和規(guī)則互認(rèn)”，為我國AI產(chǎn)業(yè)參與全球數(shù)字治理、增強(qiáng)國際話語權(quán)提供有力支撐。

六、深化實踐落實：多元協(xié)同落實《綱要》部署

對《綱要》提出的宏觀部署，政策的生命力在于執(zhí)行。為了將人工智能安全治理的“藍(lán)圖”轉(zhuǎn)化為具體“實踐”，必須凝聚政、企、社、才各方合力，構(gòu)建多層聯(lián)動、協(xié)同增效的落地機(jī)制。

1.壓實企業(yè)主體責(zé)任，強(qiáng)化全鏈條安全管控

企業(yè)作為技術(shù)創(chuàng)新的主體，應(yīng)嚴(yán)格落實《綱要》關(guān)于“開發(fā)者、經(jīng)營者、使用者權(quán)責(zé)認(rèn)定規(guī)則”的要求。研發(fā)方需將安全評估、算法備案貫穿模型迭代全過程，確保技術(shù)“合規(guī)上線”；運營方與使用方應(yīng)建立健全內(nèi)部安全審核機(jī)制，壓實數(shù)據(jù)安全與隱私保護(hù)責(zé)任 ，實現(xiàn)安全能力從底層架構(gòu)到應(yīng)用端的全鏈條覆蓋。

2.提升政府監(jiān)管賦能，實現(xiàn)智能化精準(zhǔn)治理

《綱要》強(qiáng)調(diào)要“完善科學(xué)有效監(jiān)管機(jī)制”，這要求監(jiān)管部門加快向“智能監(jiān)管”轉(zhuǎn)型。通過“健全算法備案、透明度管理”等制度工具 ，政府應(yīng)充分利用 AI 技術(shù)賦能安全治理，提升對安全風(fēng)險的“感知預(yù)警、指揮決策和即時響應(yīng)能力”，在確保安全可靠的前提下，為人工智能產(chǎn)業(yè)營造“有益、安全、公平的發(fā)展環(huán)境”。

3.推動社會協(xié)同監(jiān)督，共建多元共治新格局

AI治理需堅持“多元協(xié)同共治”。應(yīng)暢通社會反饋渠道 ，鼓勵行業(yè)協(xié)會制定自律公約，引導(dǎo)各方“有序參與社會治理”。通過形成行業(yè)自律與社會監(jiān)督的合力，有效識別并抵制“數(shù)據(jù)濫用、深度偽造”等違規(guī)行為，讓科技向善成為全社會的自覺行動。

4.強(qiáng)化人才技術(shù)支撐，構(gòu)筑內(nèi)生安全底座

人才與技術(shù)是落地根基，需持續(xù)強(qiáng)化AI 安全技術(shù)研發(fā)與專業(yè)人才培養(yǎng)。聚焦模型安全、應(yīng)急處置等關(guān)鍵領(lǐng)域攻關(guān)核心技術(shù)，完善安全工具體系；深化校企協(xié)同育人，培育兼具技術(shù)、合規(guī)、倫理知識的復(fù)合型人才，為AI安全治理提供長效技術(shù)與人才支撐。

七、芯盾時代的人工智能安全與治理實踐

芯盾時代作為領(lǐng)先的業(yè)務(wù)安全產(chǎn)品方案提供商，自2015年成立以來，始終將人工智能技術(shù)作為核心戰(zhàn)略支柱之一，基于自主研發(fā)的AI模型與豐富的項目積累，助力企業(yè)構(gòu)建“雙向驅(qū)動”的AI業(yè)務(wù)安全體系，為企業(yè)數(shù)智化業(yè)務(wù)轉(zhuǎn)型的決策和安全防護(hù)場景，提供高精準(zhǔn)、零信任、自適應(yīng)的一體化AI基座。

為了共建人工智能安全與治理生態(tài)，芯盾時代作為發(fā)起單位之一，與中國科學(xué)院自動化研究所、北京大學(xué)、清華大學(xué)、中國信息通信研究院等政、企、學(xué)、研單位聯(lián)合發(fā)起成立了國內(nèi)首個AI安全與治理的研究機(jī)構(gòu)——北京前瞻人工智能安全與治理研究院，構(gòu)筑全球化交流平臺，共同開展人工智能安全研究與治理實踐，為國家的人工智能安全與治理體系貢獻(xiàn)中堅力量，為全球人工智能安全與治理的協(xié)作與合作貢獻(xiàn)中國聲音。

芯盾時代發(fā)起、承擔(dān)了多項人工智能安全與治理的前沿課題，取得了一系列研究成果，獲得了權(quán)威機(jī)構(gòu)的高度認(rèn)可。在此基礎(chǔ)上，芯盾時代將研究成果與自身產(chǎn)品技術(shù)深度融合，為客戶提供AI安全解決方案，幫助企業(yè)安全、高效地部署、使用AI大模型，奠定數(shù)智化轉(zhuǎn)型安全基座。

憑借在AI技術(shù)研發(fā)與應(yīng)用上的突出成果，芯盾時代先后榮獲“中國AI最高獎”吳文俊人工智能科學(xué)技術(shù)獎一等獎、北京市科學(xué)技術(shù)進(jìn)步二等獎、銀行業(yè)信息科技風(fēng)險管理課題一類成果獎、中國電子學(xué)會科技進(jìn)步三等獎等權(quán)威獎項，并作為業(yè)務(wù)安全領(lǐng)域唯一代表廠商多次入選Gartner人工智能領(lǐng)域相關(guān)重磅報告。

“十五五”規(guī)劃綱要為我國人工智能安全治理擘畫了宏偉藍(lán)圖，也為芯盾時代指明了奮斗航標(biāo)。芯盾時代將全力落實《綱要》部署，推進(jìn)AI全生命周期風(fēng)險管理制度與風(fēng)險防控體系建設(shè)，通過政企研協(xié)同創(chuàng)新，將國家治理藍(lán)圖轉(zhuǎn)化為扎實的數(shù)智屏障，為新質(zhì)生產(chǎn)力的高質(zhì)量發(fā)展貢獻(xiàn)力量，護(hù)航人工智能技術(shù)在向善軌道上行穩(wěn)致遠(yuǎn)。