全球人工智能技術(shù)快速發(fā)展，對(duì)經(jīng)濟(jì)社會(huì)發(fā)展和人類文明進(jìn)步產(chǎn)生深遠(yuǎn)影響，給世界帶來(lái)巨大機(jī)遇。與此同時(shí)，人工智能技術(shù)也帶來(lái)難以預(yù)知的各種風(fēng)險(xiǎn)和復(fù)雜挑戰(zhàn)。人工智能的治理攸關(guān)全人類命運(yùn)，是世界各國(guó)面臨的共同課題。因此，我們必須建構(gòu)和完善人工智能治理框架，在利用人工智能構(gòu)建美好未來(lái)的同時(shí)，使人工智能更加可靠、可信且符合以人為本的價(jià)值觀。2024年4月20-21日，由數(shù)隱咨詢（DPOHUB）攜手DEKRA德凱共同舉辦的人工智能治理專家認(rèn)證（CAIGP）公開課在上海順利召開。

DEKRA德凱亞太區(qū)高級(jí)副總裁、中國(guó)大陸及香港董事總經(jīng)理Kilian Aviles博士受邀致辭道：“作為全球領(lǐng)先的第三方檢驗(yàn)檢測(cè)認(rèn)證機(jī)構(gòu)，DEKRA德凱始終堅(jiān)持走在行業(yè)前沿，不斷與各領(lǐng)域企業(yè)進(jìn)行探索及合作。隨著DEKRA德凱與上海交通大學(xué)簽署合作諒解備忘錄以來(lái)，始終共同積極探索人工智能（AI）領(lǐng)域相關(guān)產(chǎn)業(yè)鏈的檢測(cè)、認(rèn)證和研發(fā)等方面。此次非常榮幸，可以參與協(xié)辦人工智能治理專家認(rèn)證公開課，希望為人工智能技術(shù)的實(shí)際應(yīng)用帶來(lái)新突破，保障并提升人工智能相關(guān)技術(shù)的安全性和可靠性?！?/p>

上海交通大學(xué)人工智能研究院院長(zhǎng)助理何黎明先生具體分享了人工智能技術(shù)的基礎(chǔ)、歷史發(fā)展及未來(lái)趨勢(shì)，主要涵蓋人工智能的定義與分類、生成式人工智能以及人工智能的局限性。他強(qiáng)調(diào)人工智能的發(fā)展需要更多的跨界合作和國(guó)際共識(shí)，全球社會(huì)需要加強(qiáng)信息共享和技術(shù)交流，共同應(yīng)對(duì)人工智能帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)。同時(shí)，人工智能的應(yīng)用也需要遵循倫理準(zhǔn)則和價(jià)值導(dǎo)向，以確保其對(duì)社會(huì)的積極影響。除了政策和法律框架的制定外，還需要加強(qiáng)公眾教育和意識(shí)提升，促進(jìn)社會(huì)對(duì)人工智能技術(shù)的理解和接受，從而推動(dòng)人工智能技術(shù)的可持續(xù)發(fā)展，為人類社會(huì)的未來(lái)帶來(lái)更多益處。

上海市人工智能社會(huì)治理協(xié)同創(chuàng)新中心研究員劉志毅先生主要分享了《人工智能的安全治理實(shí)踐》領(lǐng)域，包括人工智能進(jìn)入大模型時(shí)代、生成式人工智能服務(wù)安全評(píng)估要求、生成式大模型的安全性與治理及人工智能治理等方面。他解釋道人工智能的安全治理實(shí)踐涉及一系列策略、技術(shù)和政策措施，旨在確保人工智能系統(tǒng)的安全性、可靠性和透明度，以及保護(hù)個(gè)人隱私和社會(huì)利益。這些實(shí)踐通常不是孤立存在的，而是相互關(guān)聯(lián)、相互支持的。通過(guò)綜合采取這些實(shí)踐，可以有效應(yīng)對(duì)人工智能技術(shù)帶來(lái)的安全挑戰(zhàn)，促進(jìn)其健康可持續(xù)發(fā)展。

DEKRA德凱中國(guó)產(chǎn)品測(cè)試技術(shù)支持副總裁陳學(xué)林先生就《人工智能全生命周期的國(guó)際標(biāo)準(zhǔn)實(shí)踐》話題進(jìn)行了深入分析，主要包括ISO/IEC 42001人工智能管理體系、人工智能系統(tǒng)生命周期、人工智能系統(tǒng)的流程認(rèn)證以及人工智能風(fēng)險(xiǎn)管理等。他強(qiáng)調(diào)人工智能系統(tǒng)生命周期中的持續(xù)監(jiān)督和改進(jìn)至關(guān)重要，這意味著不僅需要定期進(jìn)行評(píng)估和審查，發(fā)現(xiàn)并解決潛在問(wèn)題，還要采取必要的措施來(lái)適應(yīng)和抵御新的風(fēng)險(xiǎn)和挑戰(zhàn)。這一過(guò)程旨在確保人工智能系統(tǒng)的安全性、可靠性和高效性，以滿足不斷變化的技術(shù)迭代和市場(chǎng)需求，并在不斷的改進(jìn)中持續(xù)提升其性能和價(jià)值。

上海交通大學(xué)人工智能治理與法律研究中心秘書長(zhǎng)何淵先生進(jìn)一步強(qiáng)調(diào)了人工智能治理法律框架的重要性，涉及人工智能的法律風(fēng)險(xiǎn)、全球人工智能治理的主要模式、美國(guó)NIST的人工治理風(fēng)險(xiǎn)管理框架、人工智能與數(shù)據(jù)合規(guī)的落地、歐盟《人工智能法》的法律框架和合規(guī)要點(diǎn)以及可信人工智能倫理評(píng)估清單等等。他解釋道人工智能治理法律框架的重要性在于確保人工智能技術(shù)的合理、負(fù)責(zé)和可持續(xù)發(fā)展，以及保護(hù)個(gè)人和社會(huì)的權(quán)利和利益，促進(jìn)人工智能技術(shù)的創(chuàng)新和應(yīng)用，推動(dòng)人類社會(huì)的進(jìn)步和發(fā)展。