隨著類ChatGPT人工智能技術的快速發(fā)展，大模型作為重要的技術方向已經(jīng)在許多領域取得了顯著的進展，如自然語言處理、搜索引擎、圖像識別和智能辦公軟件等。然而，由此帶來的數(shù)據(jù)安全問題也越來越受到關注，包括隱私保護、數(shù)據(jù)合規(guī)和模型評估等，這些問題已成為大模型進一步發(fā)展的關鍵問題之一。為了解決這些問題，各國正在積極研究和探索適用于人工智能大模型的數(shù)據(jù)安全保護技術和政策。

一、類ChatGPT人工智能數(shù)據(jù)安全背景

隨著人工智能的快速發(fā)展，大模型作為人工智能技術的重要發(fā)展方向，已經(jīng)在許多領域取得了顯著的進展，如自然語言處理、搜索引擎、圖像識別和智能辦公軟件等。其中，由深度學習驅動的大型語言模型（Large Language Model，LLM），如ChatGPT、PaLM等，正憑借其強大的自然語言處理能力和廣泛的應用前景成為人工智能領域的研究熱點和產業(yè)焦點。

然而，隨著人工智能大模型（如ChatGPT）的廣泛應用，社會各界正面臨諸多與數(shù)據(jù)安全治理相關的挑戰(zhàn)。首先，大模型的訓練通常需要大量的數(shù)據(jù)，包括來自互聯(lián)網(wǎng)的海量文本數(shù)據(jù)，這將會涉及到對數(shù)據(jù)的搜集、存儲、傳輸和處理，這個過程會面臨隱私、安全和產權等方面的風險。其次，大模型本身具有巨大的參數(shù)規(guī)模和復雜的計算邏輯，可能會導致對模型的訪問、使用和控制變得困難，從而增加數(shù)據(jù)安全治理的難度。此外，大模型在應用中還會面臨潛在的模型濫用、黑客攻擊和數(shù)據(jù)泄露等安全威脅，對數(shù)據(jù)安全形成了新的挑戰(zhàn)。

二、類ChatGPT人工智能數(shù)據(jù)安全問題

當下，類ChatGPT人工智能大模型在各領域融合發(fā)展方興未艾，這些大模型具有高度的復雜性和跨領域的知識儲備，能夠幫助我們從海量的數(shù)據(jù)中挖掘出更加深層的信息和知識，但同時也帶來了數(shù)據(jù)安全問題。

（一）隱私數(shù)據(jù)保護問題。隨著人工智能大模型的出現(xiàn)和應用，隱私數(shù)據(jù)保護問題正變得更加復雜和緊迫。大模型使用的海量訓練數(shù)據(jù)通常來自于維基百科（Wikipedia）、書籍、期刊和社交媒體等互聯(lián)網(wǎng)公開數(shù)據(jù)。若某些訓練數(shù)據(jù)未取得授權，則會產生數(shù)據(jù)隱私保護和數(shù)據(jù)合規(guī)方面的問題，如Twitter首席執(zhí)行官馬斯克就曾指責微軟非法使用Twitter數(shù)據(jù)進行人工智能訓練，并稱會起訴微軟。此外，目前用戶與基于人工智能大模型的對話機器人（如ChatGPT、Bard等）交互的私密數(shù)據(jù)也會被人工智能公司用于訓練，比如對話式人工智能大模型在訓練過程中使用的基于人類反饋的強化學習（Reinforcement Learning from Human Feedback，RLHF）算法，就會將用戶的反饋用于優(yōu)化模型參數(shù)，以增強模型和人類的對齊，提高對話機器人的性能，而且在訓練后的模型中很難刪除相關信息。如果這些數(shù)據(jù)沒有得到充分的保護，就可能被不法分子獲取，導致隱私數(shù)據(jù)泄露的風險增加。

（二）數(shù)據(jù)跨境合規(guī)問題。以ChatGPT為代表的人工智能大模型正顯現(xiàn)出與各行業(yè)融合發(fā)展的趨勢，其中涉及的數(shù)據(jù)類型和來源也在不斷增加，這些數(shù)據(jù)的處理和傳輸將涉及到跨境數(shù)據(jù)流動，從而引發(fā)了數(shù)據(jù)跨境合規(guī)問題。根據(jù)ChatGPT的運作原理，用戶在對話框進行交互，相關問答數(shù)據(jù)將會傳輸?shù)轿挥诿绹腛penAI公司，在這樣一個過程中，數(shù)據(jù)的跨境流動都會引發(fā)數(shù)據(jù)跨境合規(guī)問題。另外，美國OpenAI公司還推出ChatGPT應用程序編程接口（API），可供第三方開發(fā)者將ChatGPT模型集成到他們的應用程序和產品中。目前已有多家公司表示計劃用ChatGPT技術全面改革其整個產品陣容，比如美國微軟公司已將ChatGPT技術擴展到Bing搜索和Power Platform以改善相關產品的性能，而這將會導致用戶數(shù)據(jù)的跨境流動更加頻繁，并增加數(shù)據(jù)合規(guī)監(jiān)管的難度。

（三）黑箱模型的可解釋性問題。人工智能大模型通常采用深度學習和其他機器學習技術進行訓練和推理，內部存儲了千萬億的模型參數(shù)，因此，大模型內部的工作方式和決策過程非常復雜，缺乏可解釋性和透明度，具有這類特征的模型被稱為黑箱模型（Black Box），同時，這類模型也給數(shù)據(jù)安全治理帶來了挑戰(zhàn)。監(jiān)管機構往往難以理解和評估這類模型的內部運作機制，從而難以制定合適的監(jiān)管政策和標準。例如，歐盟《通用數(shù)據(jù)保護條例》（GDPR）中規(guī)定數(shù)據(jù)所有人有權要求數(shù)據(jù)持有人和處理人刪除與其相關的個人數(shù)據(jù)，但針對人工智能大模型存儲信息的形式，企業(yè)很難像檢索數(shù)據(jù)庫一樣定位相關信息，簡單進行個人信息的刪除是很難實現(xiàn)的。另外，黑箱模型還會增加識別其內部潛在數(shù)據(jù)安全漏洞的難度，如果黑箱模型出現(xiàn)錯誤或被惡意攻擊，很難被發(fā)現(xiàn)和處理，從而影響數(shù)據(jù)安全。

（四）模型數(shù)據(jù)安全評估問題。人工智能大模型算法具有復雜的結構設計，在運作機制上容易存在缺陷和漏洞，因此，如何科學合理對模型數(shù)據(jù)安全進行評估是當前的一項嚴峻挑戰(zhàn)。模型數(shù)據(jù)安全風險主要表現(xiàn)在以下方面：1.模型數(shù)據(jù)安全：在人工智能模型的開發(fā)過程中，需要對模型進行模型數(shù)據(jù)安全機制評估，以確保模型的數(shù)據(jù)安全性，如數(shù)據(jù)隱私保護、數(shù)據(jù)完整性保護、數(shù)據(jù)可用性保護等；2.模型數(shù)據(jù)攻擊：人工智能大模型可能存在被用于攻擊的漏洞，例如對抗性攻擊，黑客或者惡意用戶可以通過篡改模型輸入數(shù)據(jù)來欺騙模型輸出其他人或者機構的隱私信息；3.模型生成數(shù)據(jù)不可控：生成式人工智能大模型的復雜性和不確定性，可能會使其生成意想不到的結果，如虛假信息等。

三、類ChatGPT人工智能數(shù)據(jù)安全對策

類ChatGPT人工智能大模型在各行各業(yè)正加速滲透，逐漸演變?yōu)楫斀裆鐣胁豢苫蛉钡囊徊糠郑竽Ｐ偷臄?shù)據(jù)安全問題也日益凸顯。因此，為確保人工智能大模型數(shù)據(jù)的安全性，需要采取多層次、多維度的技術手段和法律監(jiān)管措施。

（一）政策層面

1.設立人工智能專門戰(zhàn)略機構

人工智能技術本身具有特殊性和復雜性，影響范圍廣，監(jiān)管難度大，其應用和發(fā)展也面臨著諸多挑戰(zhàn)和風險。因此，設立專門的人工智能戰(zhàn)略機構是必要的。例如，日本政府計劃設立新的“戰(zhàn)略會議”，負責討論與人工智能相關的國家戰(zhàn)略。對于正在迅速普及的聊天機器人ChatGPT等整個人工智能領域，該戰(zhàn)略會議將發(fā)揮指揮塔作用，指明政策的基本方向。針對人工智能方面課題，該會議將從促進應用、研究開發(fā)和強化規(guī)則兩方面進行討論。該戰(zhàn)略會議除了包含精通人工智能技術的學者和研究人員外，還有法律相關領域的專家和政府相關人士加入。

2.明確人工智能大模型應用中責任權利的法律歸屬

在人工智能大模型應用中，責任權利歸屬是一個復雜的問題。該問題涉及多個方面，包括數(shù)據(jù)提供者、算法設計者、模型訓練者和模型使用者等。目前，國內外學者主要探討兩個方面：一是如何確定人工智能大模型應用中的責任歸屬；二是如何建立人工智能大模型應用中的責任分配機制。歐盟在該領域進行了部分探索，例如，歐洲議會成員已經(jīng)就《人工智能法》（The AI Act）提案達成臨時政治協(xié)議，要求部署ChatGPT等生成式人工智能工具的公司披露用于開發(fā)其系統(tǒng)的受版權保護的材料。

3.完善人工智能大模型產品的相關立法

為應對人工智能技術所帶來的一系列倫理、法律和社會問題，如數(shù)據(jù)安全、隱私保護、算法透明、責任歸屬、公平公正等，我國有必要制定一套符合人工智能技術特點的監(jiān)管法律法規(guī)，以確保我國人工智能技術在競爭性和安全性上保持平衡。

（二）技術層面

1.數(shù)據(jù)加密和脫敏

數(shù)據(jù)加密技術可以將數(shù)據(jù)轉換為一種難以被未經(jīng)授權者讀取的形式，從而保障人工智能大模型數(shù)據(jù)交互的安全性。這種技術在數(shù)據(jù)傳輸和存儲過程中，能夠對數(shù)據(jù)進行加密，有效防止隱私和敏感數(shù)據(jù)被未經(jīng)授權的人員訪問和竊取，從而保護個人隱私和商業(yè)機密信息。此外，數(shù)據(jù)脫敏技術也是保護數(shù)據(jù)隱私的重要手段，它可以通過加密、替換、刪除等處理來保護敏感數(shù)據(jù)的隱私。對于人工智能大模型來說，數(shù)據(jù)脫敏技術可以在數(shù)據(jù)預處理過程中對數(shù)據(jù)進行脫敏處理，如匿名化處理、數(shù)據(jù)屏蔽處理和數(shù)據(jù)差分隱私等，以保證數(shù)據(jù)的隱私性。

2.訪問控制

訪問控制是一種常見的數(shù)據(jù)安全保護技術，其通過限制對數(shù)據(jù)的訪問，以確保數(shù)據(jù)的機密性和完整性。在人工智能大模型中，訪問控制技術的應用可以有效防止數(shù)據(jù)的非法訪問、篡改和泄露，從而保障人工智能大模型的數(shù)據(jù)安全。例如，OpenAI采用了多種訪問控制技術來保護其人工智能大模型GPT-3的安全，其中包括身份驗證、授權和審計等措施。這些措施可以確保只有經(jīng)過授權的用戶才能夠訪問和使用GPT-3數(shù)據(jù)，有效地保護了用戶的隱私信息。

3.模型物理隔離

模型物理隔離是一種有效的數(shù)據(jù)安全保護措施，可以有效地防止黑客攻擊和數(shù)據(jù)泄露。例如，美國微軟公司計劃推出一款私有ChatGPT版本，該版本ChatGPT將在專用云服務器上運行，以保護用戶隱私安全。私有ChatGPT數(shù)據(jù)將與主系統(tǒng)隔離，可確保隱私安全，這將適用于醫(yī)療、保險和銀行等行業(yè)。

審核編輯：劉清