電子發(fā)燒友網(wǎng)報(bào)道（文/吳子鵬）近日，又一科技巨頭加入到了禁用ChatGPT類工具的行列，它就是三星。據(jù)報(bào)道，三星近期推出了一項(xiàng)新政策，禁止員工在工作場(chǎng)所使用生成式人工智能工具，包括OpenAI的ChatGPT和谷歌Bard等。

此前，三星發(fā)現(xiàn)有員工將敏感的代碼上傳到ChatGPT，不慎將其泄漏。據(jù)悉，三星并不清楚此次泄露的敏感代碼具體內(nèi)容是什么，不過(guò)該公司隨后啟動(dòng)了內(nèi)部調(diào)查。三星表示，調(diào)查中公司65%的受訪者認(rèn)為此類工具構(gòu)成安全風(fēng)險(xiǎn)。

巨頭公司紛紛禁用ChatGPT類工具

根據(jù)此前的報(bào)道，雖然三星沒(méi)有透露泄露信息的內(nèi)容，不過(guò)有用戶在ChatGPT上發(fā)現(xiàn)了該公司半導(dǎo)體設(shè)備測(cè)量資料、產(chǎn)品良率等機(jī)密內(nèi)容，相關(guān)內(nèi)容出現(xiàn)在ChatGPT的學(xué)習(xí)資料庫(kù)中。并且，該報(bào)道指出，三星的泄密并不是由一個(gè)工程師造成的，而是出現(xiàn)了三個(gè)典型的泄密事故。

泄密事件一是一名三星員工讓ChatGPT幫助修復(fù)半導(dǎo)體設(shè)備測(cè)量資料庫(kù)中下載的軟件；泄密事件二是一名三星員工讓其幫助優(yōu)化用于識(shí)別產(chǎn)品良率的程序代碼；泄密事件三是一名三星員工把會(huì)議紀(jì)要發(fā)給了ChatGPT讓其幫助整理。

三星泄密事件表明，生成式AI會(huì)讓人在不經(jīng)意間就導(dǎo)致泄密。當(dāng)然，這主要還是和生成式AI的工作原理有關(guān)。生成式AI本質(zhì)通過(guò)處理大量視覺(jué)或語(yǔ)言數(shù)據(jù)來(lái)生成新數(shù)據(jù)，其主要分為訓(xùn)練階段和生成階段，用戶主要接觸到的就是生成階段。在這一階段里，為生成新數(shù)據(jù)，模型將根據(jù)給定的輸入提示（如關(guān)鍵詞、圖像或文本片段等）生成新圖像或文本。模型利用所學(xué)規(guī)律和模式生成新數(shù)據(jù)，并將其輸出給用戶。

因此不難看出，生成式AI在實(shí)際的使用階段和傳統(tǒng)搜索引擎很類似，有輸入才有輸出，但由于ChatGPT類工具過(guò)于強(qiáng)大，其能夠處理很復(fù)雜的句式和指令，這就導(dǎo)致一些在職人員可能采用ChatGPT類工具走捷徑，將工作任務(wù)輸入到工具里，進(jìn)而造成泄密。

目前，很多巨頭公司都意識(shí)到這一點(diǎn)。在三星之前，韓國(guó)另一大科技巨頭SK海力士也已經(jīng)宣布，“除必要時(shí)刻外”，幾乎禁止公司內(nèi)部網(wǎng)使用ChatGPT類工具；韓國(guó)面板巨頭LG為了防止員工使用ChatGPT類工具發(fā)生泄密，已經(jīng)通過(guò)公司內(nèi)部帖子和教育、活動(dòng)等，隨時(shí)強(qiáng)調(diào)公司內(nèi)部信息保護(hù)和防止泄漏等信息安全認(rèn)識(shí)。

更為謹(jǐn)慎的是銀行領(lǐng)域。據(jù)不完全統(tǒng)計(jì)，目前包括瑞穗金融集團(tuán)、三菱UFJ銀行、三井住友銀行、摩根大通、美國(guó)銀行和花旗等大型銀行都已經(jīng)對(duì)人工智能下了禁令，這些公司是首批限制員工訪問(wèn)ChatGPT類工具的公司。

如何安全使用ChatGPT類工具

竟然行業(yè)巨頭帶頭，那么商業(yè)公司真的要全面禁止ChatGPT類工具嗎？筆者的答案是大可不必。

生成式AI工具的價(jià)值是巨大的，它能夠給各行各業(yè)帶來(lái)四大創(chuàng)新性改變。首先，生成式AI可以創(chuàng)造新內(nèi)容，可用于藝術(shù)、音樂(lè)和其他形式的創(chuàng)造性表達(dá)等方面；其次，生成式AI可以提高效率和生產(chǎn)力，可以顯著減少新聞、內(nèi)容創(chuàng)作、數(shù)據(jù)注釋和分析等領(lǐng)域的人工投入；第三，生成式AI可以提高生成內(nèi)容的質(zhì)量，這是讓機(jī)器和人類自如交流的關(guān)鍵所在；最后，生成式AI可以實(shí)現(xiàn)新的應(yīng)用和用途，可用于打造各種個(gè)性化的創(chuàng)新方案。

據(jù)波士頓咨詢公司預(yù)測(cè)，生成式AI市場(chǎng)規(guī)模將在2027年達(dá)到1210億美元，是2022年的13倍多。

價(jià)值大、前景好，那么行業(yè)該如何利用好生成式AI呢？

首先需要有專門(mén)的法規(guī)限制。目前，全球各國(guó)都在加緊制定針對(duì)生成式AI的法律法規(guī)。在國(guó)內(nèi)，4月11日，國(guó)家網(wǎng)信辦起草《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》，明確國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作。當(dāng)然，征求意見(jiàn)稿也對(duì)生成內(nèi)容、算法框架、知識(shí)產(chǎn)權(quán)和商業(yè)道德等方面做出了明確的限制。每一個(gè)健康發(fā)展的行業(yè)都需要有完善法規(guī)的引導(dǎo)，生成式AI也不例外。目前，美國(guó)、英國(guó)、日本和歐盟等國(guó)家和地區(qū)都在積極推動(dòng)生成式AI相關(guān)法規(guī)的落地。

其次，推出ChatGPT類工具的公司需要進(jìn)一步增強(qiáng)工具的安全性和脫敏屬性。比如，谷歌表示，將通過(guò)自動(dòng)化工具幫助刪除用戶的個(gè)人身份信息，來(lái)改進(jìn)Bard的隱私安全。顯然這還不夠，基于開(kāi)放數(shù)據(jù)庫(kù)訓(xùn)練而來(lái)的ChatGPT類工具，進(jìn)化的源泉就是新的數(shù)據(jù)，那么如何保證新數(shù)據(jù)的安全是一個(gè)大挑戰(zhàn)。

第三是各行各業(yè)針對(duì)使用ChatGPT類工具需要進(jìn)行專業(yè)的員工培訓(xùn)，要明確哪些是員工可以做的，那么是員工不能做的。

第四是針對(duì)高科技行業(yè)以及金融證券等保密性要求嚴(yán)格的公司，全面杜絕ChatGPT類工具肯定是不可取的，這些行業(yè)需要一套自己的ChatGPT類工具，也就是從源頭構(gòu)建自己的工具，使得數(shù)據(jù)從最開(kāi)始就被保護(hù)，沒(méi)有對(duì)外的接口可以泄露。目前，行業(yè)也在探索輕量級(jí)的ChatGPT類工具，這些工具具備基本的功能，能夠在企業(yè)私有云上去部署，如果可以實(shí)現(xiàn)將大幅降低數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

后記

目前很多行業(yè)、學(xué)校、國(guó)家都在推動(dòng)全面禁止ChatGPT類工具，筆者認(rèn)為這樣做并不可取。生成式AI作為一次革命性的科技升級(jí)創(chuàng)新，有著顛覆各行各業(yè)的巨大潛力。而且，這種顛覆更多是正向的、積極的，幫助各行各業(yè)完成數(shù)智化升級(jí)。當(dāng)然，作為一項(xiàng)創(chuàng)新技術(shù)，在完善的過(guò)程中會(huì)露出它的獠牙。正確的做法是將這只猛獸關(guān)在圈子里進(jìn)行馴化，讓其不再具有攻擊性。