據(jù)悉，去年8月抖音發(fā)布了《人工智能生成內容的平臺規(guī)范及行業(yè)倡議》，強調禁止利用AI技術制作虛擬人物進行低質量創(chuàng)作。今年3月27日，抖音安全中心又發(fā)布公告表示，發(fā)現(xiàn)少數(shù)賬號依然存在使用AI技術生成虛擬人物的違規(guī)行為。

此類違法行為主要表現(xiàn)在以下幾個方面：

首先，生成虛假外國人形象，假裝熱愛祖國吸引關注，例如聲稱愿意嫁到中國或是來中國生活。

其次，生成俊男靚女形象進行欺騙性互動，誘導網(wǎng)友添加個人賬戶進行私聊，甚至有些行為涉嫌詐騙。

再者，生成精英人士形象，發(fā)布偽成功學等引導性不良內容，吸引低質粉源，甚至引流至外部進行收費課程或加入收費團體。

針對此類違規(guī)現(xiàn)象，抖音平臺將視情節(jié)嚴重程度采取相關處理措施，如下架違規(guī)視頻、取消違規(guī)賬號的投稿和盈利許可、刪去該賬號粉絲、停用賬號直至封鎖賬號等。此外，若發(fā)現(xiàn)違規(guī)行為涉及刑事犯罪，抖音將會向警方尋求協(xié)助。

抖音官方再次聲明，AI技術為互聯(lián)網(wǎng)內容提供了新的可能，但也存在被濫用的風險。所有創(chuàng)作者、主播、用戶以及商家都應遵守抖音應用人工智能生成技術相關規(guī)定，具體內容包括：

1.發(fā)布者應該清晰標注哪些內容是由人工智能生成，尤其是易引起誤解的場景需要更加明顯的提示。

2.人工智能生成的內容，責任應由其發(fā)布者承擔，無論是怎樣生成的。

3.虛擬角色應在平臺上完成注冊，虛擬角色技術使用方還需注冊為實名認證用戶。

4.嚴禁利用人工智能技術生產、發(fā)布侵犯他人權益的內容，比如肖像權、知識產權等。違反規(guī)定者，平臺將會嚴肅處理。

5.嚴禁利用人工智能技術制作、傳播違背科學常識、造謠傳遙的內容。對于此類違法行為同樣會加大懲罰力度。