導(dǎo)讀

連「作為一個大模型……」這樣的 AI 語都忘了刪就提交，結(jié)果還過審發(fā)表了。

ChatGPT 出現(xiàn)以后，很多學(xué)術(shù)機(jī)構(gòu)都發(fā)出了禁令，因?yàn)檫@種 AI 雖然生成能力強(qiáng)，但有時會胡說八道，濫用大模型寫文章也違背了做研究的初衷。

但隨著大模型的應(yīng)用浪潮，我們很快忘記了剛開始的恐懼。有學(xué)術(shù)機(jī)構(gòu)正在解禁，微軟也計(jì)劃在年內(nèi)把 ChatGPT 整合到 Office 全家桶里。或許過不了多久，人人都可以用大模型去寫文章。

這讓人不得不去想象以后的學(xué)術(shù)論文會被 AI 生成的內(nèi)容沖擊成什么樣。其實(shí)，這種事可能已經(jīng)在發(fā)生了。

今天，有個斯坦福本科生在谷歌學(xué)術(shù)搜索（Google Scholar）上就發(fā)現(xiàn)了這類「渾水摸魚」的摻假論文。

當(dāng)你輸入「“As an AI language model” -“ChatGPT”」搜索時，會搜到很多直接將 ChatGPT 答案貼上去的論文。

比如下面這篇經(jīng)過同行評審、發(fā)表在《國際工程與技術(shù)創(chuàng)新期刊》的論文中，作者似乎遺漏了一個重要的合著者 ——AI 語言模型（ChatGPT）。

突出一個投者無心，審稿故意。

另外一篇經(jīng)過同行評審、發(fā)表在《網(wǎng)絡(luò)銀行和商業(yè)雜志》上的論文，題目為《基于反向傳播神經(jīng)網(wǎng)絡(luò)和梯度下降的股價預(yù)測》，同樣有不存在的作者 ——ChatGPT。

開篇就是 AI，看上去讓人忍俊不禁。

類似例子還有很多，比如下面兩篇分別發(fā)表在《國際現(xiàn)代農(nóng)業(yè)和環(huán)境期刊》和《技術(shù)創(chuàng)新和能源雜志》上的論文。

更離譜的是，下面這篇發(fā)表在《國際高級工程和土木研究期刊》的論文，ChatGPT 甚至引用了作者 X 和 Y 的一篇虛假（fake）文章。

除了參與論文撰寫之外，ChatGPT 還參與了一些書籍的寫作，比如下面的《性知識入門》和《利比亞概覽》。

機(jī)器之心也在谷歌學(xué)術(shù)中輸入「“As an AI language model” -“ChatGPT”」，結(jié)果出現(xiàn)了 10 個頁面，有 100 篇左右。

Andrew Kean Gao 的發(fā)現(xiàn)在推特（X）上吸引了上百萬人的圍觀，Google Scholar 似乎對此很快做出了反應(yīng)。最新的情況是：很多能被搜到的 AI 文章只有名字，不給鏈接了。不過必須要說的是，這距離真正的「整頓」還差的挺遠(yuǎn)。

在 AI 領(lǐng)域，大模型的發(fā)展速度以天為計(jì)，學(xué)術(shù)期刊的審稿規(guī)則為了應(yīng)對也在急速變化。此前，很多期刊、會議禁止將 ChatGPT 列為合著者。

其中《科學(xué)》雜志明確表示不接受 ChatGPT 生成的論文，也不允許 ChatGPT 作為論文作者。《自然》雜志則表示可以使用 ChatGPT 等大語言模型工具撰寫論文，但也禁止列為論文合著者。

對于這位斯坦福本科生的發(fā)現(xiàn)，有人揶揄道，你不會以為人們在發(fā)表論文之前會再通讀一遍吧。也有人再補(bǔ)了一刀，在發(fā)表之前讓 ChatGPT 再讀一遍。

或許真正的問題在于，這些論文是如何通過編輯審核或同行評審的。

最后有人一語道破天機(jī)，表示這些都是四級（four-tier）期刊，只要付錢啥都可以發(fā)表，都是一些毫無意義的垃圾。

至少目前來說，ChatGPT 生成的論文還沒造成太大影響。就是不知這種工具在 Office 上真正流行起來，學(xué)術(shù)界會變成什么樣子。