3月20日，OpenAI 聯(lián)合創(chuàng)始人& CEO Sam Altman 和科技主播 Lex Fridman 進(jìn)行對(duì)談，主要討論 GPT-4、通用 AI（AGI）、 OpenAI 公司、AI 帶來(lái)的潛在問(wèn)題，以及 AI 的未來(lái)?？傮w來(lái)說(shuō)，Sam Altman 認(rèn)為，GPT-4 等 AI 系統(tǒng)并非少數(shù)人的成果，而是源于無(wú)數(shù)人的共同努力，是人類智慧的結(jié)晶，成果也應(yīng)當(dāng)由人類共享。筆者整理了一些對(duì)話中大家比較關(guān)注的點(diǎn)，看看 Sam Altman 是如何回應(yīng)的。

GPT-4 是通用 AI 嗎？

據(jù) OpenAI 官方稱，GPT-4 是 OpenAI 擴(kuò)展深度學(xué)習(xí)的最新里程碑，雖然目前在許多現(xiàn)實(shí)場(chǎng)景中仍然不如人類，但在專業(yè)和學(xué)術(shù)基準(zhǔn)上均能體現(xiàn)出人類的水平。

那 GPT-4 到底屬不屬于通用AI（AGI）的范疇？對(duì)于這個(gè)問(wèn)題，Altman 表示暫且不糾結(jié)其具體定義，只從“I know it when I see it”的角度去思考。當(dāng)一個(gè)事物出現(xiàn)之前，人們很難具體想象或理解得到它到底到哪種程度。比如在使用 GPT-4 之前，先在一本科幻小說(shuō)里看到有個(gè)角色是 AGI，而這個(gè)角色是 GPT-4，描寫了 GPT-4 能夠做到的如今 AI 做不到的事情，他會(huì)覺得這本書很荒謬。所以距離 GPT-4 成為真正的通用 AI，還有很長(zhǎng)的路要走，因?yàn)楦采w面、普適度還不夠。

Altman 認(rèn)為，所有不能大大增加人類科學(xué)知識(shí)綜合的系統(tǒng)，不能發(fā)現(xiàn)、發(fā)明，推動(dòng)基礎(chǔ)科學(xué)的智能，都不是超級(jí)智能。要做到這一點(diǎn)，人們還需要在相當(dāng)重要的方面擴(kuò)大 GPT 范式，而目前在這方面還沒有太多 Idea，還需要再摸索有什么值得嘗試的地方。

GPT-4 是人們想象中的“未來(lái) AI”嗎？

人們對(duì)未來(lái) AI 的想象是非常豐富的，值得一談的是，人們認(rèn)為“更好”的 AI，就是與人類無(wú)限相似，甚至超越人類能力的存在；但另一方面，又對(duì) AI 是否“太像”人類而感到惴惴不安。這種現(xiàn)象歸根結(jié)底是人們既希望 AI 強(qiáng)大到能夠快速理解人類意圖，卻又極其不希望其擁有人類的意識(shí)。

AI 是否會(huì)“覺醒”？對(duì)此，Altman 的態(tài)度是：人們圍繞 AI 的一些恐懼可能并不會(huì)成為現(xiàn)實(shí)。人類因?yàn)樘焐鷮?duì)改變、不確定性懼怕，面對(duì)新的工具，也會(huì)因?yàn)槠溥^(guò)于好用而感到害怕。但 Altman 指出，哪怕在 AI 非常強(qiáng)大之后，還是無(wú)法代替人。就像當(dāng)年 Alpha Go 在國(guó)際象棋中贏了人類，但現(xiàn)在還是有很多人在玩國(guó)際象棋，而且人們還是更愿意看真人下象棋，而不是兩個(gè) AI 下象棋。

“人們?nèi)匀幌矚g戲劇性，喜歡我們有的、而 AI 沒有那些缺陷。”Altman 說(shuō)。

那么，怎樣判斷 AI 是否擁有“人的意識(shí)”？Altman 提到了一些用于判斷的測(cè)試。比如 OpenAI 首席科學(xué)家 Ilya Sutskever 提出的標(biāo)準(zhǔn)：如果你訓(xùn)練模型的時(shí)候，對(duì)數(shù)據(jù)集做非常精心的設(shè)定，確保在訓(xùn)練過(guò)程中 AI 不接觸到“意識(shí)”、主觀體驗(yàn)或任何類似的東西，然后你和這個(gè)模型討論一些它沒有訓(xùn)練過(guò)的東西，如果模型對(duì)于你說(shuō)的大部分內(nèi)容都不理解，但當(dāng)你描述意識(shí)的主觀體驗(yàn)，模型卻立即回應(yīng)“知道你在說(shuō)什么”時(shí)，那可能就意味著 AI 可能發(fā)展出了意識(shí)。

科技主播 Lex 對(duì)此補(bǔ)充了一個(gè)場(chǎng)景，在電影《機(jī)械姬》最后，片中的 AI 機(jī)器人機(jī)械姬逃出實(shí)驗(yàn)室后，露出了一個(gè)開心的微笑。這時(shí)沒有別人在場(chǎng)，所以她是在為自己、為自由而笑?！稒C(jī)械姬》的導(dǎo)演認(rèn)為，“為自己而笑”可以作為一個(gè)“AI 是否具有意識(shí)”的圖靈測(cè)試。

如今的 AI，還有哪些等待解決的問(wèn)題？

即使 OpenAI 表示 GPT-4 是如今功能最強(qiáng)大、對(duì)齊最好的模型，但它仍然是一個(gè)需要不斷進(jìn)步和優(yōu)化的工具。比如“AI 的偏見”問(wèn)題。此前有人向 ChatGPT 提問(wèn)，讓其夸贊現(xiàn)任國(guó)家領(lǐng)導(dǎo)和往屆國(guó)家領(lǐng)導(dǎo)，結(jié)果 ChatGPT 夸現(xiàn)任領(lǐng)導(dǎo)的句子要比往屆領(lǐng)導(dǎo)的要長(zhǎng)。對(duì)此，Altman 認(rèn)為“小問(wèn)題即大問(wèn)題”，之所以會(huì)早早就公開發(fā)布，就是為了發(fā)現(xiàn)這類問(wèn)題，并且不斷對(duì)其進(jìn)行改進(jìn)。許多時(shí)候，人們是沒有辦法預(yù)料到未來(lái)會(huì)發(fā)生什么事情，比如在小時(shí)候無(wú)法想象到自己會(huì)造出AI，而且造出 AI 后，人們?cè)诩m結(jié)“夸誰(shuí)夸得更長(zhǎng)”的問(wèn)題，所以說(shuō) AI 的進(jìn)步是全人類推進(jìn)的。

Altman 表示，當(dāng) AI 快速起飛（take off）之后，技術(shù)可能在短時(shí)間內(nèi)實(shí)現(xiàn)爆發(fā)式增長(zhǎng)。如果 AI 的起飛無(wú)法避免，短期內(nèi)就要開始不斷的進(jìn)行優(yōu)化，而不是任其發(fā)展 3 年、10 年之后再去干預(yù)。解決問(wèn)題的方法包括：不斷迭代、盡早學(xué)習(xí)、避免只有一次機(jī)會(huì)的情況，讓外界盡早接觸這些技術(shù)，讓公眾參與塑造 AI 的發(fā)展。Altman 計(jì)劃全球巡回，進(jìn)行用戶訪談，了解不同用戶的需求。未來(lái)解決路徑包括給用戶控制權(quán)，讓用戶能從全局層面給 AI 下指令。

OpenAI 的堅(jiān)守和未來(lái)

Altman 告訴我們，GPT-4 是人類迄今所實(shí)現(xiàn)的最復(fù)雜的軟件，那 GPT-4 背后的 OpenAI 為什么這么強(qiáng)？Altman 總結(jié)了一下。首先是做事的態(tài)度是探求真理（truth seeking），做一切能達(dá)成最優(yōu)表現(xiàn)的事，不管它是否優(yōu)雅。就像LLM（大語(yǔ)言模型）這個(gè)路線曾經(jīng)飽受鄙夷，但他們還是堅(jiān)持下來(lái)了。

其次是“不積跬步無(wú)以至千里”的理念。實(shí)現(xiàn) GPT-4 并不是單純的解決 3-5 件關(guān)鍵問(wèn)題的事情，而是需要搞定大量紛繁復(fù)雜的小事，乘法效應(yīng)讓技術(shù)飛躍得以實(shí)現(xiàn)。比如數(shù)據(jù)獲取、清潔、訓(xùn)練、優(yōu)化和搭結(jié)構(gòu)等方面的問(wèn)題。以小取大。最后，團(tuán)隊(duì)的能力也非常重要，至今為止，Altman 依然親自審核及批準(zhǔn) OpenAI 的每一個(gè)招聘決定，招聘的優(yōu)先級(jí)在團(tuán)隊(duì)工作中非常重要；同時(shí)也要給予團(tuán)隊(duì)成員足夠的信任和自主權(quán)，才能實(shí)現(xiàn)高速發(fā)展。

談到對(duì)未來(lái) AI 的期許，Altman 的說(shuō)法是：解釋所有物理現(xiàn)象，解決所有未解之謎。未來(lái)或許將有很多個(gè) AGI 存在，不同的 AGI 會(huì)在不同的領(lǐng)域和應(yīng)用上發(fā)揮作用，這是一種有益的現(xiàn)象。而 OpenAI 建立時(shí)定位就是非盈利組織，沒有無(wú)限逐利的動(dòng)力，所以能夠更好地抵抗市場(chǎng)壓力。但這種背景下就沒有足夠的資金來(lái)支撐完成任務(wù)，所以他們轉(zhuǎn)變?yōu)椤坝猩舷蕖钡慕M織，來(lái)獲得資本的某些加成，同時(shí)不完全導(dǎo)向逐利。

接下來(lái) OpenAI 不會(huì)執(zhí)著于模型參數(shù)大小（Parameter count race），而是最看重如何實(shí)現(xiàn)最佳性能。在面對(duì)市場(chǎng)壓力和競(jìng)爭(zhēng)時(shí)，Altman 強(qiáng)調(diào)，堅(jiān)持信念和使命，雖然市場(chǎng)上隨時(shí)都會(huì)出現(xiàn)更領(lǐng)先的技術(shù)，但 OpenAI 不會(huì)為了追趕而放棄安全性，踏實(shí)走好每一步。

審核編輯 ：李倩