OpenAI 發(fā)布 GPT-4 Turbo 目前我們所知道的功能分析解答

在最近的OpenAI DevDay上，該組織發(fā)布了一項(xiàng)備受期待的公告：推出GPT-4 Turbo，這是對(duì)其突破性AI模型的改進(jìn)。在這里，我們?nèi)媪私釭PT-4 Turbo是什么、它的主要功能以及它如何使開發(fā)人員和用戶受益。

了解 OpenAI 的最新更新、具有視覺功能的 GPT-4 Turbo 及其主要功能，包括改進(jìn)的知識(shí)截止、擴(kuò)展的上下文窗口、預(yù)算友好的定價(jià)等。

什么是GPT-4 Turbo？

GPT-4 Turbo是現(xiàn)有GPT-4大語言模型的更新。它帶來了一些改進(jìn)，包括大大增加的上下文窗口和對(duì)更多最新知識(shí)的訪問。OpenAI逐漸改進(jìn)ChatGPT中GPT-4的功能，添加了自定義指令、ChatGPT插件、DALL-E 3和高級(jí)數(shù)據(jù)分析。此最新更新帶來了許多令人興奮的新功能。

什么是GPT-4 Turbo With Vision？

具有視覺功能的GPT-4 Turbo是GPT-4 Turbo的變體，包含光學(xué)字符識(shí)別(OCR)功能。也就是說，您可以向它提供圖像，它可以返回圖像中包含的任何文本。例如，您可以輸入菜單的照片，它將返回該照片中寫入的食物選擇。同樣，您可以提供發(fā)票照片并自動(dòng)提取供應(yīng)商名稱和商品詳細(xì)信息。

ChatGPT默認(rèn)提供“with Vision”功能，開發(fā)人員可以通過在OpenAI API中選擇“gpt-4-vision”模型來使用。

GPT-4 Turbo主要特性

GPT-4 Turbo與之前的型號(hào)相比有多項(xiàng)改進(jìn)，增強(qiáng)了其功能。以下是使其脫穎而出的一些關(guān)鍵功能：

改進(jìn)知識(shí)截止

Sam Altman承諾確保ChatGPT保持最新狀態(tài)

GPT-3.5和GPT-4的現(xiàn)有版本的知識(shí)截止日期為2021年9月。這意味著它們無法回答有關(guān)該時(shí)間之后發(fā)生的現(xiàn)實(shí)世界事件的問題，除非獲得外部數(shù)據(jù)源的訪問權(quán)限。

GPT-4將知識(shí)截止時(shí)間延長了19個(gè)月，至2023年4月。這意味著GPT-4 Turbo可以訪問截至該日期的信息和事件，使其成為更明智、更可靠的信息來源。此外，OpenAI的首席執(zhí)行官Sam Altman承諾“[OpenAI]將努力永遠(yuǎn)不會(huì)讓[GPT]再次過時(shí)。”

128K上下文窗口

大型語言模型(LLM)的上下文窗口是衡量其對(duì)話記憶持續(xù)時(shí)間的指標(biāo)。如果模型的上下文窗口包含4,000個(gè)令牌（約3,000個(gè)單詞），則聊天中超過4,000個(gè)令牌之前的所有內(nèi)容都會(huì)被忽略，并且響應(yīng)可能會(huì)變得不太準(zhǔn)確，甚至與之前的響應(yīng)相矛盾。對(duì)于處理較長的文檔或進(jìn)行長時(shí)間對(duì)話的聊天機(jī)器人來說，這是一個(gè)問題。

GPT-4的最大上下文長度為32k(32,000)個(gè)令牌。GPT-4 Turbo將其增加到128k令牌（大約240頁，每頁400個(gè)字）。這超過了Anthropic的Claude 2模型的100k最大上下文，并使其與Nous Research的YARN-MISTRAL-7b-128k模型保持一致。

較長的上下文窗口是否會(huì)導(dǎo)致整個(gè)窗口的響應(yīng)性能令人滿意，還有待觀察。斯坦福大學(xué)最近的研究表明，現(xiàn)有的長上下文模型只能在從文檔開頭或結(jié)尾附近檢索信息時(shí)提供準(zhǔn)確的響應(yīng)。

還值得注意的是，128k似乎只是實(shí)現(xiàn)“無限上下文”夢(mèng)想的墊腳石。微軟和西安交通大學(xué)的早期研究旨在將法學(xué)碩士規(guī)模擴(kuò)大到十億個(gè)代幣的背景。

GPT開始發(fā)售

OpenAI響應(yīng)了LLM市場(chǎng)日益激烈的競(jìng)爭(zhēng)，并降低了GPT-4 Turbo的價(jià)格，以便為開發(fā)人員提供經(jīng)濟(jì)實(shí)惠的價(jià)格。使用OpenAI API時(shí)，GPT-4 Turbo輸入代幣價(jià)格現(xiàn)在是之前價(jià)格的三分之一，從每1000個(gè)代幣3美分降至1美分。產(chǎn)出的代幣現(xiàn)在是半價(jià)，從每1000個(gè)代幣6美分降至3美分。

GPT-3.5 Turbo模型也延續(xù)了同樣的趨勢(shì)，以每1000個(gè)代幣0.1美分的價(jià)格提供了3倍便宜的輸入代幣，以每1000個(gè)代幣0.2美分的價(jià)格提供了2倍便宜的輸出代幣。

此外，經(jīng)過微調(diào)的GPT-3.5 Turbo 4K模型輸入代幣現(xiàn)在價(jià)格便宜4倍，價(jià)格從每1000個(gè)代幣1.2美分降至0.3美分，輸出代幣便宜2.7倍，從每1.6美分降至0.6美分每1000個(gè)代幣為美分。培訓(xùn)價(jià)格保持不變，為每1000個(gè)代幣0.8美分。

這些價(jià)格調(diào)整旨在使先進(jìn)的人工智能模型對(duì)開發(fā)者來說更??具成本效益。

GPT走向多模式：圖像提示和文本轉(zhuǎn)語音

“GPT-4 Turbo with Vision”宣布即將推出。您很快就可以通過直接在聊天框中輸入圖像作為提示來提示GPT-4 Turbo。然后，該工具將能夠生成標(biāo)題或提供圖像所描繪內(nèi)容的描述。它還將處理文本到語音的請(qǐng)求。

函數(shù)調(diào)用更新

函數(shù)調(diào)用是開發(fā)人員將生成式人工智能融入其應(yīng)用程序的一項(xiàng)功能。它使他們能夠向GPT-4 Turbo描述其應(yīng)用程序的功能或外部API。由于能夠在一條消息中調(diào)用多個(gè)函數(shù)，此功能簡化了與模型的交互。例如，用戶可以發(fā)送一條請(qǐng)求多個(gè)操作的消息，從而無需與模型進(jìn)行多次來回交互。

如何訪問GPT-4 Turbo

“所有付費(fèi)開發(fā)人員”都可以訪問GPT-4 Turbo，這意味著如果您具有API訪問權(quán)限，則只需在OpenAI API中傳遞“gpt-4-1106-preview”作為模型名稱即可。同樣，對(duì)于具有視覺功能的GPT-4 Turbo，您可以傳遞“gpt-4-vision-preview”作為模型名稱。

請(qǐng)注意，這些預(yù)覽模型尚未被認(rèn)為適合生產(chǎn)使用。然而，作為公告的一部分，Altman還承諾將在未來幾周內(nèi)推出可投入生產(chǎn)的版本。

對(duì)于非開發(fā)人員來說，GPT-4 Turbo可能會(huì)在未來幾周內(nèi)向ChatGPT Plus和ChatGPT Enterprise用戶提供。

速率限制

通過OpenAI API訪問GPt模型的速率受到限制。也就是說，您每月只能向API發(fā)出有限數(shù)量的請(qǐng)求。OpenAI現(xiàn)已發(fā)布關(guān)于速率限制如何運(yùn)作的更清晰指南，因此您的應(yīng)用程序不會(huì)意外被切斷。

此外，GPT-4的速率限制增加了一倍

由于GPT-4 Turbo目前處于預(yù)覽階段，因此GPT-4 Turbo的速率限制設(shè)置為每分鐘20個(gè)請(qǐng)求和每天100個(gè)請(qǐng)求。OpenAI已表示，他們目前不會(huì)適應(yīng)此模型的速率限制增加。然而，一旦公開版本可用，他們很可能會(huì)這樣做。

最后的思考

GPT-4 Turbo的發(fā)布為生成式AI的未來提供了令人興奮的一瞥，我們迫不及待地想掌握它。對(duì)于那些尋求更深入了解的人，我們關(guān)于在OpenAI API使用GPT-3.5和GPT-4的教程有很多值得探索的地方。

審核編輯 黃宇