電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎、吳子鵬）從OpenAI去年底推出ChatGPT以來(lái)，人工智能領(lǐng)域持續(xù)火熱。近日，高潮更是一波接著一波，首先是OpenAI繼ChatGPT之后又推出了更強(qiáng)大的大型多模態(tài)模型GPT-4，接著是國(guó)內(nèi)百度終于正式發(fā)布了其大型語(yǔ)言模型文心一言。昨日，微軟宣布將GPT-4全面接入所有辦公軟件，更是炸翻全場(chǎng)。

種種跡象表明，大模型的應(yīng)用即將走進(jìn)千家萬(wàn)戶(hù)，人工智能產(chǎn)業(yè)發(fā)展迎來(lái)高潮。大家知道，無(wú)論是ChatGPT、文心一言，還是其他生成式AI模型的訓(xùn)練和部署，對(duì)算力都有很高的要求。那么目前國(guó)內(nèi)在這方面具備怎樣的條件？大模型的發(fā)展將帶來(lái)怎樣的機(jī)會(huì)和挑戰(zhàn)？帶著這些問(wèn)題，電子發(fā)燒友最近對(duì)多家大算力芯片、接口IP、服務(wù)器企業(yè)做了深度調(diào)研。

大算力芯片的機(jī)會(huì)和挑戰(zhàn)

目前，全球大模型的訓(xùn)練基本都是采用英偉達(dá)的GPU。OpenAI之前推出的ChatGPT，以及最近發(fā)布的GPT-4，都是在大量英偉達(dá)A100的基礎(chǔ)上訓(xùn)練而成。據(jù)說(shuō)微軟的Azure云服務(wù)為ChatGPT構(gòu)建了超過(guò)1萬(wàn)枚英偉達(dá)A100GPU芯片的AI計(jì)算集群。

國(guó)內(nèi)大模型的訓(xùn)練也基本倚賴(lài)英偉達(dá)的GPU，業(yè)內(nèi)人士認(rèn)為，想要做好AI大模型，1萬(wàn)枚英偉達(dá)A100芯片是門(mén)檻。然而國(guó)內(nèi)擁有1萬(wàn)枚英偉達(dá)A100芯片的企業(yè)少之又少。從這個(gè)層面來(lái)看，國(guó)內(nèi)企業(yè)想要布局類(lèi)似ChatGPT這樣大規(guī)模的模型短期來(lái)看還很難。

從長(zhǎng)遠(yuǎn)來(lái)看，未來(lái)大模型的研發(fā)和部署是必然趨勢(shì)，而每個(gè)大模型訓(xùn)練和部署的背后，都有幾萬(wàn)個(gè)GPU在支持?？上攵?，未來(lái)隨著這方面的研發(fā)和應(yīng)用的普及，通用GPU市場(chǎng)需求將會(huì)迎來(lái)爆發(fā)式增長(zhǎng)。這對(duì)GPU企業(yè)來(lái)說(shuō)將會(huì)是巨大的機(jī)會(huì)。

登臨科技聯(lián)合創(chuàng)始人王平在接受電子發(fā)燒友采訪的時(shí)候表示：“以電力為例，可以很清楚的看到這個(gè)市場(chǎng)未來(lái)的變化。幾十年前，電力只是用在一些小用量的場(chǎng)景，隨著電力的供給越來(lái)越多，電器也越來(lái)越多的時(shí)候，最后電力就成了一個(gè)基本設(shè)施?？梢哉f(shuō)，算力也是朝著基礎(chǔ)設(shè)施的方向在發(fā)展。而現(xiàn)在通用GPU還遠(yuǎn)沒(méi)有到爆炸式需求的階段。”

然而從目前的情況來(lái)看，國(guó)內(nèi)的GPU還難以在大模型的訓(xùn)練中承擔(dān)起重要責(zé)任，不過(guò)可以看到有不少企業(yè)在該領(lǐng)域持續(xù)耕耘。對(duì)于國(guó)內(nèi)的GPU企業(yè)可以怎么做，才能在抓住ChatGPT帶來(lái)的這波機(jī)會(huì)，如何為國(guó)內(nèi)大模型的發(fā)展提供算力支持？

在接受電子發(fā)燒友采訪的時(shí)候，燧原科技創(chuàng)始人兼COO張亞林談到了幾點(diǎn)：首先，企業(yè)需要能夠提供更高性?xún)r(jià)比的算力，從ChatGPT訓(xùn)練就能看到算力的成本有多高，從這個(gè)角度來(lái)看，并不是所有人都能玩得起這場(chǎng)游戲。

其次，大算力芯片企業(yè)需要能夠站到系統(tǒng)的角度思考問(wèn)題，最終算力的呈現(xiàn)是一個(gè)集群系統(tǒng)，這里面包含幾千張加速卡，幾千顆芯片，大量的互聯(lián)和存儲(chǔ)，很多服務(wù)器。整個(gè)系統(tǒng)的設(shè)計(jì)、調(diào)動(dòng)能力、是否易用跟芯片的設(shè)計(jì)會(huì)不太一樣。這樣更能夠提供滿(mǎn)足用戶(hù)需求的產(chǎn)品。

在人工智能算力領(lǐng)域，燧原科技已經(jīng)有很深的積累。目前已經(jīng)迭代兩代訓(xùn)練和推理產(chǎn)品，第三代在研發(fā)中。此外，燧原科技已經(jīng)在科研領(lǐng)域和智慧城市的應(yīng)用中落地了訓(xùn)練和推理的超千卡算力集群。張亞林表示，類(lèi)似ChatGPT這樣的AIGC生成式模型，對(duì)于燧原科技而言是個(gè)機(jī)遇，公司可以把已經(jīng)積累的系統(tǒng)集群的經(jīng)驗(yàn)推廣到更多的客戶(hù)賽道上，幫助客戶(hù)使能更多大模型的生成。

面對(duì)與國(guó)際巨頭的差距，天數(shù)智芯對(duì)電子發(fā)燒友表示，堅(jiān)持通用GPU發(fā)展的路線(xiàn)，全面覆蓋訓(xùn)練和推理兩條產(chǎn)品發(fā)展主線(xiàn)。結(jié)合行業(yè)解決方案為各行業(yè)、各產(chǎn)業(yè)發(fā)展提供完整成熟的軟硬件一體化方案。在未來(lái)的產(chǎn)品發(fā)展上，逐步縮小和國(guó)際先進(jìn)產(chǎn)品的差距，為國(guó)內(nèi)人工智能發(fā)展提供強(qiáng)有力的支持。

天數(shù)智芯自2021年3月推出云端訓(xùn)練通用GPU產(chǎn)品--天垓100，并于2022年12月推出云端推理通用GPU產(chǎn)品--智鎧100，截止目前，天數(shù)智芯訂單規(guī)模就已經(jīng)突破5億元。目前，基于天垓100訓(xùn)練的模型種類(lèi)超過(guò)了兩百種。天數(shù)智芯表示，公司在訓(xùn)練芯片上堅(jiān)持通用GPU架構(gòu)、主流生態(tài)兼容等發(fā)展路線(xiàn)，對(duì)于通用性、兼容性、安全性等方面都進(jìn)行了支持，可以為ChatGPT的發(fā)展提供有效安全的算力底座。

對(duì)于以ChatGPT為代表的大模型訓(xùn)練和部署，對(duì)通用GPU或者算力的高要求，登臨科技聯(lián)合創(chuàng)始人王平談到，從ChatGPT用戶(hù)數(shù)超1億，日訪問(wèn)量幾千萬(wàn)的數(shù)據(jù)來(lái)看，它的運(yùn)營(yíng)成本相當(dāng)高，每天的電費(fèi)達(dá)到幾十萬(wàn)人民幣量級(jí)。他認(rèn)為，這時(shí)候計(jì)算效率很重要，如果計(jì)算架構(gòu)相比于傳統(tǒng)的GPGPU更有優(yōu)勢(shì)的話(huà)，它在計(jì)算效率上也就會(huì)更有優(yōu)勢(shì)。

就比如登臨科技的一些計(jì)算密度更大的產(chǎn)品。登臨科技是一家專(zhuān)注于高性能通用計(jì)算平臺(tái)的芯片研發(fā)與技術(shù)創(chuàng)新的公司，登臨自主研發(fā)的GPU+架構(gòu)正式采用了軟件定義的片內(nèi)異構(gòu)體系，目前首款基于GPU+的系列產(chǎn)品—Goldwasser已在云至邊緣的各個(gè)應(yīng)用場(chǎng)景實(shí)現(xiàn)規(guī)?；涞?。據(jù)王平介紹，登臨科技希望通過(guò)異構(gòu)，從由點(diǎn)及面在一些足夠大的市場(chǎng)領(lǐng)域，把產(chǎn)品做到比英偉達(dá)同系列產(chǎn)品更具性?xún)r(jià)比優(yōu)勢(shì)，甚至超過(guò)英偉達(dá)。

高速接口IP的機(jī)會(huì)和挑戰(zhàn)

就如上文所言，大模型的訓(xùn)練需要大量的GPU，ChatGPT的訓(xùn)練就使用了1萬(wàn)張英偉達(dá)的高端GPU。然而從訓(xùn)練的角度來(lái)看，計(jì)算性能再好的GPU芯片如A100如果無(wú)法集群在一起去訓(xùn)練，那么訓(xùn)練一個(gè)類(lèi)ChatGPT的大模型可能需要上百年。因此，AI大模型的訓(xùn)練對(duì)高速接口IP是一個(gè)巨大的挑戰(zhàn)，也是一個(gè)巨大的機(jī)遇。

在以ChatGPT為代表的生成式AI大模型產(chǎn)業(yè)中，接口IP能夠發(fā)揮哪些作用呢？奎芯科技市場(chǎng)及戰(zhàn)略副總裁唐睿在接受電子發(fā)燒友網(wǎng)采訪時(shí)談到了幾點(diǎn)：

首先是芯片上的互聯(lián)接口，也就是Die to Die類(lèi)型的互聯(lián)接口IP，包括UCIe等，用以擴(kuò)充單芯片的計(jì)算能力；其次是Chip to Chip類(lèi)型的互聯(lián)接口IP，包括SerDes/PCIe/CXL等，能夠加快芯片之間的互聯(lián)和數(shù)據(jù)交換，滿(mǎn)足更高帶寬的需求；此外還有內(nèi)存接口IP，包括SATA、DDR、HBM等，能夠用于打造更高性能的存儲(chǔ)產(chǎn)品，幫助類(lèi)ChatGPT存儲(chǔ)和交換大規(guī)模的數(shù)據(jù)；再上一層就是數(shù)據(jù)通訊接口的接口IP。因此，從訓(xùn)練的角度來(lái)看，類(lèi)ChatGPT應(yīng)用的爆發(fā)，能夠帶來(lái)非常大的接口IP需求。

奎芯科技成立于2021年，目前已經(jīng)推出的高速接口IP組合包括USB、PCIe、SATA、SerDes、MIPI、DDR、HDMI、DP、HBM等豐富的類(lèi)型。唐睿指出，從技術(shù)上來(lái)看，國(guó)產(chǎn)接口IP廠商確實(shí)還處于追趕的位置，不過(guò)這種差距已經(jīng)越來(lái)越小。2023年，奎芯科技將會(huì)推出一系列性能達(dá)到國(guó)際領(lǐng)先水平的接口IP產(chǎn)品，包括HBM3以及其他領(lǐng)先的D2D類(lèi)型的互聯(lián)接口IP。

當(dāng)前，AI大模型訓(xùn)練所用到的算力集群基本上都是基于英偉達(dá)通用算力芯片來(lái)打造，在這方面國(guó)產(chǎn)通用算力芯片還存在一定的性能差距。唐睿表示，國(guó)產(chǎn)高性能計(jì)算芯片還是有機(jī)會(huì)的，AI大模型并不是一個(gè)近期出現(xiàn)的新鮮事物，近些年國(guó)內(nèi)AI產(chǎn)業(yè)已經(jīng)在跟進(jìn)這一趨勢(shì)，只是類(lèi)ChatGPT類(lèi)型應(yīng)用背后的大模型參數(shù)規(guī)模更大。

針對(duì)這方面的需求，國(guó)內(nèi)芯片產(chǎn)業(yè)也早就啟動(dòng)了這方面的布局，包括奎芯科技所在的接口IP賽道，都在向這個(gè)方向努力。不過(guò)，從IP研發(fā)到芯片設(shè)計(jì)，再到應(yīng)用落地，這中間會(huì)有一個(gè)時(shí)間差。實(shí)際上，國(guó)外的公司也是在用之前的芯片通過(guò)互聯(lián)在做這方面的硬件支持。

服務(wù)器廠商的機(jī)會(huì)和挑戰(zhàn)

大模型的訓(xùn)練和部署離不開(kāi)服務(wù)器的支持。微軟Azure AI基礎(chǔ)設(shè)施總經(jīng)理尼迪·卡佩爾表示，他們構(gòu)建了一個(gè)系統(tǒng)架構(gòu)，可以在非常大的范圍內(nèi)運(yùn)行且十分可靠，這是ChatGPT成功的重要原因。云服務(wù)依賴(lài)于數(shù)千個(gè)不同的部件，包括服務(wù)器、管道、不同的金屬和礦物等。

近年來(lái)，在全球數(shù)字化、智能化的浪潮下，智能手機(jī)、自動(dòng)駕駛、數(shù)據(jù)中心、圖像識(shí)別等應(yīng)用推動(dòng)AI服務(wù)器市場(chǎng)迅速成長(zhǎng)。根據(jù)IDC數(shù)據(jù)，2021年全球AI服務(wù)器市場(chǎng)規(guī)模已達(dá)到 145億美元，并預(yù)計(jì)2025年將超過(guò)260億美元。

近段時(shí)間ChatGPT概念的火熱，更是對(duì)算力基礎(chǔ)設(shè)施的需求起到了帶動(dòng)作用。寧暢副總裁兼CTO趙雷此前在接受媒體采訪的時(shí)候表示，ChatGPT的訓(xùn)練和部署，都需要大量智能計(jì)算數(shù)據(jù)存儲(chǔ)以及傳輸資源，計(jì)算機(jī)基礎(chǔ)設(shè)施、算力等上游技術(shù)將因此受益。

寧暢是一家集研發(fā)、生產(chǎn)、部署、運(yùn)維一體的服務(wù)器廠商，及IT系統(tǒng)解決方案提供商。該公司很早就開(kāi)始著重發(fā)力于人工智能服務(wù)器和液冷服務(wù)器。趙雷表示，公司目前在用的、在研的人工智能和液冷服務(wù)器，包括今年推出的浸沒(méi)液冷服務(wù)器，剛好跟上算力高速增長(zhǎng)的市場(chǎng)需求。公司隨時(shí)準(zhǔn)備著為客戶(hù)提供合適的高算力產(chǎn)品和解決方案。

在人工智能服務(wù)器方面，寧暢已經(jīng)推出多款產(chǎn)品，包括X620 G50、X660 G45、X640 G40、X620 G40。日前，百度正式發(fā)布大型語(yǔ)言模型文心一言，隨后寧暢聯(lián)合百度宣布寧暢AI服務(wù)器支持百度文心一言，寧暢憑借AI服務(wù)器產(chǎn)品及定制化服務(wù)，為百度文心一言提供算力保障。

目前國(guó)內(nèi)有不少優(yōu)秀的服務(wù)器廠商，除了上述提到的寧暢，還有浪潮信息、中科曙光等。不過(guò)整體來(lái)看，國(guó)內(nèi)在算力的提供商仍然存在瓶頸，比如總體算力不夠，算力分布不均。也就是說(shuō)存在部分客戶(hù)算力過(guò)剩，部分客戶(hù)算力不足，或者A時(shí)間算力過(guò)剩，B時(shí)間算力不足的情況。短期來(lái)看，這個(gè)問(wèn)題要靠云技術(shù)解決，長(zhǎng)期來(lái)看是要提供過(guò)剩的算力。也就是說(shuō)，需要云技術(shù)去平衡協(xié)調(diào)算力不均勻的問(wèn)題，還需要提高算力、算力效率等。

另外還有算力成本的問(wèn)題，雖然目前每單位算力單價(jià)已經(jīng)下降，但是過(guò)去幾年服務(wù)器的平均售價(jià)一直上漲。趙雷認(rèn)為，可能算力類(lèi)型單一，不太能夠有效地支撐高速增長(zhǎng)的模式，可能要有各種各樣不同類(lèi)型的算力。比如ChatGPT，是不是可以做針對(duì)GPT模型專(zhuān)門(mén)的ASIC。算力的應(yīng)用類(lèi)型越窄，它的效率就會(huì)越高，越通用效率就越低。

總結(jié)

顯然，隨著ChatGPT、GPT-4及文心一言等大型語(yǔ)言模型的發(fā)布，以及未來(lái)大模型在各個(gè)領(lǐng)域中實(shí)現(xiàn)部署應(yīng)用，人們離期待已久的通用人工智能也就越來(lái)越近。而大模型的研發(fā)和應(yīng)用部署，也將給算力芯片、接口IP、服務(wù)器等產(chǎn)業(yè)帶來(lái)前所未有的機(jī)會(huì)。同時(shí)國(guó)內(nèi)在這些領(lǐng)域具備自己的獨(dú)特優(yōu)勢(shì)，也面臨著諸多挑戰(zhàn)。這將會(huì)是一場(chǎng)持久戰(zhàn)。