省成本還是省時(shí)間，AI計(jì)算上的GPU與ASIC之選
電子發(fā)燒友網(wǎng)報(bào)道（文/周凱揚(yáng)）隨著AI計(jì)算逐漸蠶食通用計(jì)算的份額，數(shù)據(jù)中心的硬件市場(chǎng)已經(jīng)開(kāi)始出現(xiàn)了微妙的變化。最搶手的目前已經(jīng)成了GPU，反觀CPU、ASIC和FPGA等硬件，開(kāi)始成為陪襯。但高昂的售價(jià)以及強(qiáng)綁定的供應(yīng)關(guān)系，還是讓不少企業(yè)開(kāi)始探索別的出路。
仍在被瘋搶的GPU
在今年第一季度AI熱潮高漲下，全球已經(jīng)開(kāi)啟了一波GPU搶購(gòu)。無(wú)論是借助GPU開(kāi)發(fā)各自大模型應(yīng)用的互聯(lián)網(wǎng)廠商，還是想借此發(fā)展其AI服務(wù)器業(yè)務(wù)的云服務(wù)廠商，都在搶購(gòu)英偉達(dá)目前主推的A100和H100兩大GPU。
就連臺(tái)積電哪怕第一季度業(yè)績(jī)下滑明顯，其CEO魏哲家在法說(shuō)會(huì)上也表示在AI相關(guān)的需求上觀察到了增量上行，將幫助其在今年實(shí)現(xiàn)可觀的庫(kù)存消化。
H100 GPU / 英偉達(dá)
在美國(guó)商務(wù)部半導(dǎo)體出口新規(guī)剛推出不久，A100在非正常渠道的單價(jià)就飆升至20000美元，是原價(jià)的兩倍左右。為此英偉達(dá)僅僅面向中國(guó)市場(chǎng)推出了A800和H800，只不過(guò)將高速互聯(lián)總線NVLink限制在了400GB/s，但好歹仍足以滿足大部分AI計(jì)算的需求。
可好景不長(zhǎng)，隨著緊缺和搶購(gòu)的趨勢(shì)很快蔓延到了A800和H800上，據(jù)了解，國(guó)內(nèi)市場(chǎng)的A800單價(jià)一周上漲了30%，從原來(lái)9萬(wàn)元上升至13萬(wàn)元，甚至連帶使得搭載該卡的服務(wù)器現(xiàn)貨同樣漲價(jià)，頗有當(dāng)年礦潮期顯卡漲價(jià)整機(jī)一并漲價(jià)的趨勢(shì)。
使其狀況更加惡化的是，英偉達(dá)據(jù)傳大量削減了A800的供應(yīng)，而是轉(zhuǎn)為推廣更高端也更昂貴的H800，單價(jià)在25萬(wàn)元左右。高端的GPU無(wú)疑能夠帶來(lái)更高的性能，但性價(jià)比相對(duì)較低，大規(guī)模部署的成本也會(huì)更加難以承受。所以從全球市場(chǎng)的購(gòu)買表現(xiàn)上來(lái)看，互聯(lián)網(wǎng)公司和云服務(wù)廠商顯然覺(jué)得A100或A800更香一點(diǎn)。
可為了更高的利潤(rùn)轉(zhuǎn)化，英偉達(dá)決心調(diào)整A800和H800的供應(yīng)比例的話，也就說(shuō)得過(guò)去了。A100的市場(chǎng)流通率較高，而A800這種面世不久的特供產(chǎn)品，也更方便在供應(yīng)上加以限制。
省時(shí)和省錢
既然GPU困人已久，為何不打破這一限制，轉(zhuǎn)用大規(guī)模量產(chǎn)成本更低的ASIC產(chǎn)品呢？事實(shí)上，很多廠商早就有類似的心思，只不過(guò)執(zhí)行起來(lái)卻是寸步難行。首先對(duì)于大模型這樣的AI應(yīng)用來(lái)說(shuō)，硬件性能只是一個(gè)方面，擁有優(yōu)質(zhì)的軟件生態(tài)也很重要。
英偉達(dá)的CUDA成了任何進(jìn)軍AI產(chǎn)業(yè)的公司在軟件生態(tài)上的一頭攔路虎，遲遲沒(méi)法突破。固然ASIC的方案可以省下不少硬件成本，但在軟件上仍有不小的障礙。初創(chuàng)公司ASIC硬件的軟件生態(tài)不成熟，巨頭自研的產(chǎn)品又難以與第三方開(kāi)發(fā)結(jié)合起來(lái)，或者說(shuō)能打造出爆品應(yīng)用的概率更低。
反觀CUDA，發(fā)展這么多年積累的各種library已經(jīng)逐漸趨于成熟，甚至在英偉達(dá)的GPU上優(yōu)化到了最佳狀態(tài)，開(kāi)發(fā)者只需要調(diào)用API即可實(shí)現(xiàn)所需的效果。這堵墻就連同為GPU廠商的AMD等競(jìng)爭(zhēng)對(duì)手都未能攻破，因?yàn)锳I時(shí)代下省時(shí)才能搶占先機(jī)，省錢是之后采取考慮的事。
話雖如此，相關(guān)的嘗試依舊沒(méi)有停止，諸如谷歌的TPU、亞馬遜的Trainium以及微軟最近在研究的Chiplet Cloud等等，都是廠商們對(duì)ASIC持續(xù)看好的表現(xiàn)?？梢钥闯?，讓互聯(lián)網(wǎng)企業(yè)，尤其是芯片設(shè)計(jì)能力欠缺的企業(yè)，去走ASIC這條路線是很難的。而托管了諸多第三方芯片設(shè)計(jì)平臺(tái)、大模型和AI計(jì)算負(fù)載的云服務(wù)廠商，有這個(gè)技術(shù)積累，也有實(shí)力組建或已組建達(dá)標(biāo)的芯片設(shè)計(jì)隊(duì)伍，最終做到省時(shí)又省錢。
寫(xiě)在最后
ASIC固然前景可觀，但目前廠商們?cè)谫?gòu)置GPU上花的錢多半是多于自研投入的，這也就是GPU作為通用計(jì)算硬件的future proofing性質(zhì)。可能在GPT爆火的今年，這款A(yù)SIC提供了遠(yuǎn)超GPU的性能或成本優(yōu)勢(shì)，但未來(lái)保不齊會(huì)出現(xiàn)其他的爆品應(yīng)用。GPU可以很快調(diào)轉(zhuǎn)勢(shì)頭，但ASIC就可能會(huì)被淘汰。所以對(duì)這些公司來(lái)說(shuō)，無(wú)論是購(gòu)買A100還是A800，不僅是對(duì)現(xiàn)在的投資，也是對(duì)未來(lái)的投資。
聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
asic
+關(guān)注
關(guān)注
34文章
1274瀏覽量
124635 -
gpu
+關(guān)注
關(guān)注
28文章
5196瀏覽量
135515 -
AI
+關(guān)注
關(guān)注
91文章
39866瀏覽量
301513
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
L9659八通道爆管驅(qū)動(dòng)器ASIC：安全應(yīng)用的理想之選
L9659八通道爆管驅(qū)動(dòng)器ASIC：安全應(yīng)用的理想之選 在當(dāng)今復(fù)雜的電子系統(tǒng)中，安全應(yīng)用一直是重中之重。對(duì)于航空、汽車等領(lǐng)域的安全氣囊系統(tǒng)而言，穩(wěn)定可靠的爆管驅(qū)動(dòng)器是確保其正常工作的關(guān)鍵。L9659
AI ASIC：博通份額將達(dá)60%，聯(lián)發(fā)科成長(zhǎng)顯著，臺(tái)積電成最大贏家
Counterpoint指出，AI芯片熱潮進(jìn)入第二階段，ASIC與GPU競(jìng)爭(zhēng)激烈，博通和臺(tái)積電有望成最大贏家。 ? Counterpoint預(yù)測(cè)，AI
MAX4372T/F/H：低成本、高性能電流檢測(cè)放大器的卓越之選
MAX4372T/F/H：低成本、高性能電流檢測(cè)放大器的卓越之選 在電子設(shè)備的設(shè)計(jì)中，電流監(jiān)測(cè)是保障設(shè)備穩(wěn)定運(yùn)行和高效性能的關(guān)鍵環(huán)節(jié)。無(wú)論是筆記本電腦、手機(jī)等消費(fèi)電子產(chǎn)品，還是智能電池
重磅合作！Quintauris 聯(lián)手 SiFive，加速 RISC-V 在嵌入式與 AI 領(lǐng)域落地
SoC 開(kāi)發(fā)流程，幫開(kāi)發(fā)者省時(shí)間；
優(yōu)化下一代 RISC-V 設(shè)計(jì)的性能和能效，進(jìn)一步拉高性能上限；
把 RISC-V 打造成能和傳統(tǒng)專有處理器架構(gòu)抗衡的方案，畢竟 RISC-V 的靈活性、定制化能力
發(fā)表于 12-18 12:01
AI芯片市場(chǎng)鏖戰(zhàn)，GPU與ASIC誰(shuí)將占據(jù)主動(dòng)？
本文轉(zhuǎn)自：TechSugar隨著人工智能技術(shù)在大模型訓(xùn)練、邊緣計(jì)算、自動(dòng)駕駛等領(lǐng)域的深度滲透，核心算力硬件的競(jìng)爭(zhēng)進(jìn)入白熱化階段。圖形處理單元（GPU）與專用集成電路（ASIC）作為兩大主流技術(shù)路線
【「AI芯片：科技探索與AGI愿景」閱讀體驗(yàn)】+第二章 實(shí)現(xiàn)深度學(xué)習(xí)AI芯片的創(chuàng)新方法與架構(gòu)
的時(shí)間縮短、效率提升的硬件架構(gòu)非常重要。因此存內(nèi)加速方案，X-Former應(yīng)運(yùn)而生。它是一種混合存內(nèi)計(jì)算架構(gòu)，結(jié)合了NVM和基于互補(bǔ)金屬氧化物半導(dǎo)體（CMOS）的處理元件。
架構(gòu)如下：
2.2 閃存AI
發(fā)表于 09-12 17:30
【「AI芯片：科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片的需求和挑戰(zhàn)
的工作嗎？
從書(shū)中也了解到了AI芯片都有哪些？像CPU、GPU、FPGA、ASIC都是AI芯片。
其他的還是知道的，F(xiàn)PGA屬于
發(fā)表于 09-12 16:07
AI 芯片浪潮下，職場(chǎng)晉升新契機(jī)？
、新架構(gòu)不斷涌現(xiàn)。能夠在工作中提出創(chuàng)新性的解決方案，推動(dòng) AI 芯片性能、功耗、成本等關(guān)鍵指標(biāo)的優(yōu)化，將極大提升在職稱評(píng)審中的競(jìng)爭(zhēng)力。例如，在芯片設(shè)計(jì)中引入新的計(jì)算范式，如存算一體技術(shù)，有效解決傳統(tǒng)馮?諾
發(fā)表于 08-19 08:58
AI芯片，需要ASIC
電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎） 2025年，全球AI芯片市場(chǎng)正迎來(lái)一場(chǎng)結(jié)構(gòu)性變革。在英偉達(dá)GPU占據(jù)主導(dǎo)地位的大格局下，ASIC（專用集成電路）憑借針對(duì)AI任務(wù)的定制化設(shè)計(jì)，成為推動(dòng)算
Imagination與澎峰科技攜手推動(dòng)GPU+AI解決方案，共拓計(jì)算生態(tài)
近日， Imagination Technologies 與國(guó)內(nèi)領(lǐng)先的異構(gòu)計(jì)算軟件與智算混合云服務(wù)提供商 澎峰科技 （ PerfXLab ）正式簽署合作備忘錄（ MoU ），圍繞 GPU 與 AI
發(fā)表于 05-21 09:40
?1229次閱讀
Imagination與澎峰科技攜手推動(dòng)GPU+AI解決方案，共拓計(jì)算生態(tài)
近日，ImaginationTechnologies與國(guó)內(nèi)領(lǐng)先的異構(gòu)計(jì)算軟件與智算混合云服務(wù)提供商澎峰科技（PerfXLab）正式簽署合作備忘錄（MoU），圍繞GPU與AI的深度融合展開(kāi)合作。雙方將
Deepseek海思SD3403邊緣計(jì)算AI產(chǎn)品系統(tǒng)
海思SD3403邊緣計(jì)算AI框架，提供了一套開(kāi)放式AI訓(xùn)練產(chǎn)品工具包，解決客戶低成本AI系統(tǒng)，針對(duì)差異化
發(fā)表于 04-28 11:05
AI在醫(yī)療健康和生命科學(xué)中的發(fā)展現(xiàn)狀
NVIDIA 首次發(fā)布的“AI 在醫(yī)療健康和生命科學(xué)中的現(xiàn)狀”調(diào)研，揭示了生成式和代理式 AI 如何幫助醫(yī)療專業(yè)人員在藥物發(fā)現(xiàn)、患者護(hù)理等領(lǐng)域節(jié)省時(shí)間和成本。
Banana Pi 發(fā)布 BPI-AI2N & BPI-AI2N Carrier，助力 AI 計(jì)算與嵌入式開(kāi)發(fā)
存儲(chǔ)設(shè)計(jì)，輕松應(yīng)對(duì)復(fù)雜AI模型與實(shí)時(shí)推理。其堅(jiān)固耐用的工業(yè)級(jí)品質(zhì)與超低成本，不僅適應(yīng)嚴(yán)苛環(huán)境的應(yīng)用，更為工程師提供了極致靈活的開(kāi)發(fā)體驗(yàn)，堪稱推動(dòng)開(kāi)源生態(tài)與人工智能未來(lái)的標(biāo)桿之選?！?瑞
發(fā)表于 03-19 17:54
摩爾線程GPU原生FP8計(jì)算助力AI訓(xùn)練
并行訓(xùn)練和推理，顯著提升了訓(xùn)練效率與穩(wěn)定性。摩爾線程是國(guó)內(nèi)率先原生支持FP8計(jì)算精度的國(guó)產(chǎn)GPU企業(yè)，此次開(kāi)源不僅為AI訓(xùn)練和推理提供了全新的國(guó)產(chǎn)化解決方案，更對(duì)推動(dòng)國(guó)產(chǎn)GPU在
工商網(wǎng)監(jiān)
評(píng)論