近日，英偉達(dá)推出了一款用于人工智能工作的頂級(jí)芯片HGX H200。新的GPU升級(jí)了需求巨大的H100，內(nèi)存帶寬增加了1.4倍，內(nèi)存容量增加了1.8倍，提高了其處理密集生成人工智能工作的能力。

在備受矚目的人工智能領(lǐng)域，英偉達(dá)提到，H200將帶來進(jìn)一步的性能飛躍。在Llama 2（700億參數(shù)的LLM）上的推理速度比H100快了一倍。未來的軟件更新預(yù)計(jì)會(huì)給H200帶來額外的性能領(lǐng)先優(yōu)勢(shì)和改進(jìn)。

H200將在具有四路和八路配置的英偉達(dá)HGX H200服務(wù)器主板中提供，并與HGX H100系統(tǒng)的硬件和軟件兼容。

大型計(jì)算機(jī)制造商和云服務(wù)提供商預(yù)計(jì)將于明年第二季度開始使用H200。亞馬遜的AWS、Alphabet公司的谷歌云、微軟Azure和甲骨文的云基礎(chǔ)設(shè)施，都承諾從明年開始使用這款新芯片。

英偉達(dá)高性能計(jì)算產(chǎn)品副總裁Ian Buck在近日的視頻演示中表示：“更快、更廣泛的HBM內(nèi)存集成有助于提高計(jì)算需求任務(wù)的性能，包括生成人工智能模型和[高性能計(jì)算]應(yīng)用程序，同時(shí)優(yōu)化GPU利用率和效率。”

H200還與已經(jīng)支持H100的相同系統(tǒng)兼容。英偉達(dá)表示，云提供商在將H200添加到混合中時(shí)不需要做出任何更改。亞馬遜、谷歌、微軟和甲骨文的云計(jì)算部門將在明年率先提供新的GPU。

一旦推出，新芯片肯定會(huì)很貴。英偉達(dá)沒有列出它們的價(jià)格，但據(jù)美國(guó)消費(fèi)者新聞與商業(yè)頻道報(bào)道，上一代H100的售價(jià)估計(jì)在25000至40000美元之間，其中數(shù)千臺(tái)需要在最高水平上運(yùn)行。并且，價(jià)格由英偉達(dá)的合作伙伴決定。

伴隨著人工智能的火爆，英偉達(dá)的高端GPU需求量極大。這也令其他芯片制造商瞄準(zhǔn)這一利潤(rùn)豐厚的市場(chǎng)，加快推出高品質(zhì)的AI芯片，整個(gè)AI芯片市場(chǎng)競(jìng)爭(zhēng)相當(dāng)激烈。英偉達(dá)此舉旨在鞏固其在AI計(jì)算市場(chǎng)的主導(dǎo)地位。

審核編輯：彭菁