AI無(wú)疑已經(jīng)成為推動(dòng)下一代用戶(hù)體驗(yàn)的驅(qū)動(dòng)力。無(wú)論是快速瀏覽喜愛(ài)的社交應(yīng)用，還是基于數(shù)萬(wàn)次AI推理提供的在線(xiàn)購(gòu)物推薦，幾乎每一項(xiàng)移動(dòng)終端體驗(yàn)都與AI密不可分。目前，這些平臺(tái)每天承載著數(shù)百萬(wàn)的用戶(hù)量，這又意味著什么呢？它們需要海量性能出眾的高密度服務(wù)器，來(lái)提供滿(mǎn)足上述平臺(tái)持續(xù)運(yùn)行所需的AI推理性能。

目前，通過(guò)與AMD最新的EPYC 7003系列處理器和技嘉科技的最新G292-Z43服務(wù)器解決方案相配合，高通技術(shù)公司正助力性能出眾的機(jī)架式服務(wù)器滿(mǎn)足高性能需求。上述企業(yè)在硬件技術(shù)專(zhuān)長(zhǎng)領(lǐng)域的結(jié)合，帶來(lái)了頂級(jí)性能并為現(xiàn)代化數(shù)據(jù)中心樹(shù)立全新標(biāo)桿。高通技術(shù)公司尖端的Cloud AI 100能夠與技嘉服務(wù)器系統(tǒng)完美適配，這將推動(dòng)眾多出色的AI用例在高速數(shù)據(jù)分析、個(gè)性化推薦、智慧城市和5G通信等領(lǐng)域的普及。

技嘉G292-Z43服務(wù)器將支持兩臺(tái)AMD EPYC 7003系列處理器用于處理負(fù)載，以及多個(gè)高通Cloud AI 100 PCI-E卡用于支持需要密集計(jì)算的應(yīng)用來(lái)支持AI推理。高通Cloud AI 100推理加速器支持高達(dá)400 TOPS的算力，還擁有突破性的性能功耗比，并且僅通過(guò)單個(gè)高通Cloud AI 100 PCI-E卡即可實(shí)現(xiàn)。試想一下，如果每臺(tái)技嘉服務(wù)器最多可搭載16個(gè)高通Cloud AI 100 PCI-E推理卡，即可提供高達(dá)每秒6.4千萬(wàn)億次運(yùn)算（400 TOPS x 16，1 POPS等于1000 TOPS）。這是首次基于高通技術(shù)公司AI技術(shù)的解決方案突破每秒千萬(wàn)億次運(yùn)算（POPS）大關(guān)。更值得注意的是，每個(gè)服務(wù)器機(jī)柜可管理超過(guò)19個(gè)上述服務(wù)器單元，從而輕松實(shí)現(xiàn)超過(guò)100 POPS的算力，這充分體現(xiàn)了高通技術(shù)公司在AI領(lǐng)域的強(qiáng)勁實(shí)力。欲了解相關(guān)參數(shù)，請(qǐng)參考以下信息圖。

更具體來(lái)看，單個(gè)算力為400 TOPS的HHHL（半高，半長(zhǎng)）高通Cloud AI 100 PCI-E推理卡每秒可以支持19,000張圖像進(jìn)行Resnet50模型分類(lèi)推理，相當(dāng)于一臺(tái)服務(wù)器機(jī)柜每秒可處理超過(guò)600萬(wàn)張圖像。如此強(qiáng)大的AI性能有望在全球市場(chǎng)增強(qiáng)并規(guī)模化擴(kuò)展AI體驗(yàn)。我們衷心感謝AMD和技嘉科技為實(shí)現(xiàn)這一驚人成就所付出的努力。

高通Cloud AI 100 PCI-E卡和搭載AMD EPYC 7003系列處理器的技嘉服務(wù)器即將面市，請(qǐng)參考文末產(chǎn)品圖獲取更多信息。

責(zé)任編輯：lq