91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

亞馬遜發(fā)布新一代AI芯片Trainium3,性能提升4倍

Carol Li ? 來源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2025-12-09 08:37 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/李彎彎)在拉斯維加斯舉辦的2025年亞馬遜云科技re:Invent全球大會上,亞馬遜云科技(AWS)推出新一代人工智能AI)訓(xùn)練芯片Trainium 3,預(yù)告了下一代產(chǎn)品Trainium 4的開發(fā)計劃。亞馬遜表示,這款芯片能夠比英偉達(dá)市場領(lǐng)先的圖形處理單元(GPU)更便宜、更高效地驅(qū)動AI模型背后的密集計算。


作為亞馬遜首款3納米工藝AI芯片,Trainium3的核心突破在于性能、能效與擴展性的全面躍升。其計算性能較前代Trainium2提升4.4倍,內(nèi)存帶寬與能效分別增加4倍和40%,單芯片集成144GB高帶寬內(nèi)存(HBM3e),提供2.52FP8 PFLOPs算力。這一性能飛躍得益于三大技術(shù)創(chuàng)新:

3納米制程工藝:晶體管密度提升70%以上,相同面積下集成更多計算單元,能效比提升40%,單位算力能耗降低40%。
Neuron Fabric互聯(lián)技術(shù):單臺Trn3 UltraServer可集成144顆芯片,通過EC2 UltraClusters 3.0架構(gòu)擴展至百萬顆芯片集群,規(guī)模較上一代提升10倍,時延降低4倍。
智能功耗管理:動態(tài)調(diào)節(jié)供電頻率,高負(fù)載時提升計算核心性能,空閑時降低功耗,平衡性能與能效。

實測數(shù)據(jù)顯示,Trainium3在訓(xùn)練OpenAI GPT-OSS模型時,單芯片吞吐量提升3倍,推理響應(yīng)速度提升4倍,訓(xùn)練成本降低50%。

Trainium3的登場并非孤立事件,其前代產(chǎn)品Trainium2已為亞馬遜AI芯片生態(tài)奠定基礎(chǔ)。作為AWS在2024年推出的第二代AI訓(xùn)練芯片,Trainium2采用多核架構(gòu)設(shè)計,支持高并發(fā)計算,峰值性能達(dá)每秒數(shù)千億次浮點運算,性價比較GPU實例提升30%-40%。

其核心優(yōu)勢包括,定制化硬件優(yōu)化,針對Transformer架構(gòu)設(shè)計注意力機制加速單元,大語言模型訓(xùn)練效率提升40%。NeuronLink超速互聯(lián),通過低延遲網(wǎng)絡(luò)連接4個Trn2服務(wù)器,形成83.2Petaflops算力的UltraServer,支持超大規(guī)模模型訓(xùn)練。生態(tài)兼容性,支持TensorFlow、PyTorch等主流框架,無縫遷移現(xiàn)有模型,降低技術(shù)門檻。

Trainium2的商業(yè)化已取得實質(zhì)進(jìn)展。Adobe、Poolside等企業(yè)利用其訓(xùn)練和部署AI模型,Anthropic的“Project Rainier”項目更通過數(shù)十萬顆Trainium2芯片構(gòu)建超級集群,算力較前代提升5倍。

wKgZPGk2nJqAETwvAAJQOrEQAL4386.png


AWS在發(fā)布Trainium3的同時,預(yù)告了下一代芯片Trainium4的研發(fā)進(jìn)展,其核心突破在于與英偉達(dá)生態(tài)的深度整合。支持英偉達(dá)GPU與Trainium芯片高速互聯(lián),形成機架級AI基礎(chǔ)設(shè)施,兼顧性能與成本。FP8算力提升3倍,F(xiàn)P4算力提升6倍,內(nèi)存帶寬提升4倍,模型訓(xùn)練與推理吞吐量至少提升3倍。通過持續(xù)軟硬件協(xié)同,實際性能提升將遠(yuǎn)超基準(zhǔn)數(shù)值,降低客戶遷移成本。

這一戰(zhàn)略調(diào)整直指AI芯片市場的核心矛盾:性能競爭與生態(tài)壁壘。盡管Trainium3內(nèi)存容量(144GB)較谷歌TPU(192GB)和英偉達(dá)Blackwell(288GB)存在差距,但通過與英偉達(dá)的合作,AWS試圖在保持性價比優(yōu)勢的同時,吸引依賴英偉達(dá)生態(tài)的客戶遷移至Trainium平臺。

亞馬遜的芯片戰(zhàn)略已初見成效。截至2024年,Trainium系列在AWS數(shù)據(jù)中心部署速度超預(yù)期,Anthropic計劃年底使用超百萬顆Trainium2芯片。對于客戶而言,Trainium3的性價比優(yōu)勢顯著。其一成本降低,與GPU系統(tǒng)相比,訓(xùn)練和推理成本最高降低50%,碳排放減少40%。其二彈性擴展,支持從單芯片到百萬芯片集群的無縫擴展,滿足不同規(guī)模需求。其三行業(yè)適配,覆蓋金融風(fēng)控、醫(yī)療影像分析、自動駕駛等高并發(fā)場景,推動AI技術(shù)商業(yè)化落地。

然而,挑戰(zhàn)依然存在。亞馬遜需進(jìn)一步豐富軟件庫生態(tài),吸引更多第三方開發(fā)者采用Trainium平臺。對此,AWS通過提供Neuron SDK開發(fā)套件、性能分析工具等,降低模型遷移門檻,同時以Trainium4的生態(tài)兼容性為長期競爭力鋪路。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 亞馬遜
    +關(guān)注

    關(guān)注

    8

    文章

    2731

    瀏覽量

    85724
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    2126

    瀏覽量

    36756
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    進(jìn)迭時空發(fā)布新一代RISC-V AI CPU芯片,滿足端側(cè)大模型算力需求

    電子發(fā)燒友網(wǎng)報道 1月29日,進(jìn)迭時空線上發(fā)布新一代AI CPU芯片——K3。作為全球首顆符合RVA23規(guī)范的量產(chǎn)RISC-V
    的頭像 發(fā)表于 01-30 14:06 ?8325次閱讀

    曦望發(fā)布新一代推理GPU芯片,單位Token推理成本降低90%

    已突破萬片。 ? 啟望S3是專為大模型推理打造的定制化GPGPU芯片。在典型推理場景下,它的整體性價比較上一代提升超10。在算力與存儲設(shè)計
    的頭像 發(fā)表于 01-28 17:38 ?8646次閱讀

    今日看點:消息稱 AMD、高通考慮導(dǎo)入 SOCAMM 內(nèi)存;曦望發(fā)布新一代推理GPU芯片啟望S3

    曦望發(fā)布新一代推理GPU芯片啟望S3 近日,浙江杭州GPU創(chuàng)企曦望(Sunrise)發(fā)布新一代
    發(fā)表于 01-28 11:09 ?365次閱讀

    微軟發(fā)布AI芯片Maia 200,性能超越谷歌TPU和亞馬遜Trainium

    。 ? Maia 200采用臺積電先進(jìn)的3納米工藝制造,現(xiàn)已開始部署至愛荷華州的數(shù)據(jù)中心,后續(xù)還將進(jìn)駐鳳凰城地區(qū)。微軟云與AI業(yè)務(wù)負(fù)責(zé)人Scott Guthrie在博客文章中宣稱,Maia 200是“微軟有史以來部署的最高效推理系統(tǒng)”,每美元
    的頭像 發(fā)表于 01-27 16:46 ?3107次閱讀
    微軟<b class='flag-5'>發(fā)布</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b>Maia 200,<b class='flag-5'>性能</b>超越谷歌TPU和<b class='flag-5'>亞馬遜</b><b class='flag-5'>Trainium</b>

    云巨頭算力戰(zhàn)升級!微軟新一代3nm AI推理芯片性能提升30%,落地數(shù)據(jù)中心

    據(jù)外媒報道,微軟發(fā)布新一代人工智能芯片Maia 200,這款芯片有望成為英偉達(dá)旗艦處理器以及云服務(wù)競爭對手亞馬遜、谷歌同類產(chǎn)品的替代選擇。微
    的頭像 發(fā)表于 01-27 12:29 ?4813次閱讀
    云巨頭算力戰(zhàn)升級!微軟<b class='flag-5'>新一代</b><b class='flag-5'>3</b>nm <b class='flag-5'>AI</b>推理<b class='flag-5'>芯片</b><b class='flag-5'>性能</b><b class='flag-5'>提升</b>30%,落地數(shù)據(jù)中心

    今日看點:微軟發(fā)布新定制 AI 芯片 Maia 200;國芯科技累計出貨2500萬顆創(chuàng)新高

    工藝制造,目前已開始部署于微軟數(shù)據(jù)中心。 ? Maia 200 在特定性能指標(biāo)上顯著優(yōu)于同類產(chǎn)品:其 FP4 性能達(dá)到了亞馬遜第三
    發(fā)表于 01-27 10:23 ?329次閱讀

    亞馬遜新一代自研服務(wù)器芯片Graviton5問世,性能提升25%

    ,基于Graviton5的全新EC2 M9g實例性能提升高達(dá)25%,其每個芯片配備192核及5擴容緩存,助力客戶在擴展工作負(fù)載、提升應(yīng)用
    的頭像 發(fā)表于 12-09 08:33 ?5284次閱讀

    耐能正式推出新一代邊緣AI芯片KL1140

    總部位于圣迭戈的 AI 科技企業(yè) Kneron 耐能今日正式發(fā)表新一代 AI 系列芯片,并由全新旗艦產(chǎn)品 KL1140 領(lǐng)銜,全面構(gòu)建從終端到云端的完整
    的頭像 發(fā)表于 11-28 15:01 ?660次閱讀

    今日看點丨兩家國產(chǎn)頭部廠商發(fā)布新一代AI芯片 ;臺積電在美先進(jìn)封裝布局啟動

    ? ? H20重返中國在即,兩家國產(chǎn)頭部廠商發(fā)布新一代AI芯片 ? 日前,燧原科技和沐曦這兩家頭部國產(chǎn)AI
    發(fā)表于 07-28 10:41 ?2465次閱讀
    今日看點丨兩家國產(chǎn)頭部廠商<b class='flag-5'>發(fā)布</b><b class='flag-5'>新一代</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b> ;臺積電在美先進(jìn)封裝布局啟動

    谷歌新一代生成式AI媒體模型登陸Vertex AI平臺

    我們在 Vertex AI 上推出新一代生成式 AI 媒體模型: Imagen 4、Veo 3 和 Lyria 2。
    的頭像 發(fā)表于 06-18 09:56 ?1079次閱讀

    廣和通發(fā)布新一代AI語音智能體FiboVista

    近日,2025火山引擎Force原動力大會正式開幕。廣和通發(fā)布新一代AI語音智能體FiboVista,并已率先應(yīng)用于車聯(lián)網(wǎng),成為智能駕駛的“用車伙伴”和“出行伴侶”。通過創(chuàng)新AI大模型
    的頭像 發(fā)表于 06-17 09:22 ?1251次閱讀

    中星微發(fā)布新一代AI芯片“星光智能五號”

    近日,在福州舉行的第八屆數(shù)字中國建設(shè)峰會上,中星微宣布其最新一代AI芯片“星光智能五號”在“數(shù)字感知芯片技術(shù)全國重點實驗室”成功運行Deepseek 7B/8B/16B大模型,成為首款
    的頭像 發(fā)表于 05-06 16:03 ?1369次閱讀

    芯馳科技重磅發(fā)布新一代AI座艙芯片X10

    近日,上海國際車展期間,芯馳科技重磅發(fā)布新一代AI座艙芯片X10。在X9系列智能座艙產(chǎn)品數(shù)百萬片量產(chǎn)交付的基礎(chǔ)上,芯馳以X10卓越的性能、
    的頭像 發(fā)表于 04-27 15:56 ?1329次閱讀

    Nordic新一代旗艦芯片nRF54H20深度解析

    、芯片概覽:第四多協(xié)議SoC的革新 Nordic Semiconductor最新發(fā)布的??nRF54H20??作為nRF54H系列首款SoC,標(biāo)志著低功耗無線技術(shù)的又
    發(fā)表于 04-26 23:25

    寶馬發(fā)布新一代智能電子電氣架構(gòu)

    "超級大腦"賦能寶馬新世代車型智能駕駛樂趣 全新一代電子電氣架構(gòu)搭載新世代車型,覆蓋全動力系統(tǒng)和全細(xì)分車型 全新一代電子電氣架構(gòu)集成算力提升20,支持
    的頭像 發(fā)表于 03-13 15:42 ?727次閱讀