電子發(fā)燒友網(wǎng)報(bào)道（文 / 吳子鵬）在 AI 算力需求呈指數(shù)級(jí)增長(zhǎng)的今天，英偉達(dá)憑借其 GPU 和 CUDA 生態(tài)構(gòu)筑的 “護(hù)城河” 似乎堅(jiān)不可摧。然而，一股由前谷歌 TPU 核心工程師組成的 “復(fù)仇者聯(lián)盟” 正在硅谷悄然集結(jié)，他們創(chuàng)立的 MatX 公司剛剛完成 5 億美元 B 輪融資，豪言要打造性能 10 倍于英偉達(dá) GPU 的專(zhuān)用 AI 芯片，試圖在通用芯片與專(zhuān)用芯片的夾縫中開(kāi)辟新賽道。

MatX 創(chuàng)始人兼 CEO Reiner Pope 在 LinkedIn 上宣布了這一消息，領(lǐng)投方為 Jane Street 和由前 OpenAI 研究員 Leopold Aschenbrenner 成立的投資基金 Situational Awareness。雖然 Reiner Pope 并未透露公司估值，不過(guò)有投資人士推斷其估值已達(dá) 50 億美元。這家成立僅三年的初創(chuàng)企業(yè)，能否真正撼動(dòng)英偉達(dá)的統(tǒng)治地位？

從谷歌 TPU 出走的 “技術(shù)起義者”

2022 年，兩位前谷歌 TPU 核心工程師 Reiner Pope 與 Mike Gunter 正式離職，兩人的目標(biāo)是從零打造一款專(zhuān)為 LLM 設(shè)計(jì)的芯片，打破算力與延遲的權(quán)衡困境，讓芯片既能滿(mǎn)足大模型訓(xùn)練的高吞吐需求，又能實(shí)現(xiàn)推理場(chǎng)景的低延遲響應(yīng)。隨后，二人創(chuàng)立了 MatX。

公開(kāi)信息顯示，作為 MatX 的 CEO，Reiner Pope 此前負(fù)責(zé)谷歌 TPU 的 AI 軟件開(kāi)發(fā)工作，深度理解 AI 模型與硬件的協(xié)同優(yōu)化；作為 MatX 的 CTO，Mike Gunter 則是谷歌 TPU 核心研發(fā)人員之一，擁有豐富的芯片架構(gòu)設(shè)計(jì)經(jīng)驗(yàn)。這種 “軟硬結(jié)合” 的創(chuàng)始團(tuán)隊(duì)背景，為 MatX 后續(xù)的技術(shù)路線(xiàn)奠定了堅(jiān)實(shí)基礎(chǔ)。

Reiner Pope 與 Mike Gunter 在谷歌期間，見(jiàn)證了 TPU 如何以專(zhuān)用架構(gòu)在特定場(chǎng)景下實(shí)現(xiàn)遠(yuǎn)超通用 GPU 的能效比。但在當(dāng)時(shí)，TPU 始終只是谷歌的 “內(nèi)供武器”，僅用于自家數(shù)據(jù)中心，并不對(duì)外銷(xiāo)售。手握世界級(jí) AI 芯片設(shè)計(jì)能力的兩人，看著全球 AI 開(kāi)發(fā)者被英偉達(dá)的 CUDA 生態(tài)牢牢綁定，被高昂的算力成本壓得喘不過(guò)氣，最終決定出走創(chuàng)業(yè)。

值得注意的是，MatX 本輪 B 輪融資的投資方構(gòu)成極具戰(zhàn)略意義。Jane Street 是全球頂級(jí)量化交易公司，對(duì)算力需求的理解深入骨髓；而 Situational Awareness 由前 OpenAI 研究員 Leopold Aschenbrenner 創(chuàng)立，管理資產(chǎn)超 15 億美元，專(zhuān)注于 AGI（通用人工智能）方向投資，認(rèn)為 AGI 將在 “幾年內(nèi)” 實(shí)現(xiàn)。其他投資者包括芯片制造商 Marvell Technology、NFDG、Spark Capital，以及 Stripe 聯(lián)合創(chuàng)始人 Patrick Collison 和 John Collison 兄弟。

此外，前特斯拉 AI 總監(jiān)、OpenAI 聯(lián)合創(chuàng)始人 Andrej Karpathy 也參與了本輪投資。他在社交平臺(tái)上表示：“隨著對(duì) token 需求的激增，為大語(yǔ)言模型底層內(nèi)存和計(jì)算資源的合理配置提供了絕佳機(jī)會(huì)?！?br />

重構(gòu)算力與存儲(chǔ)，直擊 LLM 核心痛點(diǎn)

MatX 之所以敢于挑戰(zhàn)行業(yè)巨頭，核心在于其走出了一條不同于主流的技術(shù)路線(xiàn) —— 不追求 “通用全能”，而是以 LLM 的核心需求為導(dǎo)向，通過(guò)架構(gòu)創(chuàng)新和存儲(chǔ)優(yōu)化，實(shí)現(xiàn) “高吞吐 + 低延遲” 的雙重突破。其首款產(chǎn)品 MatX One 的技術(shù)設(shè)計(jì)，堪稱(chēng)對(duì)傳統(tǒng) AI 芯片的一次重構(gòu)。

根據(jù) MatX 官網(wǎng)介紹，MatX One 可提供比目前已發(fā)布產(chǎn)品更高的吞吐量，同時(shí)延遲水平也能對(duì)標(biāo)行業(yè)最優(yōu)。對(duì)于訓(xùn)練和預(yù)填充，它在 FLOPS 方面表現(xiàn)突出；對(duì)于解碼和強(qiáng)化學(xué)習(xí)（RL），它在延遲、FLOPS 和長(zhǎng)上下文支持方面優(yōu)勢(shì)明顯。同時(shí)，MatX One 能夠支持?jǐn)?shù)十萬(wàn)個(gè)芯片的集群擴(kuò)展。

MatX One 之所以能夠?qū)崿F(xiàn)上述性能，在于其獨(dú)特的技術(shù)路線(xiàn)，實(shí)現(xiàn)了 SRAM 與 HBM 的 “魚(yú)與熊掌兼得”。當(dāng)前 AI 芯片市場(chǎng)主要分為兩大路線(xiàn)：以英偉達(dá)、谷歌為代表的 “重押 HBM 高帶寬內(nèi)存” 路線(xiàn)，優(yōu)先解決大規(guī)模訓(xùn)練的吞吐問(wèn)題；以 Cerebras 為代表的 “片上 SRAM 優(yōu)先” 路線(xiàn)，主打推理場(chǎng)景的低延遲。而 MatX 的創(chuàng)新之處在于，將兩種路線(xiàn)的優(yōu)勢(shì)融合，打造了 “專(zhuān)一化架構(gòu) + 混合存儲(chǔ)” 的獨(dú)特方案，無(wú)需在 “速度與容量” 之間做取舍。

首先，MatX 采用了更激進(jìn)的架構(gòu)設(shè)計(jì)，基于可分割的脈動(dòng)陣列（splittable systolic array），這種設(shè)計(jì)兼具大型脈動(dòng)陣列突出的能效和面積效率，同時(shí)在處理形狀靈活的小型矩陣時(shí)也能保持高利用率。傳統(tǒng)脈動(dòng)陣列在處理短序列或混合專(zhuān)家模型（MoE）的稀疏計(jì)算時(shí)，部分計(jì)算單元會(huì)閑置，而 MatX 的可分割設(shè)計(jì)能讓芯片每一寸硅片都參與有效計(jì)算，最大化每平方毫米的算力輸出，這也是其算力密度領(lǐng)先的關(guān)鍵。

其次，MatX 在存儲(chǔ)配置上實(shí)現(xiàn)了 SRAM 與 HBM 的智能融合。針對(duì) LLM 運(yùn)行中的內(nèi)存瓶頸，MatX 采用了 “分工明確” 的混合存儲(chǔ)策略：高速低延遲的 SRAM 用于存儲(chǔ)模型權(quán)重等核心參數(shù)，確保計(jì)算單元能快速獲取數(shù)據(jù)，實(shí)現(xiàn)低延遲響應(yīng)；高帶寬、大容量的 HBM 則專(zhuān)門(mén)存儲(chǔ)模型的鍵值緩存（KV Cache）—— 這是 LLM 推理中隨對(duì)話(huà)長(zhǎng)度線(xiàn)性增長(zhǎng)的核心數(shù)據(jù)，直接決定了長(zhǎng)上下文處理能力。這種設(shè)計(jì)既解決了純 SRAM 容量不足的問(wèn)題，又彌補(bǔ)了純 HBM 延遲較高的短板，讓芯片同時(shí)具備 GPU 級(jí)別的高吞吐量和 SRAM 架構(gòu)的低延遲。據(jù)悉，對(duì)于高達(dá) 100 層的超大 MoE（混合專(zhuān)家）模型，MatX One 能實(shí)現(xiàn)驚人的每秒生成超過(guò) 2000 個(gè)輸出 token。

Reiner Pope 對(duì)此解釋道：“我們的立場(chǎng)是，實(shí)際上可以在同一個(gè)產(chǎn)品中同時(shí)實(shí)現(xiàn)這兩點(diǎn)，而且這樣會(huì)得到一個(gè)更好的產(chǎn)品?！?他進(jìn)一步補(bǔ)充：“與其他 HBM 方案不同，我們擁有足夠的 SRAM 和互連帶寬，足以支持將權(quán)重存儲(chǔ)在 SRAM 中。HBM 中的鍵值對(duì)不會(huì)增加延遲，因?yàn)槊芗x取可以預(yù)取，而稀疏讀取的數(shù)據(jù)量很小?！?br />
此外，MatX 還推出了專(zhuān)屬數(shù)值計(jì)算方案。其針對(duì) Transformer 架構(gòu)的特性?xún)?yōu)化了數(shù)值計(jì)算邏輯，無(wú)需依賴(lài)通用芯片的兼容設(shè)計(jì)，進(jìn)一步提升了 LLM 處理效率，尤其在長(zhǎng)上下文、Agent 循環(huán)等復(fù)雜工作流中，優(yōu)勢(shì)更為明顯。

MatX 公開(kāi)宣稱(chēng)，其芯片目標(biāo)是在大語(yǔ)言模型訓(xùn)練和推理性能上，達(dá)到英偉達(dá) GPU 的 10 倍。該公司內(nèi)部測(cè)試顯示，按每平方毫米計(jì)算性能指標(biāo)衡量，其規(guī)劃中的芯片性能可以超越英偉達(dá)即將推出的 Rubin Ultra。不過(guò)需要注意的是，目前 MatX One 仍處于研發(fā)階段，尚未實(shí)現(xiàn)量產(chǎn)，其性能宣稱(chēng)仍需后續(xù)實(shí)際出貨后驗(yàn)證。但從技術(shù)邏輯來(lái)看，其專(zhuān)一化設(shè)計(jì)確實(shí)針對(duì)性解決了 LLM 運(yùn)行中的核心痛點(diǎn)，具備較強(qiáng)的理論競(jìng)爭(zhēng)力。

與巨頭的多維對(duì)比：MatX 的差異化優(yōu)勢(shì)

當(dāng)前 AI 芯片市場(chǎng)，英偉達(dá)占據(jù)約 90% 的份額，谷歌、AMD 等巨頭憑借各自?xún)?yōu)勢(shì)分食剩余市場(chǎng)。MatX 作為后起之秀，其核心競(jìng)爭(zhēng)力需放在行業(yè)格局中對(duì)比，才能更清晰地看清優(yōu)勢(shì)與短板。

在技術(shù)路線(xiàn)上，當(dāng)前霸主英偉達(dá)主打 “通用全能”，兼顧 AI 訓(xùn)練、推理、圖形渲染、科學(xué)計(jì)算等多種場(chǎng)景，核心依賴(lài) HBM3e 高帶寬內(nèi)存和 CUDA 軟件生態(tài)，屬于 “全面覆蓋” 路線(xiàn)。AMD 同樣是通用 GPU 路線(xiàn)，通過(guò) Infinity Fabric 互聯(lián)技術(shù)整合多個(gè)芯粒，主打 “性?xún)r(jià)比”。谷歌和 MatX 則均走專(zhuān)用路線(xiàn)，但谷歌目前基本仍是自研自用，生態(tài)相對(duì)封閉。

但 AI 芯片的競(jìng)爭(zhēng)力，不僅在于硬件性能，更在于軟件生態(tài)和落地能力，這也是 MatX 與行業(yè)巨頭差距最明顯的領(lǐng)域。目前，英偉達(dá)擁有成熟的 CUDA 平臺(tái)，與 PyTorch、TensorFlow 等主流框架深度集成，形成了 “硬件 + 軟件 + 生態(tài)” 的完整護(hù)城河，開(kāi)發(fā)者群體龐大，客戶(hù)遷移成本極高。AMD 依托 ROCm 軟件生態(tài)試圖對(duì)標(biāo) CUDA，但生態(tài)成熟度和開(kāi)發(fā)者群體遠(yuǎn)不及英偉達(dá)，主要客戶(hù)集中在對(duì)成本敏感、無(wú)需深度依賴(lài) CUDA 生態(tài)的企業(yè)。谷歌的封閉生態(tài)前文已提及。

作為挑戰(zhàn)者，MatX 目前尚未搭建成熟的軟件生態(tài)，仍處于軟件棧研發(fā)階段，需要從零開(kāi)始構(gòu)建編譯器、調(diào)度工具等，說(shuō)服習(xí)慣了 CUDA 的開(kāi)發(fā)者和企業(yè)遷移，難度極大。此外，MatX One 計(jì)劃 2027 年出貨，尚未經(jīng)過(guò)量產(chǎn)驗(yàn)證，產(chǎn)能爬坡、性能兌現(xiàn)等均存在不確定性，落地進(jìn)度遠(yuǎn)落后于三大巨頭。

從行業(yè)影響來(lái)看，無(wú)論 MatX 最終能否撼動(dòng)英偉達(dá)的壟斷地位，其技術(shù)創(chuàng)新都為 AI 芯片行業(yè)提供了新的思路 —— 專(zhuān)一化設(shè)計(jì)或許是后發(fā)企業(yè)突破巨頭壁壘的有效路徑。未來(lái)，隨著 MatX 等專(zhuān)用芯片企業(yè)的崛起，AI 芯片市場(chǎng)將形成 “通用芯片覆蓋大眾場(chǎng)景、專(zhuān)用芯片聚焦細(xì)分需求” 的格局，最終推動(dòng)整個(gè) AI 算力生態(tài)向更高效、更具性?xún)r(jià)比的方向發(fā)展。

結(jié)語(yǔ)

MatX 的出現(xiàn)，是 AI 芯片行業(yè)細(xì)分趨勢(shì)的必然產(chǎn)物，其背后是谷歌 TPU 基因的技術(shù)沉淀、資本的堅(jiān)定加持，以及對(duì) LLM 算力痛點(diǎn)的精準(zhǔn)把握。與英偉達(dá)、谷歌、AMD 等巨頭相比，MatX 雖在生態(tài)、落地進(jìn)度上存在明顯差距，但憑借獨(dú)特的技術(shù)路線(xiàn)和專(zhuān)項(xiàng)性能優(yōu)勢(shì)，有望在 LLM 專(zhuān)用芯片賽道開(kāi)辟新的增長(zhǎng)空間。

2027 年將是 MatX 的關(guān)鍵一年，其首款產(chǎn)品 MatX One 的量產(chǎn)情況、性能兌現(xiàn)程度，以及軟件生態(tài)的搭建進(jìn)度，將直接決定其未來(lái)的市場(chǎng)地位。對(duì)于 AI 芯片行業(yè)而言，MatX 的探索不僅為后發(fā)企業(yè)提供了借鑒，也將推動(dòng)算力技術(shù)的持續(xù)革新 —— 在這場(chǎng)算力角逐中，沒(méi)有永遠(yuǎn)的霸主，只有不斷適應(yīng)需求、持續(xù)創(chuàng)新的強(qiáng)者。而 MatX 能否成為打破格局的 “黑馬”，值得整個(gè)行業(yè)持續(xù)關(guān)注。