12月13日，GAIR 2025「AI 算力新十年」專場在深圳舉行。作為國內(nèi)前沿技術(shù)與產(chǎn)業(yè)變革的重要風向標，GAIR大會歷經(jīng)七屆積淀，見證并推動了中國 AI 產(chǎn)業(yè)從算法突破、硬件迭代，到商業(yè)落地的完整過程。本屆論壇直面智能體系的底層核心——算力，從架構(gòu)、生態(tài)、工具鏈到產(chǎn)業(yè)化落地，探尋未來十年的關(guān)鍵變量。

云天勵飛副總裁羅憶出席并發(fā)表主題演講，圍繞大模型從“訓練競賽”走向“推理規(guī)?；钡漠a(chǎn)業(yè)拐點，分享了面向推理時代的關(guān)鍵判斷與實踐思考。

羅憶指出，過去幾年行業(yè)主要通過更大算力、更大數(shù)據(jù)、更大參數(shù)推動智能上限持續(xù)提升，但隨著應用從簡單問答走向長上下文、工具調(diào)用與更復雜的智能體形態(tài)，產(chǎn)業(yè)關(guān)注點正在發(fā)生遷移：不再止步于“把模型煉得更強”，而是更強調(diào)“把推理做得更便宜、更穩(wěn)定、更可規(guī)模化交付”。

在這一背景下，大模型應用面臨的核心挑戰(zhàn)正逐步呈現(xiàn)為“經(jīng)濟學困境”——模型規(guī)模擴大帶來的算力與帶寬成本上升具有明顯的放大效應，只有通過稀疏化、蒸餾、量化等技術(shù)與工程優(yōu)化持續(xù)降低門檻，AI 才可能從“高成本探索”走向“規(guī)?；栈荨?。

圍繞推理時代的衡量標準，羅憶進一步強調(diào)，競爭指標不應僅停留在芯片的理論算力峰值，而應回到“單位投入能夠產(chǎn)出多少有效 token”。

這意味著，系統(tǒng)瓶頸往往不在算力本身，而在內(nèi)存與互連帶寬，以及由此帶來的算力等待與利用率下降;在相近硬件條件下，誰能提升 MFU(算力/模型利用率)、減少無效等待，誰就更有機會把單位 token 成本攤薄到更具商業(yè)可行性的區(qū)間，從而支撐推理應用的規(guī)模化落地。

在國產(chǎn) AI 推理芯片的發(fā)展方向上，羅憶提出三點思路：一是加強軟件生態(tài)兼容，在更好承接算法迭代的同時提升算力利用效率;二是突破存儲與帶寬相關(guān)瓶頸，積極支持 3D memory 等技術(shù)路線;三是面向異構(gòu)計算持續(xù)優(yōu)化整體性價比，以更可持續(xù)的成本結(jié)構(gòu)推動應用滲透。

他同時表示，行業(yè)的共同目標應是讓推理服務的成本持續(xù)下探，并在未來三到五年推動“百萬 token 成本降至 1 元以內(nèi)”成為可觸達的目標區(qū)間，從而更好支撐“人工智能+”在千行百業(yè)的普及。

云天勵飛自2014年成立以來，一直堅持算法與芯片的協(xié)同迭代，聚焦推理場景推動技術(shù)與產(chǎn)品的持續(xù)演進。目前，公司正探索面向云端推理的新型架構(gòu)方向——GPNPU，力求在兼顧通用性與效率的同時，最大限度降低開發(fā)和遷移的門檻。

面向推理規(guī)?；男码A段，云天勵飛將繼續(xù)以“更高效、更普惠的推理算力”為目標，推動從芯片到系統(tǒng)再到交付的工程能力建設，與產(chǎn)業(yè)伙伴共同完善生態(tài)與應用路徑，讓算力投入更高效地轉(zhuǎn)化為可度量、可復制的業(yè)務價值，形成從“算力基建”到“價值閉環(huán)”的正向循環(huán)。