人工智能 (AI) 不再只是一個(gè)科研課題，它已然成為我們?nèi)粘Ｉ畹囊徊糠帧膫€(gè)性化醫(yī)療、智能可穿戴設(shè)備，到沉浸式數(shù)字娛樂以及自主機(jī)器人，AI 正在重塑我們生活、工作和創(chuàng)新的方式。然而，隨著 AI 應(yīng)用日益復(fù)雜，底層的基礎(chǔ)設(shè)施也必須隨之不斷演進(jìn)。

這正是麻省理工科技評論洞察 (MIT Technology Review Insights) 與 Arm 聯(lián)合發(fā)布的新報(bào)告《AI 處理的未來 (The Future of AI Processing)》所聚焦的核心要點(diǎn)。該報(bào)告深入洞察了企業(yè)如何重新審視自身的計(jì)算策略，以滿足當(dāng)下 AI 發(fā)展的需求，并為未來變化做好準(zhǔn)備。

何為異構(gòu)計(jì)算？

這一轉(zhuǎn)變的核心在于異構(gòu)計(jì)算，該方式將 AI 工作負(fù)載分配到不同類型處理器（如 CPU、GPU、NPU 及其他 AI 加速器）上。每個(gè)組件都擁有其獨(dú)特的優(yōu)勢：CPU 負(fù)責(zé)整體的協(xié)調(diào)工作，同時(shí)處理通用任務(wù)，以及進(jìn)行高能效的推理工作；GPU 憑借強(qiáng)大算力，能夠支持大規(guī)模的訓(xùn)練以及高吞吐量的運(yùn)算；而 NPU 則針對實(shí)時(shí)推理進(jìn)行優(yōu)化。

這種架構(gòu)組合，能夠讓計(jì)算系統(tǒng)根據(jù)工作負(fù)載的特點(diǎn)，動(dòng)態(tài)地將其匹配到更合適的處理器上，從而針對性能、能效和成本進(jìn)行優(yōu)化。

Arm 工程部機(jī)器學(xué)習(xí)技術(shù)副總裁 Ian Bratt 在報(bào)告中指出：異構(gòu)計(jì)算旨在提升性能和能效。某個(gè)工作負(fù)載可以運(yùn)行在最合適的組件上，但其中的某部分可能更適合運(yùn)行在另一個(gè)組件上。

AI 在工作、娛樂及生活中廣泛應(yīng)用

該報(bào)告著重闡述了異構(gòu)計(jì)算如何在各種應(yīng)用中實(shí)現(xiàn)更智能、更高效的 AI。例如：

可穿戴設(shè)備和智能家居設(shè)備利用小型端側(cè)處理器進(jìn)行實(shí)時(shí)推理，同時(shí)將個(gè)性化設(shè)置、模式識別等較為復(fù)雜的任務(wù)轉(zhuǎn)移至云端處理。

農(nóng)業(yè)和制造業(yè)中的工業(yè)機(jī)器人融合了計(jì)算機(jī)視覺與機(jī)器學(xué)習(xí)技術(shù)，并借助異構(gòu)計(jì)算在動(dòng)態(tài)環(huán)境中實(shí)現(xiàn)低延遲與能耗優(yōu)化。

流媒體和游戲等娛樂平臺將推理、編碼和個(gè)性化處理等任務(wù)，合理分配到 CPU、GPU 和云基礎(chǔ)設(shè)施上執(zhí)行，從而實(shí)現(xiàn)性能與成本效益之間的良好平衡。

語音助手、預(yù)測文本和實(shí)時(shí)翻譯等應(yīng)用得益于混合 AI 處理技術(shù)，從集中式云端轉(zhuǎn)向邊緣側(cè)和端側(cè)計(jì)算。這種處理方式不僅能夠縮短響應(yīng)時(shí)間，增強(qiáng)隱私保護(hù)，還能提高能效。

這種由異構(gòu)計(jì)算驅(qū)動(dòng)的分布式模型，使得 AI 能夠高效進(jìn)行擴(kuò)展，并適應(yīng)各種實(shí)際需求。隨著 AI 模型的規(guī)模和復(fù)雜性不斷增加，找到合適的平衡至關(guān)重要。在很多實(shí)際場景中，在云端進(jìn)行推理處理是較為理想的選擇，尤其是在使用大模型、處理來自多個(gè)數(shù)據(jù)源的海量數(shù)據(jù)，以及需要快速向廣大用戶推送更新的情況下。

構(gòu)建更智能、更高效的未來

正如報(bào)告中所強(qiáng)調(diào)的，能耗和成本效益正逐漸成為業(yè)界關(guān)注的核心問題。數(shù)據(jù)中心的能耗預(yù)計(jì)將大幅增長，企業(yè)因此也在尋求以更少資源實(shí)現(xiàn)更多產(chǎn)出的方法。異構(gòu)計(jì)算使企業(yè)能夠智能地管理各類工作負(fù)載，從而減少對 GPU 進(jìn)行強(qiáng)制擴(kuò)展的需求，節(jié)省下來的成本可以再次投入到創(chuàng)新開發(fā)。

這種靈活的處理方式還能夠幫助企業(yè)保持長期的適應(yīng)性。隨著工作負(fù)載不斷演變，企業(yè)需要的是那些不會(huì)將其局限于固定發(fā)展路徑，也不會(huì)迫使企業(yè)進(jìn)行昂貴改造的平臺。而異構(gòu)計(jì)算架構(gòu)為企業(yè)提供了所需的多面性，使其在適應(yīng)變化的過程中無需做出妥協(xié)。

《AI 處理的未來》報(bào)告深入探討了這一全新模式，并匯集了來自 Arm、Meta、亞馬遜云科技 (AWS) 和三星等公司高層的觀點(diǎn)。如果你正在為新一代 AI 產(chǎn)品規(guī)劃基礎(chǔ)設(shè)施，那么這份報(bào)告絕對值得一讀。