作者：Arm 邊緣 AI 事業(yè)部智能手機(jī)市場高級(jí)總監(jiān) Steve Raphael

Arm 始終堅(jiān)信，人工智能 (AI) 及其所帶來的價(jià)值，理應(yīng)惠及更廣泛的人群。這一理念正引領(lǐng) AI 邁入全新發(fā)展階段 —— 更具個(gè)性化、即時(shí)可用，并越來越多地在端側(cè)運(yùn)行。

Arm 技術(shù)已應(yīng)用于全球 99% 的智能手機(jī)中，在這場持續(xù)的“AI 普惠”進(jìn)程中扮演著至關(guān)重要的角色。通過平衡性能、功耗和面積，Arm 技術(shù)為各類移動(dòng)平臺(tái)賦能，使先進(jìn)的智能技術(shù)能夠在任何設(shè)備上高效運(yùn)行，不僅覆蓋當(dāng)今高性能的旗艦手機(jī)，更惠及高性價(jià)比的中高端機(jī)型。

當(dāng)端側(cè) AI 普及到這種規(guī)模后，全球數(shù)十億用戶將能在日常使用的移動(dòng)應(yīng)用中感受到切實(shí)的體驗(yàn)提升，涵蓋實(shí)時(shí)圖像和視頻增強(qiáng)、語音識(shí)別、多模態(tài)助手、翻譯、智能摘要、圖像搜索等一系列場景。

TECNO 與 Arm 攜手推動(dòng)移動(dòng)端實(shí)時(shí)生成式 AI

Arm 近期與 TECNO 的合作，正是 AI 普惠的一個(gè)清晰例證。TECNO 是一家專注于為新興市場用戶提供先進(jìn)技術(shù)和互聯(lián)生態(tài)的 AI 智能全生態(tài)創(chuàng)新科技品牌。雙方攜手合作，將端側(cè)生成式 AI 技術(shù)引入 TECNO 的中高端機(jī)型中，從而為用戶帶來風(fēng)格遷移預(yù)覽 (Style Transfer Preview)、沉浸式風(fēng)格化等前沿創(chuàng)意體驗(yàn)。

過去，生成式 AI 因算力需求高、延遲長、依賴云端連接，在移動(dòng)端一直面臨發(fā)展瓶頸。而 Arm 與 TECNO 的合作破解了這一困局，通過在 Armv9 CPU 上運(yùn)行生成式 AI，并借助 Arm KleidiAI 進(jìn)行優(yōu)化，大幅提升了 TECNO 端側(cè) AIGC 預(yù)覽概念技術(shù)的 AI 性能，減少了分屏取景時(shí)的屏幕閃爍與抖動(dòng)問題。通過該集成，用戶可直接在取景框中，以 30 幀/秒的速率實(shí)現(xiàn)風(fēng)格遷移預(yù)覽下的實(shí)時(shí) AI 藝術(shù)特效。

整數(shù) 8 位矩陣乘法 (i8MM) 正是實(shí)現(xiàn)上述提升的核心，該硬件指令擴(kuò)展嵌入在 Arm CPU 中，可加速通用矩陣乘法 (GEMM)，而 GEMM 正是多數(shù) AI 工作負(fù)載的核心計(jì)算。這對(duì)于中端和入門機(jī)型尤其有利，這類設(shè)備通常以 CPU 作為主要 AI 引擎。通過 KleidiAI 利用 i8MM 指令，Arm 與 TECNO 的合作可加速通用框架與應(yīng)用中的核心機(jī)器學(xué)習(xí) (ML) 工作負(fù)載，使 AI 計(jì)算速度提升 30%，且效率更高，為實(shí)時(shí)照片特效、物體檢測、增強(qiáng)現(xiàn)實(shí) (AR) 等場景帶來響應(yīng)更流暢的創(chuàng)意體驗(yàn)。

Arm 與 TECNO 的合作已促成多項(xiàng)關(guān)鍵工程創(chuàng)新，其中包括：

智能異構(gòu)調(diào)度，可將工作負(fù)載分配到各個(gè) CPU 上，顯著提高性能和能效。

模型壓縮與修復(fù)技術(shù)，使得生成式模型能夠在 Arm CPU 上高效運(yùn)行，同時(shí)保持所生成內(nèi)容的出色藝術(shù)品質(zhì)。

通過 CPU 管線保障實(shí)時(shí)流暢性，將 AI 推理遷移到 Arm CPU，實(shí)現(xiàn)創(chuàng)意風(fēng)格遷移的視頻級(jí)預(yù)覽，大幅降低延遲，帶來流暢、即時(shí)的取景體驗(yàn)。

得益于此，用戶能在構(gòu)圖時(shí)即時(shí)預(yù)覽創(chuàng)意想法，并體驗(yàn)沉浸式風(fēng)格化效果。

Armv9 CPU：將先進(jìn) AI 引入主流智能手機(jī)

Armv9 CPU 的日益普及是推動(dòng)中高端智能手機(jī)擁有強(qiáng)大 AI 功能的關(guān)鍵因素。由此帶來了出色的 AI 性能、能效與成熟生態(tài)，為全價(jià)位段智能手機(jī)（從旗艦到入門級(jí)機(jī)型）普及 AI 功能奠定了基礎(chǔ)。

在搭載 Armv9 CPU 的設(shè)備上，具體優(yōu)勢體現(xiàn)在以下幾個(gè)方面：

開發(fā)者能夠通過 KleidiAI 無縫獲取更快速、高效的 AI 性能；

相機(jī)和計(jì)算機(jī)視覺 (CV) 后處理管線中的圖像處理能力提升；

應(yīng)用啟動(dòng)更快，響應(yīng)更迅速。

Armv9 CPU 已集成到廣泛采用的基于 Arm 架構(gòu)的 MediaTek 天璣平臺(tái)中，為全球數(shù)百萬中端及主流設(shè)備提供支持。最新的天璣 8500 系列將先進(jìn)的 AI 技術(shù)進(jìn)一步推向中高端智能手機(jī)領(lǐng)域，支持端側(cè)生成式 AI 工作負(fù)載，例如風(fēng)格遷移效果、本地語言模型和創(chuàng)意 AI 等以往僅旗艦機(jī)型才具備的功能。

Arm KleidiAI：讓移動(dòng)端開發(fā)者輕松實(shí)現(xiàn) AI 優(yōu)化

然而，僅靠硬件不足以實(shí)現(xiàn) AI 普惠，還必須讓開發(fā)者能夠輕松獲取和使用強(qiáng)大的 AI 性能。KleidiAI 在這方面發(fā)揮了關(guān)鍵作用。

KleidiAI 是一套經(jīng)過優(yōu)化的 AI 庫和工具，旨在幫助開發(fā)者無需修改任何代碼或具備深厚的硬件專業(yè)知識(shí)，即可充分利用 Arm CPU 的性能潛力。KleidiAI 已集成到主流的 AI 框架中，為手機(jī)廠商和廣大開發(fā)者群體提供了成熟可靠的生態(tài)系統(tǒng)，有效銜接 Arm 第二代可伸縮矩陣擴(kuò)展 (SME2)、i8MM 和第二代可伸縮向量擴(kuò)展 (SVE2) 等前沿 CPU 特性與實(shí)際應(yīng)用場景，快速獲得性能優(yōu)勢。許多全球主流的社交媒體、購物、支付、相機(jī)、AR 和多模態(tài)應(yīng)用已廣泛受益于 Armv9 CPU 的 AI 能力。

讓智能無處不在

AI 普惠并非局限于特定的功能或設(shè)備，而是要構(gòu)建一個(gè)計(jì)算基礎(chǔ)，使智能技術(shù)以負(fù)責(zé)任、高效且普遍的方式實(shí)現(xiàn)擴(kuò)展。由此一來，用戶最關(guān)心的 AI 體驗(yàn)，如相機(jī)管線、語音功能，乃至新興的 AIGC 工作流，都能從高端設(shè)備高效普及到中端及更廣泛的機(jī)型上。

依托先進(jìn)的架構(gòu)特性、軟件優(yōu)化、與 MediaTek 和 TECNO 等合作伙伴的深度生態(tài)協(xié)作，以及數(shù)十年工程創(chuàng)新的積淀，Arm 讓數(shù)十億部智能手機(jī)都能配備先進(jìn)的 AI 功能，助力開創(chuàng)普惠共享、而非專屬獨(dú)享的 AI 新時(shí)代。

智能無處不在，Arm 賦能未來！