在過(guò)去的兩年里，人工智能已經(jīng)從學(xué)術(shù)奇跡轉(zhuǎn)變?yōu)槿虼筅厔?shì)。某種形式的機(jī)器學(xué)習(xí)將徹底改變幾乎所有事物——消費(fèi)、汽車、工業(yè)、電子的每個(gè)領(lǐng)域——除此之外，還會(huì)以我們還不知道的方式影響社會(huì)和我們的生活。

這對(duì)行業(yè)意味著，幾乎每個(gè)處理器供應(yīng)商都將機(jī)器學(xué)習(xí)視為會(huì)下金蛋的鵝。競(jìng)爭(zhēng)正在將自己的方法定位為正確的解決方案，以加速最具潛力的領(lǐng)域中的特定工作負(fù)載：數(shù)據(jù)中心之外的機(jī)器學(xué)習(xí)，或邊緣的人工智能。

邊緣的人工智能有很大的希望，因?yàn)樗鼛缀蹩梢詰?yīng)用于所有電子設(shè)備，從可以看到路上行人的自動(dòng)駕駛汽車到響應(yīng)語(yǔ)音命令的咖啡機(jī)。需要延遲、數(shù)據(jù)隱私、低功耗和低成本的任意組合的應(yīng)用程序最終將遷移到邊緣的 AI 推理（請(qǐng)注意，“邊緣 AI”是 Gartner 圖表上的唯一 AI 點(diǎn)，距今不到 5 年）。

今年的 Gartner 新興技術(shù)炒作周期。Edge AI 距離“生產(chǎn)力的高原”還有兩到五年的時(shí)間。（圖片：Gartner）

AI 推理的工作負(fù)載是特定的：它們需要對(duì)大量低精度數(shù)據(jù)進(jìn)行大規(guī)模并行處理，內(nèi)存訪問(wèn)成為瓶頸。大多數(shù)（如果不是全部）類型的處理器都試圖彎曲自己以適應(yīng)這些要求。

現(xiàn)有技術(shù)是 GPU——今天實(shí)際上是一個(gè)公司的細(xì)分市場(chǎng)。幸運(yùn)的是，GPU 的單指令多數(shù)據(jù) (SIMD) 架構(gòu)是為加速計(jì)算機(jī)圖形而開(kāi)發(fā)的，結(jié)果證明它非常適合 AI 工作負(fù)載。英偉達(dá)正在盡可能地利用這一浪潮，為數(shù)據(jù)中心和自動(dòng)駕駛開(kāi)發(fā)人工智能超級(jí)計(jì)算機(jī)，以及用于邊緣設(shè)備的縮小版本。

其他人也都想分一杯羹。長(zhǎng)期以來(lái)一直用于加速數(shù)學(xué)算法的 FPGA 供應(yīng)商正在改進(jìn)他們的產(chǎn)品以適應(yīng)邊緣 AI 處理。Xilinx 采用域特定架構(gòu)的概念并與之一起運(yùn)行，將可編程邏輯與其他計(jì)算類型相結(jié)合，以允許針對(duì)新工作負(fù)載定制數(shù)據(jù)流。與此同時(shí)，萊迪思的目標(biāo)是低功耗設(shè)備中的圖像處理。

還有許多初創(chuàng)公司將他們的新穎架構(gòu)作為下一件大事。它們的范圍從內(nèi)存處理器技術(shù)（Mythic、Syntiant、Gyrfalcon）到處理器近內(nèi)存技術(shù)（Hailo）；從可編程邏輯 (Flex Logix) 到 RISC-V 內(nèi)核（世界語(yǔ)、GreenWaves）；從非常小的（Eta Compute）到超大規(guī)模（Cerebras，Graphcore）。大多數(shù)用于邊緣的人工智能。當(dāng)它們與英偉達(dá)和英特爾等公司對(duì)抗時(shí)，是否有足夠的利基市場(chǎng)來(lái)支持它們？時(shí)間會(huì)證明一切。

還有一些初創(chuàng)公司從另一個(gè)方向解決了這個(gè)問(wèn)題：調(diào)整人工智能工作負(fù)載以在微控制器等傳統(tǒng)硬件上更有效地運(yùn)行。PicoVoice 和 Xnor 等公司正在尋找新的方法來(lái)利用現(xiàn)有設(shè)備的指令集來(lái)執(zhí)行矩陣乘法。

結(jié)合谷歌在 TensorFlow Lite 上的工作——一種將機(jī)器學(xué)習(xí)模型縮小到可以安裝到微控制器上的編譯器——這無(wú)疑將為不需要聯(lián)網(wǎng)的聲控設(shè)備等東西打開(kāi)閘門——連接做推理。

面對(duì)新型加速器芯片組的嵌入式開(kāi)發(fā)人員將不得不學(xué)習(xí)如何使用它們。軟件是這個(gè)難題的重要組成部分。更傳統(tǒng)的 CPU、MPU 和 MCU 顯然在這方面處于領(lǐng)先地位。

雖然圍繞一個(gè)新的軟件平臺(tái)建立一個(gè)開(kāi)發(fā)者社區(qū)并非不可能，但這并不容易。英偉達(dá)花了十年時(shí)間將其 GPU 軟件平臺(tái) CUDA 打造為今天的成功。任何進(jìn)入這個(gè)領(lǐng)域的人都需要構(gòu)建庫(kù)和工具包，并通過(guò)會(huì)議和論壇努力教育開(kāi)發(fā)人員。所有這些都會(huì)使初創(chuàng)公司的有限資源緊張。

靈活性是成功秘訣的另一個(gè)重要因素。雖然今天的圖像處理模型依賴于卷積神經(jīng)網(wǎng)絡(luò) (CNN)，但不同類型的神經(jīng)網(wǎng)絡(luò)適用于其他應(yīng)用，例如語(yǔ)音識(shí)別，并且學(xué)術(shù)界一直在提出新的神經(jīng)網(wǎng)絡(luò)概念。高級(jí)網(wǎng)絡(luò)可能需要更復(fù)雜的數(shù)據(jù)流方案。為加速當(dāng)今的 CNN 而開(kāi)發(fā)的硬件可能過(guò)于專業(yè)，無(wú)法加速未來(lái)的網(wǎng)絡(luò)平臺(tái)。因此，應(yīng)將 AI 工作負(fù)載的性質(zhì)視為一個(gè)移動(dòng)目標(biāo)，在靈活性和性能之間取得適當(dāng)平衡，這對(duì)于面向未來(lái)至關(guān)重要。

爭(zhēng)奪這個(gè)空間的戰(zhàn)斗才剛剛開(kāi)始。獲勝者將是選擇正確的利基市場(chǎng)并努力追求的公司，投資于軟件堆棧和教育行業(yè)，并為這個(gè)快速發(fā)展的行業(yè)保持一定的靈活性。當(dāng)然，要以合適的價(jià)格做這一切。