一般大眾使用的移動PC主板上可能很快就會不只有中央處理器(CPU)與圖像處理器(GPU)，還會配備人工智能(AI)推理芯片，像是英特爾(Intel)旗下Movidius所開發(fā)的視覺處理器(Vision Processor Unit，VPU)。

第一個線索來自于微軟(Microsoft)在日前舉行之年度Windows開發(fā)者大會(Windows Developer Day)上發(fā)表的Windows ML開放性架構(gòu)，是專為在Windows操作系統(tǒng)執(zhí)行機(jī)器學(xué)習(xí)任務(wù)所開發(fā)；微軟表示，此架構(gòu)將擴(kuò)展Windows對Intel/Movidius之VPU的原生支持。

以上消息意味著Intel/Movidius朝著為VPU找歸宿更往前進(jìn)了一步，而且目標(biāo)不只是諸如無人機(jī)、保全攝影機(jī)等嵌入式系統(tǒng)，還包括Windows筆記本電腦與平板設(shè)備；而Intel/Movidius營銷總監(jiān)Gary Brown在接受EE Times電話采訪時證實，盡管Windows ML的發(fā)表并不是關(guān)于VPU與移動PC的整合：“沒錯，你會看到VPU進(jìn)駐PC主板?！?/p>

Windows ML預(yù)期將讓W(xué)indows操作系統(tǒng)跟上快速升溫的AI潮流，根據(jù)Intel/Movidius說法，該架構(gòu)能為任何既有的AI工作負(fù)載動態(tài)選擇最適合的硬件，并在包括Intel VPU在內(nèi)的多種硬件中智能分配任務(wù)。

Brown進(jìn)一步解釋：“我們的VPU能與CPU、GPU共同分?jǐn)偡敝氐腁I處理任務(wù)，例如機(jī)器視覺、臉部識別、語音、生物識別等等；VPU也能幫忙騰出CPU與GPU的處理資源?！?/p>

Intel/Movidius要將VPU推向主流市場

對此市場研究機(jī)構(gòu)Tirias Research分析師Kevin Krewell接受EE Times訪問時表示：“添加Windows原生支持，將向軟件開發(fā)商昭示Movidius VPU將越來越靠近主流市場；”不過他并不很確定PC是否為VPU的“好歸宿”。

“我可以預(yù)見VPU對AR/VR產(chǎn)品如新一代Hololens來說是不錯的新添加物，但不確定這是否適合PC──PC內(nèi)有大量的處理能力，包括CPU與GPU可處理視頻，VPU則是在性能有限的設(shè)備中才能有最好的發(fā)揮，例如無人機(jī)；”Krewell指出：“或許這是Microsoft將Windows觸角伸向無人機(jī)、機(jī)器人等新領(lǐng)域的第一步?！?/p>

AI世界迅速擴(kuò)張，也讓Microsoft有跟上潮流的壓力；去年開放性標(biāo)準(zhǔn)組織Khronos著手開發(fā)自己的低層ML架構(gòu)，例如繪圖API，這意圖是成為一種通用API；不過就像從Windows ML之發(fā)表可看到的，顯然Microsoft還是需要為Windows量身打造的架構(gòu)。

另一家市場研究機(jī)構(gòu)The Linley Group資深分析師Mike Demler的觀察是，Windows ML看來像是其他任何一種神經(jīng)網(wǎng)絡(luò)執(zhí)行時期API，而“現(xiàn)在差不多是Microsoft趕上Arm平臺的時候了”；他也指出，Windows操作系統(tǒng)原生支持“讓Movidius能更順利進(jìn)軍Windows筆記本電腦/平板設(shè)備市場”。

在被問到這對Microsoft有什么好處時，Demler解釋：“開發(fā)者可能已經(jīng)準(zhǔn)備好利用CPU、GPU或客制化周邊如Myriad (即Intel/Movidius的VPU)，在Windows平臺上執(zhí)行機(jī)器學(xué)習(xí)應(yīng)用程序，而Windows ML提供他們一個標(biāo)準(zhǔn)方法；”對終端使用者來說，Windows ML則將“有助于推動機(jī)器學(xué)習(xí)應(yīng)用程序轉(zhuǎn)移至客戶端設(shè)備──在這個案例中是PC?！?/p>

PC適合什么樣的AI應(yīng)用程序？

如果AI處理器是為特定的嵌入式系統(tǒng)量身打造，該芯片被分配的應(yīng)用程序與任務(wù)會很明確，可能是無人機(jī)的物體追蹤、防碰撞，或者是保全攝影機(jī)的分析取證等功能；如Movidius前任執(zhí)行長、現(xiàn)任Intel副總裁暨總經(jīng)理幾年前接受EE Times訪問時所言，把AI推向邊緣的目標(biāo)，就是賦予嵌入式系統(tǒng)“感知、評估與決策”的能力。

那么在PC上適合什么樣的AI應(yīng)用程序？Intel的Brown建議了很多種，例如：“假設(shè)你走進(jìn)一個房間，桌上有一臺Windows平板設(shè)備，它可以看見你、識別你的聲音或臉，并藉由各種個人助理類型的任務(wù)來提供幫助，例如智能音樂搜尋或是為你的照片分類；以視覺為基礎(chǔ)的AI也能幫忙強(qiáng)化視頻會議的影像?！?/p>

當(dāng)然，一切取決于應(yīng)用程序開發(fā)商的想象，看他們想把什么樣的AI新應(yīng)用程序放上PC。但Demler認(rèn)為，PC上的AI應(yīng)用程序會跟其他移動設(shè)備上的應(yīng)用程序沒什么兩樣：“包括生物識別、AR/VR、圖像處理、物體識別等等?！?/p>

目前Brown坦承Intel/Movidius的Myriad X是第一款Windows ML架構(gòu)在移動PC上利用的AI處理器，但關(guān)于該VPU出現(xiàn)在主板上的時間點，他僅表示：“很快?！?/p>

看來這顯然并非Intel/Movidius的獨門生意；在被問到其他可能進(jìn)駐PC的AI處理器競爭對手時，Demler強(qiáng)調(diào)這樣的對話僅能聚焦于移動PC：“有大量的Nvidia GPU正在臺式機(jī)執(zhí)行機(jī)器學(xué)習(xí)應(yīng)用程序；Linley Gwennap最近披露，一家名叫Gyrfalcon 的AI加速器新創(chuàng)公司，開發(fā)了一款能內(nèi)建于U盤的AI芯片，就像是Movidius?！?/p>

他指出，訣竅在于能搶進(jìn)主板：“在中國，還有像是寒武紀(jì)(Cambricon)這樣的AI芯片開發(fā)商，其投資者包括聯(lián)想(Lenovo)。”

認(rèn)識Myriad X系列芯片

Myriad X預(yù)期會是第一款Windows ML支持的AI芯片，該系列產(chǎn)品是在去年夏天發(fā)表，當(dāng)時El-Ouazzne表示，該公司設(shè)計這款第三代VPU芯片設(shè)計時，“我們嘗試各種方法在不增加功耗的情況下提升神經(jīng)網(wǎng)絡(luò)性能。”

具備更多硬件加速功能區(qū)塊的Myriad X架構(gòu)，能在深度神經(jīng)網(wǎng)絡(luò)推理任務(wù)中提供TOPS等級的運算性能，同時讓功耗維持在1W之內(nèi)；該芯片采用8 x 9-mm尺寸封裝，整體運算性能為4TOPS。該芯片內(nèi)部的SHAVE (Streaming Hybrid Architecture Vector Engine) DSP核心，從上一代產(chǎn)品的12個增加為16個，此外以20個經(jīng)強(qiáng)化的硬件加速器組合添加了神經(jīng)運算引擎(neural-compute engine)。

El-Ouazzane在去年的Myriad X發(fā)表會上解釋，該引擎是為了在不增加額外運算開銷的情況下執(zhí)行特定任務(wù)，例如為支持邊緣提取(extract edges)的深度圖繪制(depth-mapping，這是支持如無人機(jī)著陸等應(yīng)用案例的關(guān)鍵功能)，以及為支持更寬廣視角的傳感器去彎曲引擎(de-warping engine)，還有對保全攝影機(jī)在追蹤與人數(shù)統(tǒng)計應(yīng)用上至關(guān)重要、支持超高性能運作評估的光流(optical flow)功能。