隨著各大公司對(duì)于數(shù)據(jù)計(jì)算的要求越來越高，實(shí)時(shí)AI成為了研究者們關(guān)注的重點(diǎn)。在美國西雅圖舉行的微軟Build開發(fā)者大會(huì)上，微軟發(fā)布了最新的基于FPGA的Project Brainwave預(yù)覽版。Project Brainwave是一個(gè)旨在加速實(shí)時(shí)AI計(jì)算的硬件架構(gòu)，能夠部署在Azure云端以及邊緣設(shè)備上，幫助用戶實(shí)現(xiàn)低成本的實(shí)時(shí)AI計(jì)算。本文譯自微軟人工智能博客“Real-time AI: Microsoft announces preview of Project Brainwave”

本周，在美國西雅圖舉行的微軟Build開發(fā)者大會(huì)上，微軟發(fā)布了Project Brainwave預(yù)覽版，并將其整合到了Azure機(jī)器學(xué)習(xí)服務(wù)中。Project Brainwave是一個(gè)旨在加速實(shí)時(shí)AI計(jì)算的硬件架構(gòu)，部署在名為“現(xiàn)場可編程門陣列（Field Programmable Gate Array，簡稱FPGA）”的英特爾計(jì)算機(jī)芯片上。與最流行的行業(yè)基準(zhǔn)相比，Project Brainwave可以將實(shí)時(shí)AI計(jì)算的延遲時(shí)間降到最小，并且成本控制在可接受的范圍。Project Brainwave預(yù)覽版的發(fā)布將使Azure成為最高效的AI云計(jì)算平臺(tái)，也是讓FPGA成為通用型平臺(tái)的第一步。

Project Brainwave硬件模型

Esri是一家地理信息分析公司，每天需要處理各種來自衛(wèi)星圖像、視頻數(shù)據(jù)流和傳感器信號(hào)等異構(gòu)數(shù)據(jù)。數(shù)據(jù)的處理需要高強(qiáng)度的密集計(jì)算，常常會(huì)導(dǎo)致計(jì)算延遲。

同時(shí)，Esri公司對(duì)海量數(shù)據(jù)實(shí)時(shí)處理能力的要求也越來越高。例如，公司希望從數(shù)千條視頻中提取信息，對(duì)汽車、自行車、公交車、行人和其它物體進(jìn)行偵測(cè)，以便了解當(dāng)前的交通狀況和異常情況；或者公司希望通過對(duì)衛(wèi)星數(shù)據(jù)進(jìn)行實(shí)時(shí)分析，來偵測(cè)受損住宅等各種不同物體。

因此，Esri公司需要借助微軟Project Brainwave進(jìn)行更加高效和低成本的實(shí)時(shí)AI分析。

Project Brainwave預(yù)覽版能為客戶提供超高速圖像識(shí)別能力，它還可以讓用戶進(jìn)行基于AI的實(shí)時(shí)計(jì)算，而不用將任務(wù)進(jìn)行分拆再進(jìn)行單獨(dú)計(jì)算。目前，Project Brainwave支持深度學(xué)習(xí)框架TensorFlow，也將支持微軟認(rèn)知工具包。

除了整合到Azure平臺(tái)，微軟還將Project Brainwave推廣應(yīng)用到“邊緣設(shè)備”上，這樣用戶仍然可以在不聯(lián)網(wǎng)的情況下利用Project Brainwave獲得業(yè)界領(lǐng)先的計(jì)算速度。不用聯(lián)網(wǎng)的Brainwave可以被直接嵌入到生產(chǎn)設(shè)備中，這樣計(jì)算不需要每次都在云端運(yùn)行，哪怕每次只能節(jié)省很少的時(shí)間和金錢成本，也會(huì)形成累積效應(yīng)，產(chǎn)生巨大的效益。

在必應(yīng)和Azure上部署FPGA

早在Project Brainwave處于探索階段時(shí)，F(xiàn)PGA就已經(jīng)不算是什么新鮮事物了，但在此之前從未有人認(rèn)真考慮過將它用于大規(guī)模計(jì)算。所以微軟的研究團(tuán)隊(duì)開始著手驗(yàn)證FPGA用于更貼近實(shí)際場景的可行性。

最開始，Project Brainwave團(tuán)隊(duì)將這一技術(shù)在必應(yīng)搜索引擎和Azure云中進(jìn)行落地。

微軟高級(jí)研究員、Brainwave項(xiàng)目技術(shù)負(fù)責(zé)人Eric Chung表示，必應(yīng)必須是一項(xiàng)“低延遲”的服務(wù)——當(dāng)用戶在必應(yīng)搜索框中輸入搜索查詢時(shí)，他們希望能夠瞬間獲得搜索結(jié)果。這意味著必應(yīng)工程師要在不犧牲毫秒級(jí)響應(yīng)速度的前提下不斷設(shè)法提高搜索結(jié)果的質(zhì)量。而與此同時(shí)，搜索引擎數(shù)據(jù)庫中的數(shù)據(jù)，無論在數(shù)量和類型上都是在不斷增加的。借助可編程硬件FPGA，團(tuán)隊(duì)得以將基于深層神經(jīng)網(wǎng)絡(luò)的搜索技術(shù)迅速融入到必應(yīng)中，極大提升了系統(tǒng)返回搜索結(jié)果的速度。

過去幾年間，微軟也一直在使用FPGA來加速Azure云計(jì)算平臺(tái)。

AI要實(shí)時(shí)處理海量數(shù)據(jù)

從借助FPGA實(shí)現(xiàn)更高效的計(jì)算處理的想法誕生，到Project Brainwave公開預(yù)覽版的發(fā)布，時(shí)隔五年的時(shí)間。這段時(shí)間里，AI革命的全面爆發(fā)引發(fā)了新的巨大需求：人們希望系統(tǒng)能夠處理文檔掃描、圖像信息搜尋、語音識(shí)別和對(duì)話翻譯等AI任務(wù)所需的海量數(shù)據(jù)。

Project Brainwave團(tuán)隊(duì)負(fù)責(zé)人Doug Burger

而Project Brainwave剛好能夠滿足AI計(jì)算的需求。其硬件設(shè)計(jì)可以迅速演進(jìn)，并在每次改進(jìn)后能夠重新映射到FPGA，滿足快速變化中的AI算法要求。

與其它類型的計(jì)算機(jī)芯片相比，F(xiàn)PGA更加靈活，可以根據(jù)AI領(lǐng)域的最新發(fā)展快速地進(jìn)行重新編程。

隨著AI處理的任務(wù)越來越復(fù)雜（例如分析視頻內(nèi)容等非結(jié)構(gòu)化數(shù)據(jù)）以及AI算法的復(fù)雜度越來越高（例如用于執(zhí)行諸如“在這些視頻中搜索所有關(guān)于海濱城市的鏡頭”等搜索指令），人們對(duì)于能夠以合理成本快速處理AI任務(wù)的系統(tǒng)的需求只會(huì)越來越大。

提高流水線檢測(cè)效率

捷普集團(tuán) (Jabil）是全球領(lǐng)先的電子技術(shù)解決方案提供商。每天，工人都會(huì)在流水線上將成千上萬個(gè)零部件裝配成產(chǎn)品，然后交付給客戶。在這個(gè)過程中，自動(dòng)光學(xué)檢測(cè)系統(tǒng)會(huì)對(duì)這些產(chǎn)品進(jìn)行掃描，查找出所有潛在的異常情況，隨后，系統(tǒng)會(huì)將異常的產(chǎn)品送去進(jìn)行手工檢查。高速運(yùn)轉(zhuǎn)的系統(tǒng)要求手工檢查員在幾秒鐘內(nèi)就要判定出某件產(chǎn)品是否確實(shí)存在缺陷。

為了讓AI能夠更加快速、準(zhǔn)確地監(jiān)測(cè)圖像，減少系統(tǒng)錯(cuò)誤的異常警報(bào)，捷普集團(tuán)與微軟合作，利用微軟Project Brainwave來提高AI的計(jì)算速度。此外，研究人員還在探索如何利用Project Brainwave更好地預(yù)測(cè)制造設(shè)備需要維護(hù)的時(shí)間，從而減少停產(chǎn)維修的時(shí)間。

從圖像分析、搜索引擎到智能制造，人們對(duì)實(shí)時(shí)AI計(jì)算的需求正變得越來越多，我們希望微軟Project Brainwave能夠推動(dòng)實(shí)時(shí)AI計(jì)算的發(fā)展，讓AI帶給我們更多的可能性。