今年夏天，全球芯片領(lǐng)域的年度大事——Hot Chips大會，一共舉辦了25場會議，其中有16場或多或少都聚焦于處理人工智能(AI)任務的芯片上。這些芯片應用涉及范圍廣泛，從瞄準物聯(lián)網(wǎng)(IoT)和智能手機的超低功耗組件，到數(shù)據(jù)中心所需的高耗電芯片等。

曾經(jīng)圍繞著x86架構(gòu)的產(chǎn)業(yè)整并，使得這一微處理器年度盛事有好幾年變得不那么有趣。而今，隨著機器學習的崛起，Hot Chips再度成為專注于芯片架構(gòu)的工程師熱烈參與的年度盛會。

不管你相不相信，芯片業(yè)近來關(guān)注的重點并不只是深度學習。例如，大會中的一位發(fā)言人還介紹了可能取代DRAM的競爭方案，并呼吁探討更多關(guān)于內(nèi)存技術(shù)的話題。

賽靈思(Xilinx)展示了一款針對AI打造的全新FPGA變化版本，并邀請與會者針對基于安全的全新運算架構(gòu)展開設(shè)計移動。

Alphabet董事長John Hennessey在發(fā)表專題演講時指出，在Google計算機架構(gòu)師發(fā)現(xiàn)安全漏洞之前，業(yè)界廣泛使用的推測執(zhí)行(speculative execution)技術(shù)易于遭受旁路攻擊(side-channel attack)的情況已經(jīng)存在長達20年了。

Insight64分析師Nathan Brookwood說：“這不禁令人懷疑還有什么是我們以往沒有注意到的......鑒于這些產(chǎn)品如此復雜卻仍能有效作業(yè)，這一點真的令人驚訝?！薄?/p>

接下來，我們將重點介紹在今年Hot Chips大會上的一些有趣的討論。我們將從其中一些令人印象深刻的創(chuàng)新想法和目標設(shè)計開始談起。

新創(chuàng)公司Tachyum挑戰(zhàn)Xeon

新創(chuàng)公司Tachyum無疑是其中最具有膽識的，但卻并不被看好。該公司的目標在于透過其Prodigy芯片，從而在主流服務器(server)用處理器和AI加速器市場分一杯羹。Tachyum宣稱其Prodigy芯片的核心“比英特爾(Intel)的Xeon更快，也比Arm核心更小”。

該公司表示，這款7納米(nm) 290 mm2芯片支持多達64個核心，可在4GHz執(zhí)行頻率下提供高達2TFlops的運算效能，預計明年出樣。

事實上，如果沒有重大的性能升級以及經(jīng)過多方測試，數(shù)據(jù)中心營運商不太可能在其x86架構(gòu)中采用新創(chuàng)公司的芯片和軟件。因此，分析師Brookwood對于Tachyum采用超長指令字(VLIW)架構(gòu)抱持懷疑態(tài)度，畢竟這是英特爾在其Itanium中未能完美掌握的技術(shù)。他補充說，如果該芯片能取得任何市場吸引力，Tachyum很可能面臨來自英特爾等巨擘的專利訴訟。

Tachyum的Prodigy芯片支持九階整數(shù)和14階浮點運算管線架構(gòu)（本文圖片來源：Hot Chips）

Optane引發(fā)法規(guī)爭議？

英特爾描述其最新的14nm Xeon服務器處理器Cascade Lake。該公司在不久前的一場活動中才發(fā)布這款芯片，但在Hot Chips大會上提供了更多細節(jié)，但也引發(fā)一些爭議。

Cascade Lake采用與英特爾現(xiàn)有14nm Xeon相同的機制、散熱和插槽接口，也支持相同的核心數(shù)、快取結(jié)構(gòu)以及I/O速度。新增部份包括微調(diào)14nm工藝，以提高一點性能和降低一些功耗。此外，該芯片還支持新的AI指令和硬件，以避免暴露于Meltdown/Spectre的旁路通道攻擊。

但其重點在于，Cascade Lakes是第一款帶有內(nèi)存控制器的Xeon，可支持Intel Optane (即3D XPoint內(nèi)存)，可為每插槽提供高達3TB主存儲器以及帶來超越DRAM的讀/寫速度。

介紹該新產(chǎn)品的英特爾工程師并未評論Optane的耐用性。然而，他表示，這些主板使用的Jedec DDR4電氣總線采用英特爾的專有協(xié)議，這已能讓競爭對手近期內(nèi)都望塵莫及。

Brookwood說：“我認為這并不至于構(gòu)成法律挑戰(zhàn)?！?/p>

“如果我是IBM或AMD，當Optane DIMM普及于數(shù)據(jù)中心而我卻無法取得時，那么我可能會要大發(fā)牢騷了！英特爾占據(jù)了98%的服務器市場，在我看來，這就是一種壟斷?！?/p>

英特爾目前正主導儲存網(wǎng)絡產(chǎn)業(yè)協(xié)會(SNIA)，為Optane等替代主流內(nèi)存打造軟件平臺

NEC加速器低價挑戰(zhàn)Nvidia V100

NEC描述一款新的向量引擎，可搭載PCIe Gen 3板卡，而功耗還不到200W。該芯片專為搭配SX-Aurora超級計算機與Linux服務器中的x86主機而設(shè)計，據(jù)稱其價格要比Nvidia V100更低得多。

NEC聲稱其向量芯片可提供高達307GFlops的雙精度性能。在大多數(shù)基準檢驗下，其性能可介于Xeon和V100二者之間。該公司還指出，NEC芯片的內(nèi)存帶寬略高，而且在一些工作負載上的性能功耗比幾乎相當于Nvidia GPU。

相較于Nvidia V100芯片尺寸約840 mm2，NEC的1.6GHz、16nm向量芯片尺寸相對較小——480-mm2。此外，NEC的芯片支持多達6個Hi8或Hi4 HBM2內(nèi)存堆棧，可提供高達48GB的總內(nèi)存容量。

為IoT打造超低功耗AI加速器

美國哈佛大學(Harvard University)和Arm的研究人員連手發(fā)表一種用于物聯(lián)網(wǎng)中執(zhí)行深度學習任務的超低功耗加速器。這款所謂的SMIV芯片采用臺積電(TSMC) 16-nm FFC工藝打造，芯片尺寸約為25 mm2。

SMIV可說是使用Arm Cortex-A核心的首款學術(shù)界開發(fā)芯片。它在always-on的加速器叢集中使用近閾值操作，并透過嵌入式FPGA模塊提供大約80個硬件MAC和44Kbits RAM。

因此，該芯片能以低功率提供更高精確度。同時，相較于競爭方案，它的功率和面積效率都提高了近10倍。

MIT打造更低功耗導航芯片

美國麻省理工學院(MIT)的研究人員則為機器人和無人機打造了一款客制設(shè)計的導航芯片，據(jù)稱該芯片的功耗較Arm CPU核心更低。這款Navion導航芯片采用65nm CMOS制造，在20-mm2芯片面積上打造視覺慣性測距引擎。

研究人員稱，該芯片的性能是標準CPU的2倍至3倍，并可縮減多達5.4倍的內(nèi)存占用空間。它在最大配置下的功耗為24mW，而在優(yōu)化配置時的功耗僅2mW，而仍能實現(xiàn)實時導航。

在Hot Chips大會的多場會議中只針對已發(fā)布的組件(有的甚至都已經(jīng)出貨)提供較多細節(jié)。接下來我們將先介紹用于客戶端系統(tǒng)的AI加速器和CPU，并將關(guān)注焦點轉(zhuǎn)向服務器處理器和加速器。

Arm展示新款機器學習核心實力

Arm深入探討其預計將在年底出現(xiàn)在芯片中的機器學習核心。新款機器學習核心可在1GHz提供約4TOPS運算性能，以及在以7nm制造的2.5-mm2核心上提供超過3TOPS/W性能。其乘法累加單元支持8個16位寬點乘積。

Arm介紹其機器學習核心上的8 x 8區(qū)塊壓縮

三星提升智能手機性能

三星舉例說明聰明的工程師如何在工藝技術(shù)進展趨緩時顯著提升性能。因此，從一系列基準檢驗來看，目前在其智能手機中使用的2.7GHz M3應用處理器，輕輕松松地就能超越前一代M2至少50%以上。

這項進展來自于在其分支預測器中使用神經(jīng)網(wǎng)絡，以及利用德州農(nóng)工大學(Texas A&M )教授Daniel A. Jiménez的學術(shù)研究成果。不過，M3應用處理器的芯片尺寸是M2的2倍以上，但采用了10 LPP工藝——這是三星10 LPE工藝的微幅升級。

Mythic展示內(nèi)存處理器最新進展

Mythic描述其內(nèi)存處理器(PIM)設(shè)計細節(jié)，它可用于處理具有0.5 picojoules/MAC的深度學習影像。該芯片設(shè)計針對監(jiān)控和工廠相機，功耗約為5W，包括所有數(shù)字控制邏輯。

PIM概念已出現(xiàn)多年了，但一直到最近才被應用于AI。Mythic打造基于NOR單元的可變電阻器數(shù)組，但并不在內(nèi)存單元寫入和讀取深度學習權(quán)重。相反地，它將電壓施加到數(shù)組線，以求和并讀取電流級，進一步達到省電的效果。

初始芯片可處理有限數(shù)量的權(quán)重，但基于磚式(tile)的設(shè)計可為全標線芯片擴展多達5倍權(quán)重。此外，還可以添加Arm核心以創(chuàng)建可編程組件，而且多個芯片間可以協(xié)同工作以執(zhí)行更大的應用程序(app)或更快地執(zhí)行。但缺點之一在于無法利用神經(jīng)網(wǎng)絡的稀疏特性。

Mythic聲稱，這款40nm芯片的功耗只有GPU的一小部份。該公司預計明年年中提供樣片，并預計于2019年底量產(chǎn)。

Mythic的PIM目的在于以MCU功率提供GPU性能，而不至于影響稀疏神經(jīng)網(wǎng)絡

Google側(cè)寫Pixel Visual Core

Google介紹在其最新智能手機中的Pixel Visual Core。這款基于A53的可編程引擎，專為手機攝影機執(zhí)行目前仍在發(fā)展中的最新版HDR +算法。一位Google工程師打趣地說：“它能讓你的社交媒體圖片看來不會太糟糕?！?/p>

有趣的是，三星內(nèi)存部門的一位工程師問道，未來世代是否會放棄典型的圖像處理管線，轉(zhuǎn)而采用新興的深度學習技術(shù)？Google工程師回復說：“但我們還沒在這個領(lǐng)域發(fā)布太多AI算法?。　?/p>

Google聲稱其28nm Pixel核心執(zhí)行HDR+作業(yè)的速度比10nm移動應用處理器的CPU快至少2.8倍

IBM強化Power 9服務器系統(tǒng)

針對服務器領(lǐng)域，IBM與英特爾似乎都在14nm節(jié)點停擺一段時間了。IBM這次在Hot Chips介紹其最新的計劃，為基于其Power 9處理器的系統(tǒng)強化I/O和內(nèi)存帶寬，不過，至少要到2020年或之后才會針對新工藝提供新設(shè)計了。

IBM的目標是在其Power 9服務器上發(fā)掘更多內(nèi)存帶寬，同時為基于7-nm處理器的設(shè)計做好準備

富士通將Arm核心帶入超級計算機

富士通(Fujitsu)描述了7-nm A64FX，其設(shè)計目標在于成為超級計算機中的首批Arm核心之一。該512位SIMD芯片為Arm架構(gòu)帶來向量擴展，以執(zhí)行傳統(tǒng)的超級運算和新的AI任務。52核心的芯片使用32GB HBM2內(nèi)存，可提供2.7TFlops性能和1,024GB/s的內(nèi)存帶寬。

富士通的首款post-Sparc設(shè)計A64FX，瞄準用于將在2021年發(fā)表的日本新一代Post-K超級計算機

Nvidia展示其GPU服務器實力

Nvidia透過其DGX-2及其內(nèi)部NVLink互連，從芯片進一步擴展到系統(tǒng)。該公司展示了幾項基準檢驗，包括以DGX-2展現(xiàn)超越標準雙GPU系統(tǒng)的性能。

英特爾、AMD以及…中東和平？

英特爾介紹如何使用其嵌入式多芯片互連橋接(EMIB)技術(shù)，將其Kaby Lake桌上型x86 CPU與AMD Radeon RX Vega M GPU連接在一個模塊(下圖)中，以用于輕薄型筆記本電腦。

分析師Brookwood還與英特爾主講人開玩笑說，“不管是誰來談成這項協(xié)議的，接下來應該可以派他去進行中東和平的任務?！?/p>