最近，MIT學(xué)者Neil Thompson 和 Svenja Spanuth發(fā)表了一篇名為“The Declineof Computers as a General Purpose Technology”[1]的working paper，重點(diǎn)分析了為什么摩爾定律的終結(jié)與深度學(xué)習(xí)的興起會(huì)加速計(jì)算技術(shù)的專用化趨勢(shì)。本文就是對(duì)這篇大作的解讀。

我和Neil有一面之緣，他在伯克利哈斯商學(xué)院的博士課題就是研究IT產(chǎn)業(yè)對(duì)社會(huì)經(jīng)濟(jì)和生產(chǎn)力的影響。50多頁的論文讀著一氣呵成，遂整理讀書筆記加上一些我的注解投稿給唐杉老師，以饗讀者。

眾所周知，生產(chǎn)率（productivity）是衡量經(jīng)濟(jì)增長(zhǎng)和經(jīng)濟(jì)水平的一個(gè)很重要的因素。計(jì)算機(jī)自20世紀(jì)中葉誕生以來用前所未有的速度改變著我們的生活，以美國為例，計(jì)算機(jī)技術(shù)帶動(dòng)了自1974年以來的1/3生產(chǎn)率增長(zhǎng)，居功至偉。

從產(chǎn)業(yè)發(fā)展的角度來看，通用計(jì)算的進(jìn)步與普惠離不開堅(jiān)實(shí)的經(jīng)濟(jì)后盾：一項(xiàng)新技術(shù)通過商業(yè)上的成功取得收益，然后繼續(xù)投入創(chuàng)新項(xiàng)目進(jìn)一步擴(kuò)大生產(chǎn)；科技的進(jìn)步讓我們有機(jī)會(huì)用更加低廉的價(jià)格買到更強(qiáng)的算力。同時(shí)，經(jīng)濟(jì)學(xué)原理告訴我們，需求（demand）的增長(zhǎng)會(huì)繼續(xù)拉動(dòng)供給（supply），這樣的良性循環(huán)在過去幾十年里不斷地推動(dòng)著通用計(jì)算產(chǎn)業(yè)的進(jìn)步，CPU也成了芯片的代名詞。Intel公司的先知GordonMoore先生預(yù)見性地提出了以他名字命名的摩爾定律，幾十年增長(zhǎng)氣勢(shì)如虹。

然而，當(dāng)摩爾定律走向盡頭[2]，通用計(jì)算發(fā)展的步伐也不得不逐漸放緩。以2008年為轉(zhuǎn)折點(diǎn)，芯片的一個(gè)重要衡量指標(biāo)性價(jià)比（performance/dollar）從之前的每年平均48%增長(zhǎng)降低到了10%以下。

近年來，我們正看到一些芯片設(shè)計(jì)正在朝著專用化的方向演進(jìn)。對(duì)比CPU，專用芯片的適用范圍很窄，但在特定領(lǐng)域能做得更好，性能達(dá)到數(shù)十倍甚至百倍的提升。我們看到以深度學(xué)習(xí)和比特幣挖礦為代表的新技術(shù)的興起，都將加速計(jì)算芯片技術(shù)專用化的進(jìn)程，那些能得到專用芯片加速的應(yīng)用將會(huì)在“快車道”上越走越快，而那些不能得到加速的應(yīng)用將會(huì)隨著通用計(jì)算的沒落而一起停滯不前。

非常有意思的是，Neil還預(yù)言，這樣的專用化趨勢(shì)會(huì)最終影響到計(jì)算技術(shù)的進(jìn)步，并進(jìn)而影響到社會(huì)經(jīng)濟(jì)的發(fā)展。我深以為然，隨著信息和資本流動(dòng)全球化，科技發(fā)展的馬太效應(yīng)會(huì)越來越多地影響到社會(huì)經(jīng)濟(jì)的兩極分化。這樣的蝴蝶效應(yīng)值得更多的有識(shí)之士關(guān)注。

通用芯片歷史：“天下大勢(shì)，分久必合，合久必分”

在過去的幾十年里，絕大多數(shù)人都在適用高度同質(zhì)化（homogeneous）的x86計(jì)算機(jī)，而CPU的快速發(fā)展迭代能夠把技術(shù)紅利集中地、“有感知地”釋放給大眾。然而，當(dāng)計(jì)算系統(tǒng)變得更加專用化之后，分層就會(huì)顯現(xiàn)，異構(gòu)（heterogeneous）的進(jìn)程就會(huì)加快。在進(jìn)一步討論其中的經(jīng)濟(jì)學(xué)原理之前，我們先來回顧一下芯片發(fā)展的一些歷史。

1969年，一家叫Busicom[3]日本公司打算為其計(jì)算器（calculator）產(chǎn)品線重新設(shè)計(jì)一款芯片。在這之前，計(jì)算器產(chǎn)品都是高度專用化的設(shè)計(jì)，即高效地做好規(guī)定操作；由于專用芯片缺乏靈活性，芯片設(shè)計(jì)完成之后就不能增加新的功能了。Intel作為一家剛剛成立一年的初創(chuàng)公司進(jìn)入了Busicom的視野。偉大的公司自然有其過人之處，Intel從一開始就從戰(zhàn)略上選擇做一款可編程的通用芯片，并與Busicom一拍即合。這就是第一個(gè)通用處理器4004的開始，通過重寫軟件實(shí)現(xiàn)各種不用的應(yīng)用功能極大地釋放了生產(chǎn)力，也從此開啟了Intel的芯片王朝。

從4004開始，CPU的性能至今已經(jīng)有了超過40萬倍的提升。從2000到2010年，PC機(jī)的年增長(zhǎng)率高達(dá)9%（遠(yuǎn)高于同期美國GDP增長(zhǎng)）。截至2018年，全球PC機(jī)的保有量超過20億臺(tái)。而這些成就的取得并不是沒有代價(jià)的，根據(jù)Intel的SEC filling[4]，在過去十年總共投入了$1,830億美元用于研發(fā)和Fab的建設(shè)。放眼世界，由于新的晶圓生產(chǎn)線成本居高不下，有能力生產(chǎn)最前沿芯片制程的廠商，也從2000年的25家驟減到如今的4家。從2014年起，Intel的固定成本（R&D + Additional PP&E）已經(jīng)開始超過了其可變成本（COGS = Net Revenue – Gross Margin）支出（見下圖財(cái)務(wù)報(bào)表）。

正是由于成本結(jié)構(gòu)的變化，Intel在2016財(cái)年的10-K filing里面明確了將放緩科技迭代，并從之前的tick-tock轉(zhuǎn)向process-architecture-optimization模式[5]。一場(chǎng)變革正在悄然醞釀之中，最明顯的就是TOP500計(jì)算機(jī)中使用專用加速芯片的比例正在逐年提高。

專用加速芯片的興起

Domain Specific的專用芯片是計(jì)算機(jī)體系結(jié)構(gòu)黃金時(shí)代大復(fù)興的四個(gè)方向之一，唐杉老師的專欄（黃金時(shí)代，StarryHeavensAbove AI芯片文章導(dǎo)讀）已經(jīng)講了好多專用芯片的好處，此處不再贅述?？偨Y(jié)一下專用芯片適用的四個(gè)主要場(chǎng)景：

1. 計(jì)算能夠大量并行處理的（parallelism）

2. 計(jì)算pattern是非常整齊的（regularity）

3. 不需要過多訪問memory的（locality）

4. 可以用更低精度（precision）等效替代的

由于專用芯片不需要在通用性和兼容性上做太多妥協(xié)，往往在性價(jià)比和能效上（energyefficiency）上更優(yōu)。

而一款專用芯片的成功與否和其開發(fā)生態(tài)也息息相關(guān)。就拿我讀研究生時(shí)候同時(shí)期出來的Cell和GT8800為例，雖然Cell芯片在很多技術(shù)點(diǎn)上有可取之處，又成功在PS3游戲機(jī)上落地，但由于非常難開發(fā)（還有人記得斯坦福開發(fā)的Sequoia 么？），三年之后不得不灰溜溜得退出市場(chǎng)，從此沒有第二代（插曲：記得當(dāng)時(shí)有***買了大量Playstation后來被截獲，原本準(zhǔn)備拆了當(dāng)導(dǎo)彈芯片的，那真是有勇氣?。。?；而NVIDIA的GT8800配合CUDA橫空出世，不僅一舉為皮衣教主在十年后的AI賽道上封神打下了堅(jiān)實(shí)的基礎(chǔ)，也讓我等晚輩看到了并行計(jì)算的光明前景由此入了GPU的行。而之后，ImageNet挑戰(zhàn)賽讓GPU以算力打開了深度學(xué)習(xí)新局面的故事想必大家也都已經(jīng)耳熟能詳。現(xiàn)在炒得火熱的AI芯片們有多大的決心做生態(tài)做軟件，也將很大程度上決定他們未來的命運(yùn)。

通用和專用之爭(zhēng)

在比較芯片之前，我們?cè)賮砜礆v史上另一個(gè)關(guān)于通用和專用的爭(zhēng)論，或許能對(duì)我們現(xiàn)在討論的芯片專用化的趨勢(shì)有所啟示。

20世紀(jì)之初，家用廚房用具開始逐漸電器化，而小型馬達(dá)的價(jià)格在那時(shí)還是居高不下。以一個(gè)帶電動(dòng)馬達(dá)的縫紉機(jī)為例，其1917年的售價(jià)高達(dá)$35美元，相當(dāng)于一戶普通人家一個(gè)月28%的收入。Hamilton-Beach公司看到了用戶的痛點(diǎn)，并快速設(shè)計(jì)出了一款售價(jià)只有$11.5美元，并能匹配大部分家電的通用馬達(dá)。

按照通常的邏輯發(fā)展，通用馬達(dá)應(yīng)該成為標(biāo)準(zhǔn)。根據(jù)之前提到的產(chǎn)品改進(jìn)->擴(kuò)大市場(chǎng)->追加投資的理論，似乎Hamilton-Beach公司在不斷改良降低成本之后，通用馬達(dá)應(yīng)該成為家家戶戶電器里必備的裝備。

然而事實(shí)的發(fā)展并非如此，在100多年后的今天，我們看到家里電器的馬達(dá)并非是通用的。我們的家電設(shè)備因?yàn)楣β?、體積和用途的不同，其馬達(dá)都是專用的！究其原因，Neil認(rèn)為無非是兩邊性價(jià)比誰提高地快的問題（在同等的情況下理性人通常會(huì)愿意選擇功能更多的通用產(chǎn)品），例如假設(shè)一個(gè)能帶動(dòng)大功率攪拌機(jī)的通用馬達(dá)能比一個(gè)小電扇的專用馬達(dá)價(jià)格更低，自然會(huì)有受眾。然而，工程師們無法設(shè)計(jì)出一種既省錢又好用的通用產(chǎn)品。由于通用的馬達(dá)并不能給所有的產(chǎn)品帶來收益，相反大功率馬達(dá)價(jià)格premium居高不下，而低成本的馬達(dá)也同樣也有足夠大的市場(chǎng)，產(chǎn)品分層帶來的各種專用化最終戰(zhàn)勝了通用。

對(duì)于芯片行業(yè)來說，通用CPU借助摩爾定律高速發(fā)展在最初幾十年很好地回答了上面性價(jià)比的問題，而當(dāng)摩爾定律的魔力不在之時(shí)，CPU則很難避免通用馬達(dá)一般的命運(yùn)。

當(dāng)我們把專用芯片的性能作為常數(shù)，而通用芯片的進(jìn)步模擬成一個(gè)階梯函數(shù)，則通用和專用芯片的優(yōu)勢(shì)對(duì)比可以簡(jiǎn)單地用下圖模型表示（Neil在文中還推理了一個(gè)比較復(fù)雜的數(shù)學(xué)公式，這里也不展開贅述）。藍(lán)色（通用占優(yōu)）和灰色（專用占優(yōu)）面積孰大孰小則表示應(yīng)該選取那種芯片。

收益與經(jīng)濟(jì)規(guī)模也有很大關(guān)系，根據(jù)Neil的復(fù)雜公式推理，如果一個(gè)專用芯片有10倍于通用的性能，那至少需要167,000塊芯片的出貨量來支撐；而如果僅有2倍的speedup，則需要至少有1百萬塊芯片來攤薄固定成本！且不論這個(gè)數(shù)學(xué)模型精確與否，比特幣礦機(jī)和TPU的出現(xiàn)已經(jīng)能充分說明這類經(jīng)濟(jì)規(guī)律的合理性-只要有足夠大的市場(chǎng)和足夠高的收益（性能提升），人們會(huì)毫不猶豫地搞專用化。

經(jīng)濟(jì)規(guī)律和總結(jié)

芯片的專用化已經(jīng)很好地在比特幣和深度學(xué)習(xí)的場(chǎng)景中展現(xiàn)，那讓我們來推演一下其中哪些經(jīng)濟(jì)規(guī)律和邏輯在這場(chǎng)變革中起著主導(dǎo)作用，并不斷推波助瀾。

1. 如前文所述，能生產(chǎn)最先進(jìn)制程芯片的廠商越來越少。這意味著每家廠商的平均市場(chǎng)份額從當(dāng)年的4%提高到了25%，相當(dāng)于年均14%的增長(zhǎng)，行業(yè)的consolidation足以抵消成本上升帶來的影響。

然而，這樣的合并是不可持續(xù)的（如果按照之前的趨勢(shì)，再過不到10年，市場(chǎng)就只能支撐1家芯片制造商），這也就意味著為了攤薄更先進(jìn)制程的生產(chǎn)線帶來的成本上升問題，制程的推陳出新將會(huì)變得越來越慢，而通用CPU所能享受到的技術(shù)紅利（階梯函數(shù)）也將大大受其影響。基于前文引述的財(cái)報(bào)數(shù)據(jù)，固定成本已經(jīng)占據(jù)了Intel成本結(jié)構(gòu)的大頭，攤薄是個(gè)大問題–換言之，Intel當(dāng)前10nm產(chǎn)線delay的問題真的是技術(shù)問題還是經(jīng)濟(jì)問題，這個(gè)真的很難說！

2. 科技發(fā)展同樣遇到了瓶頸，大約10多年前，Dennard scaling[7]的失效已經(jīng)預(yù)示著芯片的性價(jià)比提升無法持續(xù)。而三星最近的研究表明，隨著晶體管越變?cè)叫?，單位晶體管成本已經(jīng)抵達(dá)拐點(diǎn)不降反升了！當(dāng)科技紅利無法持續(xù)，人們會(huì)越來越多選擇更成熟也更便宜的制程節(jié)點(diǎn)，這又反過來延緩了新技術(shù)的鋪開和成本攤薄。

3. 當(dāng)通用CPU無法如之前那樣勢(shì)如破竹地提高性價(jià)比的時(shí)候，不自覺地階梯函數(shù)的收益就會(huì)往下降，而當(dāng)越來越多的人大量選擇通過專用芯片來加速的時(shí)候，一個(gè)類似的關(guān)于專用芯片的良性循環(huán)周期也已開始。

總結(jié)一下，有這么幾個(gè)論斷：

1. 通用CPU還會(huì)在未來相當(dāng)長(zhǎng)一段時(shí)間內(nèi)作為一種成熟穩(wěn)定、發(fā)展緩慢的技術(shù)而存在。

2. 未來的芯片和數(shù)據(jù)中心將會(huì)是全面異構(gòu)的，GPU、AI芯片、FPGA和其他加速器都會(huì)是其中的一部分。

3. 那些不能很好被專用芯片加速的應(yīng)用（例如已經(jīng)被證明失敗的數(shù)據(jù)庫加速芯片）、那些雖然能夠被加速但無法大量落地的應(yīng)用，以及那些不能利用云的規(guī)模效應(yīng)的應(yīng)用，都將被遠(yuǎn)遠(yuǎn)地甩在后面。

后記

“天之道，損有余而補(bǔ)不足；人之道，損不足以奉有余?！?/p>

社會(huì)、經(jīng)濟(jì)和科技發(fā)展到一定階段必然會(huì)導(dǎo)致兩極分化。那些時(shí)代寵兒們將會(huì)不成比例地獲取社會(huì)資源和享受福利的傾斜，而剩下的那些則很有可能持續(xù)陷入到不能自拔的“新常態(tài)”中去。如果社會(huì)的進(jìn)步不能如CPU的高速發(fā)展一般為大部分人所“感知”，那社會(huì)體制的失衡就會(huì)愈發(fā)明顯，進(jìn)而影響整體的經(jīng)濟(jì)發(fā)展和進(jìn)步。資本的逐利性和人們自我意識(shí)的覺醒會(huì)是一個(gè)持續(xù)的矛盾，只不過這次專用芯片這只蝴蝶揮動(dòng)了一下翅膀。