Intel下一代旗艦級CPU Sapphire Rapids將會是Intel在CPU領域的一次重要新產(chǎn)品。該CPU將會使用Intel 7工藝，并且大規(guī)模使用了chiplet（芯片粒）技術(shù)，從而讓單個CPU中可以包含高達60個核心，從而讓Intel不至于在高級封裝驅(qū)動的下一代CPU競爭中落后AMD。

Sapphire Rapids早在幾年前就已經(jīng)宣布要開發(fā)，而其正式出貨在多次推遲后，終于在最近幾個月有了更確定的消息。根據(jù)最近Intel發(fā)布的消息，Sapphire Rapids將在2023年正式出貨。而在9月底，Intel也在自家舉辦的活動Innovation Event上發(fā)布了基于Sapphire Rapids樣片的demo，這也讓Sapphire Rapids的一些重要特性讓外界有了更加詳細的認知。

在Sapphire Rapids的這些新特性中，除了chiplet這一個廣為人知的技術(shù)之外，最值得關注的就是使用了異構(gòu)計算的架構(gòu)，集成了許多為專門計算領域優(yōu)化的加速器（domain specific accelerator，DSA）。在過去的幾十年中，由于CPU性能借著摩爾定律的高速發(fā)展而飛速提升，大多數(shù)時候用戶會考慮只使用CPU來處理所有的算法，即使用一個通用架構(gòu)來解決所有問題。然而，隨著摩爾定律的發(fā)展接近瓶頸，使用一個通用架構(gòu)解決所有問題已經(jīng)不再現(xiàn)實，因為CPU性能的發(fā)展速度已經(jīng)跟不上應用的需求，因此異構(gòu)計算的思路得到了越來越多的重視，即為了重要的應用專門設計相關的計算加速模塊，從而加速計算性能，同時也改善效率。

我們認為Intel在下一代CPU Sapphire Rapids中引入大量異構(gòu)計算是一個里程碑式的事件，這是因為傳統(tǒng)上來說通用型CPU和異構(gòu)計算是兩個芯片設計陣營，通用CPU設計的時候會嘗試改善性能從而說服用戶無需使用異構(gòu)計算；而Intel這次在Sapphire Rapids中主動引入大量異構(gòu)計算加速器，這也說明了異構(gòu)計算確實已經(jīng)成為極其重要的主流設計方案，與其單獨設計CPU然后讓其他公司去設計相關的異構(gòu)計算芯片搶走市場，還不如在自己的CPU中主動擁抱異構(gòu)計算，集成相關的加速器，來確保滿足用戶的需求。

具體來看，這次Intel在Sapphire Rapids中集成的獨立加速器主要包括動態(tài)負載平衡模塊（DLB），數(shù)據(jù)流加速器（DSA），內(nèi)存內(nèi)分析加速器（IAA），以及快速協(xié)助模塊（QAT）。這些獨立的加速器是作為一個單獨模塊集成在CPU之外的。除了這些單獨加速模塊之外，Intel還在每個CPU核心中集成了用于矩陣計算加速的AMX模塊（Advanced Matrix Extensions）。

我們不妨來看一下這些加速模塊的具體功能。DLB的主要功能是加速不同服務器之間的負載均衡，從而保證服務器的大規(guī)模部署分布式計算。DSA主要用于加速CPU和存儲（NVMe以及TCP）之間的數(shù)據(jù)交換和數(shù)據(jù)轉(zhuǎn)換。IAA主要用于數(shù)據(jù)庫應用，可以加速數(shù)據(jù)庫相關應用中的數(shù)據(jù)壓縮和解壓。QAT主要用于網(wǎng)絡相關應用中的數(shù)據(jù)壓縮和加密運算。最后，AMX主要是用于人工智能相關的矩陣運算。

我們可以看到，這些加速器幾乎都是針對目前最火熱的大數(shù)據(jù)應用，主要目的都是改善這些大數(shù)據(jù)應用中的痛點。DSA，IAA和QAT針對的應用目前基本都是CPU是主要計算單元，但是由于在數(shù)據(jù)傳輸?shù)阮I域傳統(tǒng)CPU的效率不高，目前有不少公司試著在用專門的ASIC來取代CPU，因此Intel這次在Sapphire Rapids中引入這些加速器正是一個希望能保住這些市場中公司份額的舉動。AMX主要針對矩陣運算，目前雖然GPU是人工智能相關計算的主流計算單元，但是也有一些模型因為需要使用的一些算子GPU支持不夠好，仍然是在CPU上計算，而Intel的AMX正是針對這些模型的部署做加速。

異構(gòu)計算為軟件定義芯片鋪平道路

如前所述，Intel在Sapphire Rapids中加入了大量異構(gòu)計算特性，其主要目的是為了提升性能，確保市場競爭力。而除了這之外，異構(gòu)計算其實還有另外一個優(yōu)勢，就是可以實現(xiàn)軟件定義芯片。這是因為異構(gòu)計算中，不同的加速器模塊相對獨立，因此可以通過軟件的方式來實現(xiàn)控制這些加速器的開關。這也事實上讓付費訂閱芯片功能這樣的商業(yè)模型成為了可行：使用同一款芯片，用戶可以在不同的時間點根據(jù)需求靈活訂閱相關的芯片功能并支付相關的費用，從而讓整個芯片的購買和使用過程更加靈活。

對這樣新商業(yè)模式的嘗試也正是Intel在Sapphire Rapids里計劃要做的。Intel之前把這樣的模式稱為Software Defined Silicon（SDSi），而在上周Intel剛剛發(fā)布的針對該功能的正式Linux代碼中，該模式被改名成了Intel On-Demand（IOD）。根據(jù)Intel公布的代碼，IOD將會首先檢測相關的加速器IP是否存在于對應的物理芯片中，而在檢測到相關的加速器IP之后，管理員可以通過IOD來激活這些加速器IP。同時，IOD還可以統(tǒng)計這些相關加速器IP的使用頻率，從而幫助系統(tǒng)管理員來決定要購買哪種對應的付費訂閱方案。

隨著先進半導體工藝的成本越來越高，事實上使用軟件定義芯片正在成為越來越合理。使用軟件定義芯片，芯片設計公司只需要設計一款芯片，然后可以通過軟件的形式來針對不同的用戶群體。這樣一來，芯片公司就無需為了不同的受眾群體而設計多款不同的芯片，因為在先進半導體工藝中，每一款芯片的NRE成本都是非常高的。當然，軟件定義芯片造成了芯片面積的一些浪費（例如入門級用戶可能不會付費激活大多數(shù)加速器IP），但是在NRE成本越來越高的今天，通過一些芯片面積來交換較低的總NRE成本正在成為越來越合理的選擇。

軟件和異構(gòu)計算引領行業(yè)變革

隨著摩爾定律逐漸走向飽和，軟件（包括狹義的軟件定義芯片和廣義的軟件-芯片協(xié)同優(yōu)化）和異構(gòu)計算將會引領高性能計算芯片繼續(xù)演進。從行業(yè)上來看，除了上文討論的Intel之外，AMD和Nvidia在相關方向上都有重要的布局。

AMD在異構(gòu)計算和軟件方面的布局主要包括對于Xilinx的收購和在高性能計算GPU（CDNA系列）領域的軟件生態(tài)投資。收購FPGA領域的領導者Xilinx確保了AMD有機會能把FPGA技術(shù)和處理器業(yè)務整合在一起，而FPGA正是異構(gòu)計算的一個重要范式之一。在軟件方面，AMD繼續(xù)大力投資CDNA系列GPU和相關軟件生態(tài)（包括與CUDA競爭的ROCM生態(tài)），預計在未來5-10年內(nèi)會把CDNA系列GPU生態(tài)打造成和Nvidia生態(tài)有一較高下的實力。

Nvidia在軟件生態(tài)方面擁有護城河極高的CUDA，我們認為在可預計的將來該軟件生態(tài)將會成為Nvidia繼續(xù)大力布局的領域同時也將是Nvidia最大的競爭力來源之一。隨著AMD和Intel進一步在GPU和AI加速卡領域的投資，該領域的競爭會變得愈加激烈，軟件生態(tài)也將會成為決定市場競爭力最關鍵的核心之一。在異構(gòu)計算領域，我們也看到了Nvidia在GPU設計中越來越針對相關算法做專用加速器，例如針對整數(shù)計算的Tensor Core，以及在最新Hopper系列GPU中加入的Transformer Engine IP。另外一個不容小覷的方向是Nvidia自動駕駛芯片，在Nvidia公布的Orin等自動駕駛芯片中，我們可以看到它集成了多種針對專門應用的加速器，可謂是異構(gòu)計算的典范。

我們預計，整個高性能計算芯片行業(yè)都會繼續(xù)大力布局軟件和異構(gòu)計算，而在某一個時間點，軟件和異構(gòu)計算將會慢慢融合，例如針對特定算法應用優(yōu)化的異構(gòu)計算IP（軟件芯片協(xié)同優(yōu)化），同時通過軟件定義芯片的方式來實現(xiàn)潛在的新商業(yè)模式。整個行業(yè)將會看到越來越多在軟件方面的投資和收購（例如Intel不久之前對于codeplay的收購），同時整個芯片設計范式將會看到越來越多軟件和芯片設計的協(xié)同優(yōu)化。