不久前，我們剛對(duì)RISC-V的GPU生態(tài)進(jìn)行了分析，也談及了目前的進(jìn)展。雖然仍處于起跑狀態(tài)，但越來越多的人開始意識(shí)到GPU是RISC-V的一塊短板，并決心打破這個(gè)僵局。畢竟GPU憑借圖形處理器能力以及在AI/ML應(yīng)用上得天獨(dú)厚的優(yōu)勢(shì)，已經(jīng)讓其在部分領(lǐng)域擁有了超越CPU的趨勢(shì)。

而RISC-V想要在消費(fèi)電子領(lǐng)域進(jìn)入下一個(gè)階段，比如智能手機(jī)和個(gè)人電腦等，GPU是不得不跨過的難關(guān)。不過對(duì)Arm來說，通用GPU都還沒能做到高性能，即便是蘋果的M1系列芯片，也只是靠著媒體處理引擎和堆核心數(shù)提升一定性能而已。要想推動(dòng)RISC-V的GPU生態(tài)發(fā)展，單靠廠商、院校與研究機(jī)構(gòu)還不夠，RISC-V作為開源架構(gòu)，也得利用好來自開源社區(qū)的力量。

RISC-V GPU再迎新玩家

近日，一個(gè)開源RISC-V項(xiàng)目引起了大家的注意，那就是VeriGPU。作者是來自人工智能呼叫中心自動(dòng)化公司ASAPP的一名研究工程師Hugh Perkins。由于作者選用了Verilog這種硬件描述語(yǔ)言，想必這也是該項(xiàng)目名的來由了。

Hugh是一個(gè)資深的開發(fā)者了，擁有多年的機(jī)器學(xué)習(xí)和Python開發(fā)經(jīng)驗(yàn)，從劍橋大學(xué)畢業(yè)的他選擇了來到中國(guó)繼續(xù)深造，最終在清華大學(xué)獲得了CS碩士學(xué)位。然而，在這個(gè)新項(xiàng)目上，他選擇了打造一款開源RISC-V GPU，專門面向機(jī)器學(xué)習(xí)，并計(jì)劃讓其支持PyTorch深度學(xué)習(xí)框架。

VeriGPU核心架構(gòu) / VeriGPU

為了兼容PyTorch，VeriGPU計(jì)劃利用去年剛獲得PyTorch官方支持的AMD HIP API，但VeriGPU也不排斥其他API，比如SYCL和英偉達(dá)的CUDA等。為了確保GPU核心專注于機(jī)器學(xué)習(xí)，VeriGPU像谷歌的TPU芯片一樣，全部選用了BF16浮點(diǎn)格式，如此一來也可以降低GPU核心裸片的面積，從而減少單個(gè)核心的成本。

而且VeriGPU也不打算采用亂序執(zhí)行，不僅是因?yàn)閬y序執(zhí)行在單指令多線程（SIMT）下的復(fù)雜性，也因?yàn)檫@會(huì)使得GPU核心占用更多的面積，要么只能減少核心數(shù)量，要么就只能接受成本的增加了，所以VeriGPU還是選擇了輕量級(jí)的并行指令執(zhí)行。

值得一提的是，雖然是一款RISC-V GPU，VeriGPU內(nèi)部的GPU核心架構(gòu)并不算完全遵守RISC-V ISA。Hugh表示當(dāng)RISC-V與GPU設(shè)計(jì)出現(xiàn)沖突時(shí)，會(huì)選擇打破RISC-V的規(guī)范。這種情況會(huì)出現(xiàn)也不奇怪，畢竟RISC-V的擴(kuò)展還在完善中，難以估計(jì)到所有用例。

開源下的流片問題

既然選用了Verilog，是否可以在FPGA實(shí)現(xiàn)原型，并利用FPGA已有的資源加速開發(fā)過程，并完成最終的流片呢？但我們?cè)谏衔囊蔡岬搅?，這并非一個(gè)通用GPU，而是專門針對(duì)機(jī)器學(xué)習(xí)的GPU，作者也表示目標(biāo)是ASIC流片。

更何況FPGA完成流片本身成本也不低，而且目前來看，若將FPGA只是用于訓(xùn)練機(jī)器學(xué)習(xí)模型的話，在成本效益上不算優(yōu)秀。Hugh表示，他并不打算自己去做流片，但他會(huì)盡力驗(yàn)證流片后的GPU是否時(shí)序無誤可以正常運(yùn)作等等。

考慮到如果是個(gè)人開發(fā)的話，流片成本確實(shí)不可小覷，如果沒有公司、學(xué)校或研究機(jī)構(gòu)的支持，一人完成流片可謂難于登天，至少大晶圓廠們通常不會(huì)浪費(fèi)這個(gè)時(shí)間。這或許也是Hugh不選擇自己流片的原因，但開源項(xiàng)目的好處就在于，VeriGPU的流片工作可以交給那些愿意一試的參與者。

但開源項(xiàng)目的流片也并非總是如此困難，至少他們現(xiàn)在多出了新的選擇。在谷歌的出資下，SkyWater晶圓代工廠和眾包設(shè)計(jì)平臺(tái)Efabless推出了多項(xiàng)目晶圓（MPW）穿梭機(jī)項(xiàng)目。在不久前的芯片聯(lián)盟（ChipAlliance）半年度技術(shù)更新上，谷歌分享了該項(xiàng)目去年的進(jìn)展。

去年MPW項(xiàng)目進(jìn)行了3次項(xiàng)目征集，總提交設(shè)計(jì)數(shù)達(dá)到了200個(gè)以上，谷歌計(jì)劃今年繼續(xù)支持更多的設(shè)計(jì)，所以如果開源芯片開發(fā)者打算拿到自己設(shè)計(jì)的芯片，一定不要錯(cuò)過這個(gè)“白嫖”谷歌的機(jī)會(huì)。

MPW穿梭機(jī)項(xiàng)目的進(jìn)展 / 谷歌

這一計(jì)劃的推出對(duì)于開源芯片開發(fā)者來說可謂福音了，首先提供的PDK不僅可以直接用于生產(chǎn)，而且是開源的，不需要簽署保密協(xié)議之類的合同或條約。而且在集成了部分開源工具鏈的情況下，工程師的開發(fā)流程將更加順暢。更不用說最重要的生產(chǎn)環(huán)節(jié)了，谷歌已經(jīng)為了這個(gè)項(xiàng)目自掏腰包，所以參與該項(xiàng)目無需花一分錢。

但對(duì)于開源GPU的開發(fā)而言，這可能也就是他們目前能做到的最大限度了。目前市面上的GPU都會(huì)選擇較為先進(jìn)的工藝，而MPW只能提供130nm的工藝，所以在性能上肯定會(huì)大打折扣。驗(yàn)證自己的設(shè)計(jì)，為硬件工程師提供更多實(shí)操的機(jī)會(huì)，這才是該項(xiàng)目的初衷。