谷歌云端可搶占GPU（最右邊一列），普遍降價(jià)40%

還愁用不起GPU？今天谷歌宣布云端可搶占GPU大幅降價(jià)，P100的價(jià)格每小時(shí)0.43美元，換算成人民幣只需2.77元。

不是每個(gè)人工作的時(shí)候都需要GPU，但對(duì)于那些需要的人來(lái)說(shuō)，GPU是必不可少，越多越好。

但是，GPU很貴啊。此前谷歌、Facebook等巨頭開(kāi)展了不少令人印象深刻的工作，其中不乏使用成百乃至上千GPU的例子，讓人望塵莫及。

不過(guò)，就像很多研究者預(yù)測(cè)的那樣，硬件的價(jià)格會(huì)不斷降低。今天，谷歌就宣布，他們整個(gè)GPU產(chǎn)品組合的可搶占價(jià)格大幅降低，比連接到按需GPU的降低了70%。

今年早些時(shí)候，谷歌云平臺(tái)宣布，可以將你的GPU連接到谷歌云計(jì)引擎（Google Compute Engine）和Google Kubernetes Engine上的可搶占虛擬機(jī)（Preemptible VMs）上——谷歌云端搶占式虛擬機(jī)的每小時(shí)的固定費(fèi)用只要0.015美元，將GPU的使用價(jià)格降低了50％。今天，這個(gè)價(jià)格再往下走了40%。

谷歌表示，搶占式GPU（Preemptible GPUs）非常適合短期、容錯(cuò)和批處理工作負(fù)載，比如機(jī)器學(xué)習(xí)（ML）和高性能計(jì)算（HPC）的客戶。使用搶占式GPU，你可以訪問(wèn)大規(guī)模GPU基礎(chǔ)架構(gòu)，只需支付可預(yù)測(cè)的低價(jià)格，無(wú)需對(duì)容量競(jìng)標(biāo)。

連接到可搶占虛擬機(jī)的GPU跟按需GPU基本相同，但有兩點(diǎn)重要的不同：因?yàn)槭强蓳屨嫉?，?jì)算引擎可能會(huì)停止服務(wù)，停止服務(wù)前30秒會(huì)提前給你發(fā)送警告；你最多可以使用它們24小時(shí)。

任何連接到可搶占虛擬機(jī)實(shí)例的GPU都將被視為是可搶占的，并將以較低的價(jià)格進(jìn)行計(jì)費(fèi)。

現(xiàn)在，谷歌云平臺(tái)提供3種GPU，可以根據(jù)你的需要選擇使用。

GPU價(jià)格為每小時(shí)費(fèi)率，每個(gè)連接到虛擬機(jī)的GPU都按秒計(jì)費(fèi)。列出的價(jià)格適用于美國(guó)地區(qū)。其他地區(qū)的價(jià)格可能會(huì)有不同。額外的持續(xù)使用折扣（最高30％）僅適用于不可搶占GPU。

谷歌打起價(jià)格戰(zhàn)？

很多網(wǎng)友紛紛表示，谷歌這一大降價(jià)的背后，是對(duì)亞馬遜AWS的沖擊。

有人推測(cè)是因?yàn)楣雀柰瞥隽薚PU 3.0，替換下來(lái)一大批不用的GPU。

也有人推測(cè)，是谷歌有一個(gè)新的產(chǎn)品要出現(xiàn)，降低舊產(chǎn)品市場(chǎng)的利潤(rùn)率將使其他公司無(wú)法足夠盈利去投資研發(fā)并趕上自己。

總之，無(wú)論如何，這對(duì)于廣大群眾來(lái)說(shuō)，是件好事。

如何使用云端可搶占GPU

結(jié)合自定義機(jī)器類型，具有可搶占GPU的搶占式虛擬機(jī)，讓你可以根據(jù)自己需要的資源構(gòu)建計(jì)算堆棧，而不再需要其他資源。將可搶占GPU連接到自定義可搶占虛擬機(jī)（VM）中，你可以減少GPU VM的虛擬CPU或主機(jī)內(nèi)存量。此外，你還可以使用可搶占本地SSD與谷歌的可搶占GPU進(jìn)行低成本、高性能存儲(chǔ)選擇。

可搶占GPU的情況

進(jìn)行機(jī)器學(xué)習(xí)研究的創(chuàng)新者、研究人員和學(xué)者，對(duì)硬件加速基礎(chǔ)設(shè)施的需求非常高，可搶占GPU具有可預(yù)測(cè)的低價(jià)格，因此兩者得到了很好的結(jié)合。

斯坦福大學(xué)助理教授Kayvon Fatahalian表示：“可搶占GPU有助于我們的研究小組使用我們的Scanner開(kāi)源平臺(tái)大規(guī)模處理大型視頻集合?？深A(yù)測(cè)的低成本使得單個(gè)研究生可以重復(fù)部署數(shù)百個(gè)GPU來(lái)處理基于機(jī)器學(xué)習(xí)的100,000小時(shí)電視新聞視頻分析。這個(gè)價(jià)格的下降使我們能夠以相同的預(yù)算執(zhí)行兩倍的處理量?！?/p>

機(jī)器學(xué)習(xí)訓(xùn)練和可搶占式GPU

訓(xùn)練ML workloads非常適合使用帶有GPU的可搶占虛擬機(jī)。谷歌Kubernetes引擎和計(jì)算引擎的受管實(shí)例組（managed instance groups）讓你能為大型計(jì)算作業(yè)創(chuàng)建動(dòng)態(tài)可擴(kuò)展的帶GPU的可搶占虛擬機(jī)群集。你可以使用Tensorflow的檢查點(diǎn)功能（checkpointing）保存和恢復(fù)工作進(jìn)度。

開(kāi)始使用

要開(kāi)始使用Google Compute Engine中的可搶占GPU，只需在gcloud中添加--preemptible到你的實(shí)例創(chuàng)建命令中，在REST API中指定scheduling.preemptible為true，或在Google Cloud Platform Console中將搶占性設(shè)置為“On”，然后像平時(shí)一樣添加GPU就行了。

你可以使用普通的GPU配額啟動(dòng)可搶占GPU，或者，你可以申請(qǐng)?zhí)厥獾目蓳屨糋PU配額（https://cloud.google.com/compute/quotas），這個(gè)配額僅適用于與可搶占虛擬機(jī)相連的GPU。