2020 年新冠肺炎 “黑天鵝事件” 肆虐全球，出于疫情防控的需要，以往發(fā)生在線下的面對(duì)面的諸多工作與生活場(chǎng)景不得不轉(zhuǎn)移到線上，催生或者說(shuō)加速了云會(huì)議、云打卡、云診斷、云教學(xué)、云游戲、云監(jiān)工等一系列新型 “宅經(jīng)濟(jì)” 的蓬勃發(fā)展，從真正意義上掀開了萬(wàn)物云化與全民用云時(shí)代來(lái)臨的大幕。

但對(duì)于互聯(lián)網(wǎng)技術(shù)服務(wù)供應(yīng)商而言，無(wú)限的機(jī)遇之下卻也暗藏著無(wú)限的挑戰(zhàn)：面對(duì)海量的數(shù)據(jù)、超強(qiáng)的流量沖擊、潮涌式的需求，如果保證平臺(tái)不宕機(jī)、低時(shí)延、快速吞吐數(shù)據(jù)，用長(zhǎng)時(shí)間穩(wěn)定高效的服務(wù)保障用戶的使用體驗(yàn)成了最核心的痛點(diǎn)。

事實(shí)證明，面對(duì)這次 “大考”，騰訊不但 “抗住” 了，應(yīng)對(duì)時(shí)的從容表現(xiàn)更是搶眼 —— 從日活超千萬(wàn)到為聯(lián)合國(guó) 75 周年活動(dòng)提供線上服務(wù)，騰訊會(huì)議僅僅用了不到四個(gè)月的時(shí)間，而這背后依靠的就是具有極強(qiáng)的處理能力與支撐能力的云計(jì)算與服務(wù)器。

去年，騰訊發(fā)布了 “為云而生” 的星星海首款自研服務(wù)器，目前云上的服務(wù)規(guī)模已經(jīng)超過(guò) 30 倍。今年 12 月 20 日，在一年一度的騰訊 2020 Techo Park 開發(fā)者大會(huì)上，騰訊云在 “下一代軟硬一體化的云計(jì)算基礎(chǔ)設(shè)施” 分論壇上，重磅發(fā)布了兩款來(lái)自 “騰訊云星星海家族” 的最新產(chǎn)品 —— 星星海首款自研 GPU 服務(wù)器和星星海新一代自研雙路服務(wù)器。

星星海 GPU 服務(wù)器 - 云游戲的定海神針

“針對(duì)具體的應(yīng)用場(chǎng)景，我們結(jié)合具體的業(yè)務(wù)需求，對(duì)服務(wù)器性能進(jìn)行了優(yōu)化。比如，在云游戲場(chǎng)景中，客戶對(duì)單卡 TCO，單一用戶成本非常敏感，也迫切地需要降低成本?！?騰訊云服務(wù)器與供應(yīng)鏈管理部總經(jīng)理劉裕勛在開發(fā)者大會(huì)現(xiàn)場(chǎng)說(shuō)道。

據(jù) iiMedia Research（艾媒咨詢）數(shù)據(jù)顯示，2019 年云游戲用戶規(guī)模約為 1.33 億人，預(yù)計(jì) 2023 年用戶規(guī)模將達(dá) 6.58 億人，這意味著每 11 個(gè)人中間，就有一位是云游戲用戶。玩家在玩云游戲時(shí)，如果單卡總成本非常高，就會(huì)出現(xiàn)單卡掛死甚至整機(jī)掛死的情況。導(dǎo)致這種情況的原因之一，是因?yàn)楝F(xiàn)有 GPU 服務(wù)器的機(jī)箱長(zhǎng)度過(guò)長(zhǎng)，無(wú)法滿足低延時(shí)邊緣部署。

深受廣大玩家喜愛(ài)的云游戲場(chǎng)景，其實(shí)只是對(duì)于云算力巨大需求的一個(gè)小小側(cè)面，最新的人工智能模型對(duì)于算力的要求往往都是非常高的，比如谷歌的 T5，其整個(gè)模型的參數(shù)數(shù)量達(dá)到了驚人的 110 億，甚至谷歌科學(xué)家直接在 T5 的論文指出：“越大的模型往往表現(xiàn)更好。這表現(xiàn)擴(kuò)大規(guī)模可能仍然是實(shí)現(xiàn)更好性能的方式?！?而一般的創(chuàng)業(yè)公司如果沒(méi)有雄厚的資金實(shí)力是不可能搭建這種級(jí)別的 AI 訓(xùn)練平臺(tái)。只有依靠云計(jì)算才能使 AI、區(qū)塊鏈等新興技術(shù)真正落地生根，發(fā)展壯大。

根據(jù) IDC 的研究資料，截止到 2021 年，全球企業(yè)對(duì)于 AI 系統(tǒng)的支出將保持 50.1% 的年復(fù)合增長(zhǎng)率，這說(shuō)明企業(yè)對(duì)這些技術(shù)的總支出將從 2017 年的 120 億美元增加到 2021 年的 576 億美元。云計(jì)算尤其是 AI 云已經(jīng)形成一個(gè)不可忽略的細(xì)分市場(chǎng)，尤其是在疫情影響下各行業(yè)上云意愿明顯加強(qiáng)，這也對(duì)于云計(jì)算的算力底座提出了更高的要求，而日前騰訊云星星海發(fā)布的首款自研 GPU 服務(wù)器和新一代自研雙路服務(wù)器堪稱是云算力底座的標(biāo)竿式產(chǎn)品。

騰訊云星星海發(fā)布首款自研 GPU 服務(wù)器，以及它的支持 16 卡 GPU+4 路 Intel 服務(wù)器、達(dá)到業(yè)界最高算力密度與此同時(shí)還大幅降低了單卡 TCO，這些特性使騰訊云在向企業(yè)提供 AI 算力或者向玩家提供 AI 云服務(wù)時(shí)都堪稱是定海神針式的存在。

騰訊云星星海推出的首款自研 GPU 服務(wù)器，在技術(shù)方面主要有 “一獨(dú)” 和 “三最” 等四大優(yōu)勢(shì)。

圖 | 騰訊云星星海首款自研 GPU 服務(wù)器

“一獨(dú)” 指的是在設(shè)計(jì)上，該 GPU 服務(wù)器采用全球首創(chuàng)的、可在同一框架內(nèi)靈活更換的主板，此外還克服了通用計(jì)算和異構(gòu)計(jì)算兼容對(duì)系統(tǒng)的挑戰(zhàn)，做到支持多平臺(tái)兼容。

“三最” 分別指的是最大密度、最短機(jī)框和最高可用性。該 GPU 服務(wù)器可結(jié)合業(yè)務(wù)對(duì) PCIe 帶寬要求低的特點(diǎn)，來(lái)支持 16 卡 GPU 和 4 路 Intel 服務(wù)器，是目前業(yè)界密度最高的 GPU 服務(wù)器，故此可使單卡 TCO 大幅降低。它還擁有目前業(yè)界最短機(jī)框，可支持邊緣部署，在提高帶寬穩(wěn)定性的同時(shí)，還能極大降低業(yè)務(wù)延時(shí)，最高可降近百毫秒。此外，基于該 GPU 服務(wù)器的 RAS 特性以及 PCIe 熱插拔特性，遇到單 GPU 卡故障，也不會(huì)對(duì)整機(jī)產(chǎn)生影響，因此用戶可用性相對(duì)較高。

而以上這些技術(shù)還可以讓星星海首款自研 GPU 服務(wù)器在與對(duì)手同臺(tái)競(jìng)技時(shí)擁有以下優(yōu)勢(shì)：

低成本：由于大多數(shù)的 AI 工作任務(wù)被認(rèn)為是 “突發(fā)性” 的，也就是說(shuō)，他們依賴于那些能夠在短時(shí)提供大量計(jì)算能力的服務(wù)。星星海 GPU 服務(wù)器只會(huì)針對(duì)用戶去收取那些他們進(jìn)行硬件使用時(shí)的費(fèi)用，這大大降低了他們的成本。

可擴(kuò)展：與其他的云服務(wù)一樣，星星海首款自研 GPU 服務(wù)器提供的 AI 云服務(wù)本身也具有較高的可擴(kuò)展性。企業(yè)可以從一個(gè)試點(diǎn)項(xiàng)目開始，然后隨著需求的提升，快速擴(kuò)展他們 AI 服務(wù)的規(guī)模。

高可用：一般來(lái)講云計(jì)算的可用性，會(huì)比傳統(tǒng)架構(gòu)的系統(tǒng)高出兩個(gè)量級(jí)，而星星海服務(wù)器在高可用方面更有獨(dú)到的設(shè)計(jì)，在高可用方面相信還會(huì)更有保證。

星星海自研服務(wù)器 - 云算力底座的最強(qiáng)神器

像金融領(lǐng)域一樣，目前的技術(shù)也開始朝著普惠的方向轉(zhuǎn)變，并且還應(yīng)滿足客戶的個(gè)性化與定制化需求，達(dá)到快速響應(yīng)，而這些都需要強(qiáng)大的算力支撐。

但是，如騰訊云服務(wù)器與供應(yīng)鏈管理部總經(jīng)理劉裕勛所說(shuō)，隨著云計(jì)算承載的業(yè)務(wù)規(guī)模越來(lái)越大，傳統(tǒng)服務(wù)器難以完全滿足云計(jì)算數(shù)據(jù)中心場(chǎng)景下對(duì)超大規(guī)模、需求多樣、高性價(jià)比、安全可靠以及軟硬件一體化等方面的要求。

騰訊云星星海發(fā)布的新一代自研雙路服務(wù)器就是算力底座中的王者。這款服務(wù)器是國(guó)內(nèi)首款搭載即將發(fā)布的第三代英特爾至強(qiáng)可擴(kuò)展處理器（Ice Lake）的雙路服務(wù)器。

該服務(wù)器是云服務(wù)的硬件基礎(chǔ)，采用英特爾 10nm 工藝處理器。在第二代英特爾傲騰持久內(nèi)存的支持下，雙路服務(wù)器單機(jī)最高支持 12TB 內(nèi)存，這可滿足大型數(shù)據(jù)庫(kù)等業(yè)務(wù)需求，用戶也可獲得更強(qiáng)的計(jì)算性能。

另外，雙路服務(wù)器的免工具模組化設(shè)計(jì)，可使全系列服務(wù)器共用成為現(xiàn)實(shí)，這不僅能覆蓋全業(yè)務(wù)場(chǎng)景，還能實(shí)現(xiàn)彈性部署，且可降低云服務(wù)總體成本。

在安全技術(shù)上，雙路服務(wù)器采用英特爾 SGX 技術(shù)，最大可支持 1TB enclave；其還采用加密加速技術(shù)，在增強(qiáng)安全性的同時(shí)，還可滿足創(chuàng)新云業(yè)務(wù)的安全需求。

概括來(lái)說(shuō)，其不僅能為用戶提供更高的內(nèi)存帶寬、更快的 I/O 吞吐、更強(qiáng)的實(shí)例性能，還可幫助用戶基于英特爾深度學(xué)習(xí)加速技術(shù)，來(lái)獲得處理器內(nèi)置 AI 加速能力。主要應(yīng)用場(chǎng)景有通用計(jì)算、異構(gòu)計(jì)算、裸金屬、高性能計(jì)算等。此外，在生命科學(xué)和金融服務(wù)領(lǐng)域，基于英特爾 ?AVX-512 擴(kuò)展指令集，騰訊云星星海新一代自研雙路服務(wù)器對(duì)應(yīng)的服務(wù)器實(shí)例在高性能計(jì)算機(jī)群場(chǎng)景下表現(xiàn)出較大提升。

除立足于當(dāng)下，以上兩款服務(wù)器也已為將來(lái)做準(zhǔn)備，基于硬件系統(tǒng)架構(gòu)設(shè)計(jì)和持續(xù)不斷的基礎(chǔ)技術(shù)研究，上述服務(wù)器可支持未來(lái) 3-5 年的前瞻性架構(gòu)演變，也就是說(shuō)云上開發(fā)部署可以提前享受技術(shù)紅利。

騰訊云星星海 - 追逐科技時(shí)代的星辰大海

如果將數(shù)據(jù)比作這個(gè)數(shù)字時(shí)代的石油，那么騰訊社交帝國(guó)憑借其豐富的業(yè)務(wù)場(chǎng)景與龐大的用戶基數(shù)，就為其科研團(tuán)隊(duì)提供了世界上最大的原油儲(chǔ)存基地，這些都為前沿的 AI 研究成果提供了令整個(gè)業(yè)界都非常羨慕的絕佳 “訓(xùn)練場(chǎng)”，而擁有了這樣高的訓(xùn)練水平，騰訊技術(shù)方面取得如此的突破也就不足為奇了。

據(jù)悉，上述兩款自研服務(wù)器均誕生于騰訊云星星海實(shí)驗(yàn)室，它是騰訊史上首個(gè)硬件工程實(shí)驗(yàn)室，也是騰訊云面向產(chǎn)業(yè)互聯(lián)網(wǎng)加速技術(shù)自研的重要戰(zhàn)略。

該實(shí)驗(yàn)室至今未滿一歲，其名字取自青海省果洛藏族自治州瑪多星星海，瑪多星星海地處黃河源頭，這樣的命名既預(yù)表著該實(shí)驗(yàn)室兼具靈動(dòng)和智慧，亦是科技對(duì)古老的致敬。

該實(shí)驗(yàn)室主要專注于硬件系統(tǒng)架構(gòu)設(shè)計(jì)和前瞻性基礎(chǔ)技術(shù)研究，力圖通過(guò)創(chuàng)新性高兼容架構(gòu)、簡(jiǎn)潔可靠的自主設(shè)計(jì)，來(lái)提供云計(jì)算產(chǎn)品和服務(wù)，其目前正結(jié)合騰訊自有業(yè)務(wù)和上云客戶的需求，在云原生服務(wù)器技術(shù)方面開展專項(xiàng)研發(fā)，此外其也是騰訊云與智慧產(chǎn)業(yè)事業(yè)群技術(shù)實(shí)驗(yàn)室矩陣中的一所。

“以硬為主” 的星星海，已擁有 20 多項(xiàng)專利和多款自主知識(shí)產(chǎn)權(quán)產(chǎn)品，其中包括四款自研服務(wù)器和一款智能網(wǎng)卡。

以 2019 年騰訊云發(fā)布的首款擁有完全自主知識(shí)產(chǎn)權(quán)的服務(wù)器產(chǎn)品星星海 SA2 云服務(wù)器為例，其已廣泛應(yīng)用于騰訊內(nèi)部，如騰訊會(huì)議、騰訊教育、春節(jié) QQ 紅包、微信等產(chǎn)品和業(yè)務(wù)中。在疫情期間，星星海 SA2 云服務(wù)器支撐騰訊會(huì)議擴(kuò)容 10 萬(wàn)多臺(tái)云主機(jī)，日均擴(kuò)容云主機(jī)近 1.5 萬(wàn)臺(tái)，共涉及超百萬(wàn)核的計(jì)算資源投入，而以上工作量均在 8 天內(nèi)完成。

最后不得不提的就是上述兩款服務(wù)器，均發(fā)布于騰訊 2020 Techo Park 開發(fā)者大會(huì)。

什么是 Techo 呢？據(jù)大會(huì)虛擬主持人 “小七” 的介紹，所謂 Techo，就是 Tech（技術(shù)）和 Echo（回響）的合稱，暗含著這一面向全球開發(fā)者和技術(shù)愛(ài)好者的平臺(tái)具有的技術(shù)交流和分享屬性。這個(gè)由騰訊發(fā)起的非商業(yè)大會(huì)，通過(guò)匯聚全球頂尖行業(yè)專家、企業(yè)高管、技術(shù)愛(ài)好者等共同研討前沿技術(shù)，以助力開發(fā)者實(shí)現(xiàn)能力成長(zhǎng)和實(shí)踐創(chuàng)新。

本次 Techo Park 開發(fā)者大會(huì)的 Slogan 是 “代碼傳遞思想，技術(shù)創(chuàng)造回響”，區(qū)塊鏈、視頻云、5G、AI、大數(shù)據(jù)等各個(gè)信息科技領(lǐng)域的 “大腦” 發(fā)表主題演講和論壇，并吸引了來(lái)自科研機(jī)構(gòu)、高校、創(chuàng)業(yè)公司的大批開發(fā)者齊聚現(xiàn)場(chǎng)。

盡管這只是 Techo Park 的第二次全球亮相，但其激烈碰撞的觀點(diǎn)和接連發(fā)布的自研新品，仍然為試圖洞察未來(lái)科技走向的參與者們打開了一扇窗。

原文標(biāo)題：騰訊云星星海發(fā)布首款自研GPU服務(wù)器和新一代自研雙路服務(wù)器，打造軟硬一體化云基礎(chǔ)設(shè)施

文章出處：【微信公眾號(hào)：DeepTech深科技】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。

責(zé)任編輯：haq