91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

GPU如何克服負載計算工作量提升帶來的挑戰(zhàn)

lPCU_elecfans ? 來源:電子發(fā)燒友網(wǎng) ? 作者:電子發(fā)燒友網(wǎng) ? 2022-10-09 09:30 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/周凱揚)在AI和大數(shù)據(jù)時代到來之后,GPU單兵作戰(zhàn)就變成了奢望,以現(xiàn)在的數(shù)據(jù)中心和超算為例,動輒就是成千上萬張GPU,龐大的GPU網(wǎng)絡(luò)在交換機和光模塊的支持下代表了這個計算時代下最高的算力。但并非只有數(shù)據(jù)中心和超算里的GPU才需要這樣的擴展性,嵌入式GPU和專業(yè)GPU同樣如此。

物理限制的嵌入式GPU隨著各種傳感器的性能持續(xù)走高,譬如多線激光雷達、高分辨率的圖像傳感器等,我們對邊緣計算單元尤其是GPU的需求也在持續(xù)增加。但在實現(xiàn)的過程中,我們還有一些物理限制沒法消除,像是尺寸、重量和功耗等。

為了解決這一系列問題,美國政府和行業(yè)方案提供商們成立了SOSA聯(lián)盟,以求開發(fā)開放的標(biāo)準和最好的方案來實現(xiàn)高性價比、互操作性強的傳感器系統(tǒng)。如何克服這些負載計算工作量提升帶來的挑戰(zhàn),又能不增加寶貴的物理資源呢?答案自然還是將GPU、DPU等技術(shù)集成到嵌入式結(jié)構(gòu)中去。

這類嵌入式GPU并非用來單獨售賣,而是交給合作伙伴整合到不同的邊緣計算系統(tǒng)中,比如研華、凌華、EIZO、Mercury Systems等,然后交付給美國空軍、洛克希德·馬丁這類軍事、航空、工業(yè)客戶。

即便選擇了嵌入式結(jié)構(gòu),也還有著不少的路線,比如GPU、FPGAASIC等等。SOSA聯(lián)盟主席,來自美國空軍的Ilya Lipkin表示,如果想要更快的運行速度,快速部署軟件,自然是選擇GPU最好。但他們也面臨著空間的問題,因為嵌入式GPU往往會被塞到3U或者6U的服務(wù)器里,他們想要做到更小的體積,甚至是手掌大小,可這樣一來就不得不犧牲帶寬、容量。

所以,雖然嵌入式GPU仍然在這些嵌入式傳感系統(tǒng)中可以保持領(lǐng)先地位,但他們并沒有像獲得數(shù)據(jù)中心那樣不算嚴格的空間要求。目前的MXM嵌入式GPU可以做到PCIe GPU五分之一的尺寸,但這對于嵌入式GPU的擴展性來說還不算完美。在邊緣計算上,反倒是一些FPGA和ASIC方案在能耗比和擴展性上占優(yōu),如果嵌入式GPU不能做到更強大的擴展性,很有可能會被后來者顛覆。

顯卡交火時代的結(jié)束不管是最新發(fā)布的RTX4090消費級顯卡,還是RTX 6000這樣的專業(yè)顯卡,都象征了英偉達在新架構(gòu)GPU上的又一次創(chuàng)新。在臺積電4N工藝的加持下,無論是晶體管數(shù)目還是CUDA核心都做到了極致。

然而,原本變成了專屬英偉達高端消費顯卡和專業(yè)顯卡的交火技術(shù)NVLink,在RTX4090和RTX 6000上卻無處可尋,難不成英偉達徹底放棄顯卡交火技術(shù),也就此放棄NVLink了?根據(jù)英偉達CEO黃仁勛的說法,他們省下了NVLink連接器的空間,釋放了更多的空間來處理更多的AI計算。

在上一代顯卡的NVLink中,通過連接兩塊英偉達顯卡,使用高端顯卡和專業(yè)顯卡的專業(yè)系統(tǒng)能夠獲得更高的帶寬和雙倍的顯存容量。這樣的提升對于個人或?qū)I(yè)用戶來說是極大的提升,那么為何英偉達會放棄NVLink呢?筆者也在英偉達GTC的一次分享會議上提出了這一問題。

英偉達方面表示,就RTX 6000這類專業(yè)顯卡而言,他們?nèi)∠鸑VLink后省下了足夠的空間,塞入了更多的計算單元來提升單卡的性能。與此同時,雖然這些專業(yè)顯卡的NVLink支持被取消,不代表英偉達放棄了這一技術(shù)。英偉達決心將NVLink的重心放在數(shù)據(jù)中心產(chǎn)品上,比如Grace CPU、Hopper GPU,他們通過NVLink Die to Die和Chip to Chip的互聯(lián)可以實現(xiàn)更好的擴展性。

但這確實象征著一個時代的結(jié)束,過去AMD的交火和英偉達的SLI也是兩家競爭最火熱的一項技術(shù),可隨著AMD放棄了交火支持,英偉達的SLI在換成NVLink后如今也迎來了終結(jié)。

但顯卡交火的落幕也情有可原,且不說這種互聯(lián)方式的受眾群體一再變少,要想享受到顯卡交火的性能也需要軟件追加更新支持。或許專業(yè)顯卡的目標(biāo)還是追求單卡性能就好,多卡互聯(lián)的支持還是讓給數(shù)據(jù)中心吧。

審核編輯:彭靜
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 傳感器
    +關(guān)注

    關(guān)注

    2577

    文章

    55180

    瀏覽量

    792277
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5218

    瀏覽量

    135648
  • 顯卡
    +關(guān)注

    關(guān)注

    16

    文章

    2522

    瀏覽量

    71583
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    40198

    瀏覽量

    301800

原文標(biāo)題:GPU在不同形態(tài)下的擴展性問題

文章出處:【微信號:elecfans,微信公眾號:電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    成功案例:象帝先計算技術(shù)與Imagination合作——面向現(xiàn)代圖形與計算工作負載的專業(yè)GPU

    為專業(yè)計算設(shè)計桌面GPU桌面GPU不僅用于游戲,還能加速從專業(yè)可視化、高級模擬到數(shù)據(jù)密集型計算在內(nèi)的多種現(xiàn)代工作
    的頭像 發(fā)表于 03-09 09:17 ?291次閱讀
    成功案例:象帝先<b class='flag-5'>計算</b>技術(shù)與Imagination合作——面向現(xiàn)代圖形與<b class='flag-5'>計算</b><b class='flag-5'>工作</b><b class='flag-5'>負載</b>的專業(yè)<b class='flag-5'>GPU</b>

    NVIDIA RTX PRO 5000 Blackwell GPU的深度評測

    需求進行了優(yōu)化設(shè)計。無論是 CUDA 核心計算性能、實時渲染能力,還是 AI 推理效率,亦或顯存帶寬與容量的顯著提升,均使得新一代 RTX PRO 5000 Blackwell GPU 能夠輕松應(yīng)對更復(fù)雜、更嚴苛的
    的頭像 發(fā)表于 01-06 09:51 ?2823次閱讀
    NVIDIA RTX PRO 5000 Blackwell <b class='flag-5'>GPU</b>的深度評測

    Arm架構(gòu)助力Azure Cobalt 100虛擬機工作負載性能提升

    的 32 個地區(qū)上線,并且持續(xù)快速擴展,為新一代數(shù)據(jù)中心工作負載帶來了性能、能效和可擴展性的大幅提升。這些提升源于專為賦能現(xiàn)代云原生應(yīng)用設(shè)計
    的頭像 發(fā)表于 12-15 14:42 ?691次閱讀
    Arm架構(gòu)助力Azure Cobalt 100虛擬機<b class='flag-5'>工作</b><b class='flag-5'>負載</b>性能<b class='flag-5'>提升</b>

    汽車中的GPU是如何使用的?

    (HMI)的發(fā)展尤為迅猛。隨著電子電氣架構(gòu)(EEA)的集中化,車輛對高性能計算能力的需求顯著提升,GPU(圖形處理單元)的靈活性、可擴展性以及高效并行計算能力,使其成為支持這些創(chuàng)新應(yīng)用
    的頭像 發(fā)表于 12-03 14:45 ?9614次閱讀
    汽車中的<b class='flag-5'>GPU</b>是如何使用的?

    如何通過交替式幾何處理實現(xiàn)更優(yōu)的多核?GPU?擴展

    在理論上,通過增加更多GPU核心來提升性能似乎很簡單:核心越多,性能越強。但在實踐中,這是圖形架構(gòu)領(lǐng)域最棘手的挑戰(zhàn)之一。雖然某些工作負載因其
    的頭像 發(fā)表于 12-01 10:12 ?684次閱讀
    如何通過交替式幾何處理實現(xiàn)更優(yōu)的多核?<b class='flag-5'>GPU</b>?擴展

    【產(chǎn)品介紹】Altair PBS Professional HPC工作負載管理器和作業(yè)調(diào)度管理系統(tǒng)

    ,并簡化集群、云和超級計算機的管理——從最大的高性能計算(HPC)工作負載到數(shù)百萬個小型、高吞吐作業(yè)。借助動態(tài)策略、AI
    的頭像 發(fā)表于 09-19 17:03 ?666次閱讀
    【產(chǎn)品介紹】Altair PBS Professional HPC<b class='flag-5'>工作</b><b class='flag-5'>負載</b>管理器和作業(yè)調(diào)度管理系統(tǒng)

    如何加速實時工作負載

    對于需要實時響應(yīng)的數(shù)據(jù)中心工作負載,性能不僅是指原始吞吐或處理能力。挑戰(zhàn)在于:在保持吞吐和能效的同時,實現(xiàn)確定性時延。
    的頭像 發(fā)表于 09-10 15:36 ?732次閱讀

    樹莓派5超頻指南:安全高效地提升性能!

    為什么要對樹莓派5進行超頻?對樹莓派進行超頻,可通過提高CPU和GPU的時鐘頻率來釋放額外的性能。在需要額外處理能力以提高響應(yīng)速度、減少延遲或處理更繁重工作負載的場景中,超頻尤其有益。性能提升
    的頭像 發(fā)表于 08-14 17:45 ?2643次閱讀
    樹莓派5超頻指南:安全高效地<b class='flag-5'>提升</b>性能!

    如何在多顯卡環(huán)境下配置OLLAMA實現(xiàn)GPU負載均衡

    本文將帶你深入了解如何在多顯卡環(huán)境下配置OLLAMA,實現(xiàn)GPU負載均衡,并分享生產(chǎn)環(huán)境中的最佳實踐。無論你是剛接觸GPU集群還是尋求性能優(yōu)化的老手,這篇文章都能給你帶來實用價值。
    的頭像 發(fā)表于 07-24 14:12 ?4312次閱讀

    別讓 GPU 故障拖后腿,捷智算GPU維修室來救場!

    在AI浪潮洶涌的當(dāng)下,GPU已然成為眾多企業(yè)與科研機構(gòu)的核心生產(chǎn)力。從深度學(xué)習(xí)模型訓(xùn)練,到影視渲染、復(fù)雜科學(xué)計算,GPU憑借強大并行計算能力,極大
    的頭像 發(fā)表于 07-17 18:56 ?1189次閱讀
    別讓 <b class='flag-5'>GPU</b> 故障拖后腿,捷智算<b class='flag-5'>GPU</b>維修室來救場!

    大模型推理顯存和計算估計方法研究

    隨著人工智能技術(shù)的飛速發(fā)展,深度學(xué)習(xí)大模型在各個領(lǐng)域得到了廣泛應(yīng)用。然而,大模型的推理過程對顯存和計算資源的需求較高,給實際應(yīng)用帶來挑戰(zhàn)。為了解決這一問題,本文將探討大模型推理顯存和計算
    發(fā)表于 07-03 19:43

    摩爾線程GPU率先支持Qwen3全系列模型

    態(tài)兼容性和快速支持能力方面的卓越表現(xiàn)。MUSA架構(gòu)憑借其強大的易用性,不僅顯著降低了開發(fā)者在適配遷移過程中的工作量,更大幅提升了開發(fā)效率,為創(chuàng)新成果的快速落地提供了堅實助力。
    的頭像 發(fā)表于 05-07 15:24 ?1062次閱讀

    提升AI訓(xùn)練性能:GPU資源優(yōu)化的12個實戰(zhàn)技巧

    在人工智能與機器學(xué)習(xí)技術(shù)迅速發(fā)展的背景下,GPU計算資源的高效利用已成為關(guān)鍵技術(shù)指標(biāo)。優(yōu)化的GPU資源分配不僅能顯著提升模型訓(xùn)練速度,還能實現(xiàn)計算
    的頭像 發(fā)表于 05-06 11:17 ?1584次閱讀
    <b class='flag-5'>提升</b>AI訓(xùn)練性能:<b class='flag-5'>GPU</b>資源優(yōu)化的12個實戰(zhàn)技巧

    Ampere如何引領(lǐng)并塑造下一代人工智能計算系統(tǒng)

    現(xiàn)代人工智能計算工作負載給傳統(tǒng)處理器架構(gòu)帶來了前所未有的挑戰(zhàn),已將其推向了極限。
    的頭像 發(fā)表于 04-07 10:15 ?1126次閱讀

    動力電池測試中的直流負載挑戰(zhàn)與應(yīng)對策略

    一、背景與挑戰(zhàn) 動力電池作為電動汽車的核心部件,其性能測試需模擬真實工況下的直流負載特性。然而,在測試過程中,直流負載的高功率、動態(tài)響應(yīng)及精度要求帶來多重技術(shù)
    發(fā)表于 04-02 16:05