91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

采用CXL計(jì)劃應(yīng)對異構(gòu)計(jì)算中的內(nèi)存解決方案

電子設(shè)計(jì) ? 來源:edn ? 作者:Jeff Hockert ? 2021-03-19 11:41 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在計(jì)算世界中,不可思議的事情之一是在數(shù)據(jù)中心中迅速采用人工智能AI)和云計(jì)算。這些和其他因素正在推動異構(gòu)計(jì)算-使用CPUGPU,FPGA,ASIC加速器,網(wǎng)絡(luò)接口控制器(NIC)和其他處理元件,所有這些元件都連接到越來越大的內(nèi)存池。

但是,高性能計(jì)算(HPC)需要更新以有效連接這些處理元素并共享日益昂貴的內(nèi)存的能力。參加旨在應(yīng)對異構(gòu)計(jì)算帶來的挑戰(zhàn)的Compute Express Link(CXL)計(jì)劃。它旨在提供高速緩存一致性以及在沒有不必要的成本的情況下添加新的內(nèi)存層的能力。

CXL聯(lián)盟吸引了廣泛的支持,有近100個(gè)成員公司和14個(gè)公司的董事會,其中包括幾乎所有主要供應(yīng)商,包括AMDArm,IBM,Intel和Xilinx。

就像Intel發(fā)起USB,PCI和PCI Express一樣,當(dāng)Intel向最初由9家公司組成的工作組貢獻(xiàn)了該技術(shù)的第一個(gè)迭代時(shí),CXL聯(lián)盟便開始起步。2019年9月,成立了董事會,擁有96家成員公司。

在致力于成為正式成員之前,任何公司都可以訪問CXL網(wǎng)站,免費(fèi)獲得點(diǎn)擊許可,并下載該規(guī)范當(dāng)前版本的評估版。參與人員能夠指導(dǎo)工作的進(jìn)展,工程師現(xiàn)在可以在開發(fā)階段接受有關(guān)2.0規(guī)范的培訓(xùn)課程。

CXL建立在PCIe互連標(biāo)準(zhǔn)的基礎(chǔ)上,CXL 2.0(將于2020年12月推出)將補(bǔ)充PCIe 5.0標(biāo)準(zhǔn)的使用,其每通道32 Gbps的信號速度,預(yù)計(jì)將在2021年發(fā)布。隨后的PCIe 6.0規(guī)格有望提高一倍。具有三個(gè)協(xié)議套件的CXL利用PCIe內(nèi)具有備用協(xié)議的功能。

第一個(gè)CXL.io取代了PCIe并處理標(biāo)準(zhǔn)設(shè)置功能。將CXL卡插入PCIe插槽后,CXL.io會識別出正在使用CXL,然后關(guān)閉PCIe并啟動CXL.io協(xié)議。它允許系統(tǒng)使用同一組電線和標(biāo)準(zhǔn)PCIe插槽,并根據(jù)需要混合CXL和PCIe資源,這是節(jié)省資源和系統(tǒng)成本的重要手段。

第二個(gè)和第三個(gè)協(xié)議CXL.cache和CXL.memory支持維護(hù)緩存一致性,減少延遲以及使用新的內(nèi)存類型的能力,以及其他優(yōu)勢。

圖1CXL事務(wù)層在單個(gè)鏈路上包含三個(gè)動態(tài)多路復(fù)用子協(xié)議。資料來源:英特爾

從許多方面來看,CXL都是關(guān)于驅(qū)動異構(gòu)計(jì)算的,異構(gòu)計(jì)算正是其中的許多創(chuàng)新之源。在當(dāng)今的異構(gòu)計(jì)算世界中,內(nèi)存連接到CPU,其他存儲庫連接到加速器設(shè)備:GPU,自定義邏輯,F(xiàn)PGA,NIC等。這些內(nèi)存池位于兩個(gè)不同的域中,不同類別的設(shè)備通過不同的機(jī)制與內(nèi)存通信。保持高速緩存一致性是一項(xiàng)挑戰(zhàn)。

連接CPU和連接加速器的內(nèi)存池具有PCI對等訪問。借助CXL及其以內(nèi)存為中心的體系結(jié)構(gòu),它可以將內(nèi)存體系結(jié)構(gòu)和內(nèi)存語義引入到傳統(tǒng)上在I / O總線上的功能。

使用PCIe的替代協(xié)議

CXL利用PCIe中的替代協(xié)議選項(xiàng)。當(dāng)我們使用CXL時(shí),PCIe會關(guān)閉,CXL會接管工作,并為我們提供內(nèi)存類的延遲,而不是I / O類的延遲。

在數(shù)據(jù)中心中,CXL主要在互連體系結(jié)構(gòu)的節(jié)點(diǎn)級層上運(yùn)行,以實(shí)現(xiàn)芯片到芯片的互連。對于機(jī)架和行級別,開放系統(tǒng)Gen-Z互連可以通過直接連接,交換或結(jié)構(gòu)拓?fù)涮峁?shù)據(jù)和設(shè)備的存儲器語義訪問。

CXL和Gen-Z非?;パa(bǔ),前者用于節(jié)點(diǎn),后者用于節(jié)點(diǎn)之外。從CXL的角度來看,Gen-Z可以幫助我們變得更加流暢,當(dāng)同時(shí)部署兩者時(shí),我們將看到很多協(xié)同作用。實(shí)際上,我們認(rèn)為互補(bǔ)性將隨著時(shí)間的流逝而發(fā)展。

CXL與Gen-Z有著很好的關(guān)系,包括正式協(xié)議。目的是使Gen-Z非常有效地連接到CXL。如果工程師希望結(jié)構(gòu)能夠可靠地工作,則任何結(jié)構(gòu)都需要與CPU保持一致的接口。因此,讓Gen-Z在CXL上方的機(jī)架級和行級進(jìn)行更多操作是很有意義的。

非對稱復(fù)雜性是關(guān)鍵

CXL中的一項(xiàng)功能是能夠非對稱地“偏置”系統(tǒng)中的計(jì)算資源。為了保持高速緩存一致性,操作通常會保持“ CPU偏差”,因?yàn)檫@是確保高速緩存一致性最經(jīng)常發(fā)生的地方,是在CPU的“本地代理”處。加速器大多數(shù)時(shí)候都使用特定類別的數(shù)據(jù),它們將使用稍微更簡單的“設(shè)備偏差”。

通過這種非對稱方法,CXL提供了緩存一致性的好處,而不會陷入CPU上本地代理的復(fù)雜性中。總而言之,非對稱復(fù)雜性是CXL的關(guān)鍵功能,它減輕了緩存一致性接口設(shè)計(jì)的負(fù)擔(dān)。

圖2CXL中的非對稱復(fù)雜性減輕了緩存一致性接口設(shè)計(jì)的負(fù)擔(dān)。資料來源:英特爾

降低CXL的復(fù)雜性將使來自不同供應(yīng)商的處理器能夠輕松建立一致的緩存,這在業(yè)界尚屬首次。CXL的一項(xiàng)關(guān)鍵價(jià)值主張是,利用CPU中的復(fù)雜性而不是在加速器中復(fù)制復(fù)雜性來分解復(fù)雜性的概念。

在CXL中,我們從CPU開始,向北和向南都有可緩存的內(nèi)存,既有它自己的內(nèi)存,也有加速器內(nèi)存。加速器也具有完全相同的功能。可以訪問CPU內(nèi)存的PCI設(shè)備現(xiàn)在可以訪問CXL下的加速器內(nèi)存。我們對內(nèi)存的兩個(gè)部分都具有這種對稱能力。這兩個(gè)池將成為兩臺機(jī)器均可訪問的一致性內(nèi)存池的一部分。

負(fù)擔(dān)得起地增加存儲容量

數(shù)據(jù)中心系統(tǒng)不可避免地需要增加存儲容量和帶寬。一種解決方案是在DRAM和固態(tài)驅(qū)動器(SSD)之間添加一類持久性存儲器,在許多情況下,它們足以存儲整個(gè)數(shù)據(jù)庫。這種單獨(dú)的存儲層(比DRAM便宜)可以用于各種存儲創(chuàng)新中。

CXL定義了三種類型的設(shè)備:類型1包括具有自己的緩存但沒有附加內(nèi)存的加速器。類型2類的設(shè)備包括已附加內(nèi)存的加速器。在這兩種情況下,都可以保證高速緩存的一致性。

第三類設(shè)備包括支持內(nèi)存緩沖區(qū)和內(nèi)存擴(kuò)展設(shè)備的控制器。系統(tǒng)可以添加更多的DRAM和/或持久性內(nèi)存,但將其移出DDR接口。從邏輯上講,出現(xiàn)的內(nèi)存緩沖區(qū)與其在主內(nèi)存總線上的內(nèi)存緩沖區(qū)沒有什么不同。

啟用分類內(nèi)存

CXL是一種高速互連,并且該聯(lián)盟已致力于顯著減少等待時(shí)間,以實(shí)現(xiàn)分類內(nèi)存。用高效,低延遲的訪問機(jī)制創(chuàng)建共享內(nèi)存池與聯(lián)盟實(shí)現(xiàn)異構(gòu)資源共享的總體目標(biāo)是一致的。

CXL中對Type 3設(shè)備的支持為分離內(nèi)存控制器提供了機(jī)會。隨著數(shù)據(jù)中心處理各種用例,第3類設(shè)備可以更輕松地提供對持久性介質(zhì)或尚未投入生產(chǎn)的新內(nèi)存類型的訪問。

事實(shí)證明,僅僅增加更多的直接連接DRAM太昂貴了。不僅DRAM成本的增長步伐很慢,而且PCB上更多路由層和控制器上更多引腳的復(fù)雜性也很昂貴。

與其增加板上的內(nèi)存,不如增加CXL鏈路的數(shù)量是一種更簡單的方法,它不依賴于并行高速總線。并行DDR接口需要200個(gè)以上的引腳,而CXL可以使每個(gè)封裝的引腳數(shù)更少,并減少PCB層數(shù)。使用CXL串行接口,可以在更理想的位置存儲更長的內(nèi)存,從而改變了存儲設(shè)備上的氣流。

供應(yīng)商可以使用特定于媒體的控制器來構(gòu)建CXL內(nèi)存擴(kuò)展器設(shè)備。一個(gè)系統(tǒng)可以支持多種不同的存儲器類型,包括DDR3,DDR4或DDR5,以及持久性存儲器,低功耗DRAM等,每種類型都具有特定于媒體的控制器,該控制器支持非對稱或不確定的定時(shí)和錯誤處理。較慢的內(nèi)存層可以與主層完全隔離,而對直接連接的DRAM雙列直插式內(nèi)存模塊(DIMM)的干擾最小。

圖3代表性的CXL用法簡化了編程模型并提高了性能。資料來源:英特爾

使用CXL,開發(fā)人員可以撥入最適合其應(yīng)用程序的內(nèi)存帶寬,使用持久性內(nèi)存選項(xiàng),并根據(jù)應(yīng)用程序的需要進(jìn)行混合匹配。該聯(lián)盟的目標(biāo)是召集許多不同的行業(yè)參與者,以確保一個(gè)健壯的,不斷發(fā)展的生態(tài)系統(tǒng)。我們確實(shí)需要通過互操作性來進(jìn)行工作,但是盡管我們在PCIe方面擁有良好的記錄,但是我們還需要通過電源,機(jī)械和管理接口來構(gòu)建健壯的CXL生態(tài)系統(tǒng)。

Jeff Hockert是英特爾技術(shù)領(lǐng)導(dǎo)力營銷團(tuán)隊(duì)的高級營銷經(jīng)理。

編輯:hfy

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 控制器
    +關(guān)注

    關(guān)注

    114

    文章

    17791

    瀏覽量

    193130
  • PCIe
    +關(guān)注

    關(guān)注

    16

    文章

    1461

    瀏覽量

    88413
  • 異構(gòu)計(jì)算
    +關(guān)注

    關(guān)注

    2

    文章

    112

    瀏覽量

    17182
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    是德科技推出一系列全新Scale-up驗(yàn)證解決方案

    是德科技(NYSE: KEYS )推出一系列全新Scale-up驗(yàn)證解決方案,旨在幫助人工智能數(shù)據(jù)中心運(yùn)營商應(yīng)對計(jì)算集群日益密集復(fù)雜化過程不斷加劇的帶寬、延遲及互操作性挑戰(zhàn)。 該
    的頭像 發(fā)表于 03-06 10:01 ?297次閱讀
    是德科技推出一系列全新Scale-up驗(yàn)證<b class='flag-5'>解決方案</b>

    瀾起科技發(fā)布PCIe 6.x/CXL 3.x AEC解決方案

    瀾起科技今日宣布,率先在國內(nèi)推出基于PCIe 6.x/CXL 3.x標(biāo)準(zhǔn)的高性能有源電纜(AEC,Active Electrical Cable)解決方案。該方案面向數(shù)據(jù)中心從單機(jī)架向多機(jī)架復(fù)雜架構(gòu)
    的頭像 發(fā)表于 01-27 14:15 ?308次閱讀

    Penguin Solutions SMART Modular CXL NV-CMM E3.S 2T 內(nèi)存模塊通過 CXL 兼容性認(rèn)證

    高性能計(jì)算與 AI 基礎(chǔ)架構(gòu)解決方案領(lǐng)導(dǎo)廠商?Penguin Solutions, Inc.(Nasdaq:?PENG)宣布其 SMART Modular CXL NV-CMM E3.S 2T 非易
    的頭像 發(fā)表于 01-15 15:35 ?1052次閱讀

    借助CXL和壓縮技術(shù)實(shí)現(xiàn)高效數(shù)據(jù)傳輸

    AI、科學(xué)計(jì)算、海量內(nèi)存處理……這些硬核工作負(fù)載正在不斷挑戰(zhàn)系統(tǒng)極限。而 FPGA 異軍突起,成為了實(shí)現(xiàn)高效數(shù)據(jù)傳輸?shù)摹瓣P(guān)鍵推手”。想知道怎么在不改變整體架構(gòu)的前提下,讓帶寬和能效實(shí)現(xiàn)“雙飛躍”?答案就藏在壓縮 IP 與基于 CXL
    的頭像 發(fā)表于 12-19 09:43 ?352次閱讀
    借助<b class='flag-5'>CXL</b>和壓縮技術(shù)實(shí)現(xiàn)高效數(shù)據(jù)傳輸

    瀾起科技推出CXL? 3.1內(nèi)存擴(kuò)展控制器,助力下一代數(shù)據(jù)中心基礎(chǔ)設(shè)施性能升級

    下一代數(shù)據(jù)中心服務(wù)器提供更高帶寬、更低延遲的內(nèi)存擴(kuò)展和池化解決方案。 瀾起科技CXL 3.1內(nèi)存擴(kuò)展控制器采用PCIe? 6.2物理層接口,
    的頭像 發(fā)表于 09-01 10:56 ?837次閱讀

    PCIe協(xié)議分析儀能測試哪些設(shè)備?

    訓(xùn)練環(huán)境中高效的數(shù)據(jù)交換。 異構(gòu)計(jì)算集群 測試場景:在包含CPU、GPU、FPGA等多種計(jì)算單元的系統(tǒng),分析各組件間的PCIe通信模式。 應(yīng)用價(jià)值:優(yōu)化任務(wù)調(diào)度和數(shù)據(jù)流,提升整體計(jì)算
    發(fā)表于 07-25 14:09

    異構(gòu)計(jì)算解決方案(兼容不同硬件架構(gòu))

    異構(gòu)計(jì)算解決方案通過整合不同類型處理器(如CPU、GPU、NPU、FPGA等),實(shí)現(xiàn)硬件資源的高效協(xié)同與兼容,滿足多樣化計(jì)算需求。其核心技術(shù)與實(shí)踐方案如下: 一、硬件架構(gòu)設(shè)計(jì)
    的頭像 發(fā)表于 06-23 07:40 ?851次閱讀

    如何釋放異構(gòu)計(jì)算的潛能?Imagination與Baya Systems的系統(tǒng)架構(gòu)實(shí)踐啟示

    報(bào)告作者:PallaviSharma,Imaginaiton產(chǎn)品管理總監(jiān)Dr.EricNorige,BayaSystems首席軟件架構(gòu)師關(guān)注Imagination公眾號,消息框發(fā)送【異構(gòu)計(jì)算】,即可
    的頭像 發(fā)表于 06-13 08:33 ?1139次閱讀
    如何釋放<b class='flag-5'>異構(gòu)計(jì)算</b>的潛能?Imagination與Baya Systems的系統(tǒng)架構(gòu)實(shí)踐啟示

    能效提升3倍!異構(gòu)計(jì)算架構(gòu)讓AI跑得更快更省電

    。它是應(yīng)對復(fù)雜計(jì)算需求的關(guān)鍵技術(shù)之一。 ? 異構(gòu)計(jì)算架構(gòu)的核心優(yōu)勢 ? 異構(gòu)計(jì)算架構(gòu)的核心要素主要包括多種計(jì)算單元結(jié)合、任務(wù)分配機(jī)制和協(xié)同工
    的頭像 發(fā)表于 05-25 01:55 ?3999次閱讀

    Imagination與澎峰科技攜手推動GPU+AI解決方案,共拓計(jì)算生態(tài)

    近日, Imagination Technologies 與國內(nèi)領(lǐng)先的異構(gòu)計(jì)算軟件與智算混合云服務(wù)提供商 澎峰科技 ( PerfXLab )正式簽署合作備忘錄( MoU ),圍繞 GPU 與 AI
    發(fā)表于 05-21 09:40 ?1218次閱讀

    Imagination與澎峰科技攜手推動GPU+AI解決方案,共拓計(jì)算生態(tài)

    近日,ImaginationTechnologies與國內(nèi)領(lǐng)先的異構(gòu)計(jì)算軟件與智算混合云服務(wù)提供商澎峰科技(PerfXLab)正式簽署合作備忘錄(MoU),圍繞GPU與AI的深度融合展開合作。雙方將
    的頭像 發(fā)表于 05-20 08:33 ?931次閱讀
    Imagination與澎峰科技攜手推動GPU+AI<b class='flag-5'>解決方案</b>,共拓<b class='flag-5'>計(jì)算</b>生態(tài)

    ARM服務(wù)器解決方案

    ARM服務(wù)器解決方案已成為異構(gòu)計(jì)算領(lǐng)域的重要技術(shù)路徑,其核心優(yōu)勢與多元化場景適配性正加速產(chǎn)業(yè)滲透。以下為關(guān)鍵要點(diǎn)分析: 一、核心優(yōu)勢與架構(gòu)設(shè)計(jì) 能效比優(yōu)化? ARM架構(gòu)基于RISC指令集,單節(jié)點(diǎn)功耗
    的頭像 發(fā)表于 05-16 07:44 ?1101次閱讀
    ARM服務(wù)器<b class='flag-5'>解決方案</b>

    RAKsmart智能算力架構(gòu):異構(gòu)計(jì)算+低時(shí)延網(wǎng)絡(luò)驅(qū)動企業(yè)AI訓(xùn)練范式升級

    在AI大模型參數(shù)量突破萬億、多模態(tài)應(yīng)用爆發(fā)的今天,企業(yè)AI訓(xùn)練正面臨算力效率與成本的雙重挑戰(zhàn)。RAKsmart推出的智能算力架構(gòu),以異構(gòu)計(jì)算資源池化與超低時(shí)延網(wǎng)絡(luò)為核心,重構(gòu)AI訓(xùn)練基礎(chǔ)設(shè)施,助力企業(yè)實(shí)現(xiàn)訓(xùn)練速度提升、硬件成本下降與算法迭代加速的三重突破。
    的頭像 發(fā)表于 04-17 09:29 ?763次閱讀

    世邁科技最新 128GB E3.S 2T CMM內(nèi)存模塊榮獲 CXL 聯(lián)盟整合商認(rèn)證

    與 8-DIMM CXL AIC擴(kuò)充卡,建構(gòu)更完整的產(chǎn)品組合,持續(xù)展現(xiàn)公司提供高品質(zhì)、高兼容性內(nèi)存解決方案的承諾。 全新E3.S 2T CMM 內(nèi)存模塊
    的頭像 發(fā)表于 04-16 10:54 ?894次閱讀

    Arm Neoverse CMN S3 推動Compute Express Link (CXL) 存儲創(chuàng)新

    高性能、可擴(kuò)展且高效的解決方案。Arm Neoverse CMN S3 能夠無縫管理一致性通信和內(nèi)存共享,是適合現(xiàn)代存儲架構(gòu)的變革性解決方案,其專為支持 Compute Express Link
    發(fā)表于 04-09 18:19 ?1277次閱讀
    Arm Neoverse CMN S3 推動Compute Express Link (<b class='flag-5'>CXL</b>) 存儲創(chuàng)新