數(shù)據(jù)、設備的互通互聯(lián)在當今世界已經不足為奇，海量的數(shù)據(jù)每時每刻都在不斷產生。在數(shù)據(jù)背后，神經網(wǎng)絡通過處理數(shù)據(jù)獲取洞察，并以此識別模式對信息進行分類、推理。數(shù)據(jù)中心的大部分資源都來自IT架構或者需要通過IT架構傳遞，因此數(shù)據(jù)中心的基礎架構是實現(xiàn)IT架構功能的關鍵。

在新一代的數(shù)據(jù)應用中，機器學習是很重要的一環(huán)，因此可以說擁有正確的架構對于將機器學習功能完美地植入數(shù)據(jù)中心有著舉足輕重的作用。為數(shù)據(jù)中心開發(fā)機器學習時，從一開始就必須將影響性能、可擴展性和彈性的所有因素納入考慮。硬件層面的規(guī)劃不得當會導致數(shù)據(jù)架構效率低下。

機器學習需要的硬件層面連接到底是什么樣？

目前關于機器學習的設計配置中，正在從專用基礎架構轉向更靈活的基礎架構，目的是增加靈活性和多樣性。因此在配置過程中，硬件層面的連接有非常多的考量，比如配電如何優(yōu)化、熱能級如何降低、互連的高速性如何實現(xiàn)以及低延遲通信如何實現(xiàn)等等。同時，因為數(shù)據(jù)中心的所有環(huán)節(jié)都處于互相連接狀態(tài)，系統(tǒng)連接元件還需要盡可能支持小的安裝空間以提供所需的靈活性，并在不增加熱輸出的情況下滿足預期的速度要求。

互連的高速和低延遲是很容易想到的，但是不能忘了熱性能同樣是一個不可忽視的考量。通常由于功率水平較高而導致的高溫可直接影響數(shù)據(jù)機架中元件的壽命。如果不對熱設計進行優(yōu)化，敏感元件的故障率會急速上升。

所以機器學習所需的連接器部件，既要保證小，又要保證快，同時還必須兼顧熱、機械和電氣性能上的可靠。

小型可插拔高速I/O連接器在機器學習中的重要性

在機器學習硬件配置中，選擇以太網(wǎng)和InfiniBand等協(xié)議來支持網(wǎng)絡連接，通常需要OSFP、QSFP、QSFP-DD等高速I/O連接。再利用PCIe將存儲設備、網(wǎng)絡接口卡和硬件加速器連接到CPU。

作為一類插拔式的I/O連接器，QSFP連接器是完整的四通道、小型的插拔式高速I/O連接器。QSFP連接器單個可插拔接口中可以包含四個數(shù)據(jù)傳輸通道，與其他連接器配套部件組合，通道數(shù)據(jù)傳輸速度可從10 Gbps NRZ拔高到至28 Gbps NRZ和56 Gbps PAM-4。每個通道能夠以10至56 Gbps的速度傳輸數(shù)據(jù)，因此每個端口支持總計高達200 Gbps的速度，傳輸性能之高足以滿足機器學習架構所需要的速度。QSFP支持的通訊非常廣泛，從100 Gbps 以太網(wǎng)、200 Gbps 以太網(wǎng)、100 Gbps InfiniBand增強型數(shù)據(jù)速率、EDR到128G光纖信道、25G/50G聯(lián)盟、25G NRZ和56G PAM-4都能全覆蓋。

QSFP-DD連接器組件通過使用 PCB 前面的第二行觸點/墊位置，將通道增加一倍，達到8差分，實現(xiàn)了在QSFP連接器基礎上互連的密度的翻倍，支持28 Gbps NRZ或56Gbps以實現(xiàn)每端口200 或400 Gbps聚合。在信號完整性上的提升只是一方面，同樣重要的是QSFP-DD連接器能提供更多的散熱器和光導管選項，在散熱上的優(yōu)化也不止一星半點，可以說實現(xiàn)了我們之前提到的降低熱能級同時提高互連的高速性能。

OSFP八通道小型可插拔連接器在熱性能和傳輸性能上與QSFP-DD連接器相似，OSFP連接器通過在插頭中運用集成散熱器技術，熱性能也相當優(yōu)異，也能夠支持400 Gps數(shù)據(jù)速率所需的信號完整性。另外值得一提的是，OSFP連接器可以通過埋管校準實現(xiàn)堆疊式（Belly-to-Belly）安裝，降低PCB成本和噪聲。

小型的可插拔高速I/O連接器在整個數(shù)據(jù)中心架構的建立中的重要性可見一斑，既保證了“小”，又保證了“快”，最重要的還是足夠可靠。

SAS連接再縮小－Mini SAS

在器件內部金手指連接上，SAS連接器想必是大家耳熟能詳?shù)?。而Mini SAS連接器，則更為緊湊。高密度的Mini SAS連接器在高性能計算上，是既高速又緊湊的連接選擇。

高密度的Mini SAS連接器減小的互連尺寸可以節(jié)省額外30%到50%的PCB 空間，我們可以做一個對比，相同的小尺寸PCIe卡如果可以容納兩個SAS連接器，換成高密度Mini SAS連接器則可以容納四個（非高密度Mini SAS是三個）。用于內部連接的高密度Mini SAS連接器除了尺寸小巧能節(jié)省大量空間之外，還能夠（12G×4）48 Gbps的聚合數(shù)據(jù)傳輸速率，有些甚至能做到以192 Gbps的聚合速率傳輸數(shù)據(jù)。

小結

和機器學習相關的硬件連接也不止上面這些，超大型陣列XLA插槽、卡邊緣連接、背板連接也都在其中經常能見到的。數(shù)據(jù)中心各種機器學習類型配置的要求繁多，從超大規(guī)模配置到支持邊緣計算，每一種都需要連接元件給予可靠的性能和充足的靈活性。