AI 云服務正面臨著前所未有的挑戰(zhàn)。

隨著 AI 技術的飛速發(fā)展，企業(yè)對云網(wǎng)絡的高性能、低延遲和高可擴展性提出了更高的要求。AI 應用通常需要兼顧訓練與推理，在處理海量數(shù)據(jù)和復雜的計算任務的同時，應對不可預測的突發(fā)和局部擁塞，這不僅對計算資源提出了挑戰(zhàn)，也對網(wǎng)絡基礎設施的性能和效率提出了嚴峻考驗。

在剛結束的NVIDIA GTC上，NVIDIA 和 Crusoe Cloud 聯(lián)合舉辦了一場技術研討會，探討如何利用先進的網(wǎng)絡技術實現(xiàn)可持續(xù)的 AI 云服務。

在這次研討會上，Keysight CyPerf 作為性能測試的黃金標準，成為了驗證 NVIDIA OVS-DOCA 網(wǎng)絡加速解決方案性能的關鍵利器，其精準的測試數(shù)據(jù)為技術突破提供了堅實依據(jù)。

什么是AI 云服務？

AI 云服務是指通過云計算平臺提供人工智能（AI）相關的計算資源和服務。這些服務需要處理大量的數(shù)據(jù)和復雜的計算任務，因此對網(wǎng)絡的性能、安全性和可持續(xù)性提出了極高的要求。

圖1: Crusoe的AI云服務架構

什么是 OVS-DOCA？

Open Virtual Switch (OVS) 是一種開源的虛擬交換機，廣泛用于云計算環(huán)境中。NVIDIA DOCA 是一個為數(shù)據(jù)中心和 AI 應用設計的加速軟件框架，能夠充分利用 NVIDIA 的硬件資源，如 ConnectX 網(wǎng)卡（NIC）和 BlueField 數(shù)據(jù)處理器（DPU）。

OVS-DOCA是 NVIDIA 推出的一種高性能、用戶空間虛擬交換機解決方案，旨在為 AI 云網(wǎng)絡提供卓越的性能和可擴展性。OVS-DOCA 基于 Open Virtual Switch (OVS) 和 NVIDIA DOCA 框架，通過硬件加速技術顯著提升網(wǎng)絡性能。

圖2: OVS-DOCA 加速網(wǎng)絡框架

Crusoe Cloud 使用Keysight CyPerf 驗證 NVIDIA OVS-DOCA

Keysight CyPerf 是一種高性能的網(wǎng)絡測試工具，能夠模擬真實世界中的網(wǎng)絡流量，用于測試網(wǎng)絡的吞吐量、延遲和連接速率等關鍵性能指標。它廣泛應用于云計算、數(shù)據(jù)中心和網(wǎng)絡設備的性能測試中。

在會議中，Crusoe Cloud 與 NVIDIA 合作，利用 Keysight CyPerf 對 NVIDIA 的 OVS-DOCA 網(wǎng)絡加速解決方案進行了全面測試。CyPerf 通過模擬真實世界中的高負載網(wǎng)絡流量，驗證了 OVS-DOCA 在吞吐量、連接速率和延遲方面的卓越性能。

圖3: Keysight CyPerf 驗證OVS-DOCA 網(wǎng)絡測試流程

高吞吐量測試：

CyPerf 模擬了 400 Gbps 雙向流量，驗證了 OVS-DOCA 在高負載下的線速性能。

高連接速率測試：

在 25K 和 50K CPS 的條件下，CyPerf 測試了網(wǎng)絡的連接建立和關閉性能，結果顯示 OVS-DOCA 模式顯著優(yōu)于傳統(tǒng) OVS-Kernel 模式。

低延遲測試：

在高負載條件下，CyPerf 測量了網(wǎng)絡的延遲，證明 OVS-DOCA 模式能夠提供更低且更穩(wěn)定的延遲表現(xiàn)。

資源利用測試：

CyPerf 監(jiān)控了服務器的 CPU 利用率，驗證了 OVS-DOCA 模式在高連接速率下顯著降低了 CPU 使用率，提高了系統(tǒng)的整體效率。

結語

在 AI 云服務的快速發(fā)展中，網(wǎng)絡性能和效率至關重要。KeySight CyPerf 作為領先的性能測試工具，為驗證先進的網(wǎng)絡加速解決方案提供了強大的支持。通過在 Crusoe Cloud 和 NVIDIA 的實驗中表現(xiàn)出色，CyPerf 證明了其在驗證 AI 云網(wǎng)絡方案中的獨特優(yōu)勢。選擇 CyPerf，讓您的網(wǎng)絡性能測試更加精準、高效和可靠。

關于是德科技

是德科技（NYSE：KEYS）啟迪并賦能創(chuàng)新者，助力他們將改變世界的技術帶入生活。作為一家標準普爾 500 指數(shù)公司，我們提供先進的設計、仿真和測試解決方案，旨在幫助工程師在整個產(chǎn)品生命周期中更快地完成開發(fā)和部署，同時控制好風險。我們的客戶遍及全球通信、工業(yè)自動化、航空航天與國防、汽車、半導體和通用電子等市場。我們與客戶攜手，加速創(chuàng)新，創(chuàng)造一個安全互聯(lián)的世界。