新平臺通過實際工作負(fù)載仿真，對AI推理基礎(chǔ)設(shè)施進(jìn)行大規(guī)模驗證與優(yōu)化；將于NVIDIA GTC大會上在NVIDIA DSX Air數(shù)字孿生環(huán)境中進(jìn)行現(xiàn)場演示

是德科技（NYSE: KEYS）近日推出KAI推理構(gòu)建器（Keysight AI Inference Builder），這款仿真與分析平臺旨在大規(guī)模驗證針對推理進(jìn)行優(yōu)化的AI基礎(chǔ)設(shè)施。是德科技將在NVIDIA GTC大會上展示該解決方案，并演示其在NVIDIA DSX Air AI工廠仿真環(huán)境中的運(yùn)行情況，實現(xiàn)對AI數(shù)據(jù)中心的基礎(chǔ)設(shè)施、架構(gòu)和性能進(jìn)行建模與優(yōu)化。

KAI推理構(gòu)建器是一款仿真與分析平臺，旨在真實并發(fā)、真實規(guī)模和真實工作負(fù)載多樣性的條件下，驗證 AI 推理基礎(chǔ)設(shè)施

隨著AI行業(yè)從大語言模型（LLM）的訓(xùn)練轉(zhuǎn)向部署，推理優(yōu)化已成為影響投資回報率的關(guān)鍵因素。然而，推理行為具有高度動態(tài)性，難以進(jìn)行仿真。傳統(tǒng)的測試方法（如合成流量生成或GPU基準(zhǔn)測試）無法準(zhǔn)確再現(xiàn)AI推理在計算、網(wǎng)絡(luò)、內(nèi)存、存儲和安全層面上的時延敏感工作負(fù)載行為。

KAI推理構(gòu)建器通過重現(xiàn)實際推理工作負(fù)載模式，并建模行業(yè)特定的使用模式，填補(bǔ)了這一空白，對AI基礎(chǔ)設(shè)施、應(yīng)用和數(shù)據(jù)中心部署進(jìn)行驗證。該平臺為AI云服務(wù)提供商、硬件供應(yīng)商和應(yīng)用開發(fā)人員提供了一個可擴(kuò)展的解決方案，用于測量、驗證和優(yōu)化實際環(huán)境中的推理性能。

KAI推理構(gòu)建器的主要優(yōu)勢包括：

?專為推理時代打造：作為是德科技人工智能（KAI）產(chǎn)品組合的一部分，KAI推理構(gòu)建器能夠仿真大規(guī)模AI推理工作負(fù)載，并在實際環(huán)境中驗證全棧部署，從而優(yōu)化性能、擴(kuò)展性和安全性。

?面向行業(yè)與應(yīng)用的特定基準(zhǔn)測試：區(qū)別于通用仿真方式，KAI推理構(gòu)建器可針對金融、醫(yī)療及其他垂直領(lǐng)域的AI模型，仿真行業(yè)特定的使用模式和LLM架構(gòu)，使企業(yè)能夠?qū)Σ煌愋虯I數(shù)據(jù)中心部署中的基礎(chǔ)設(shè)施和應(yīng)用行為進(jìn)行建模與分析。

?端到端驗證與優(yōu)化：KAI推理構(gòu)建器評估從用戶請求到模型響應(yīng)的整個推理工作流，通過在計算、網(wǎng)絡(luò)和安全層早期識別并解決瓶頸，幫助團(tuán)隊減少昂貴的返工。

?子系統(tǒng)隔離與精準(zhǔn)根因定位：KAI推理構(gòu)建器還支持僅客戶端仿真，可在AI基礎(chǔ)設(shè)施堆棧承受負(fù)載時，定位性能瓶頸的出現(xiàn)位置，從而實現(xiàn)針對性優(yōu)化，減少資源過度配置，降低成本并提升整體效率。

?NVIDIA DSX Air集成與GTC現(xiàn)場演示：在NVIDIA GTC大會上，是德科技將展示KAI推理構(gòu)建器與NVIDIA Air開箱即用的集成能力，通過在NVIDIA數(shù)據(jù)中心仿真環(huán)境中生成真實的推理工作負(fù)載，使運(yùn)維人員能夠在部署物理設(shè)備前對推理基礎(chǔ)設(shè)施進(jìn)行驗證。

是德科技網(wǎng)絡(luò)測試與安全解決方案副總裁兼總經(jīng)理Ram Periakaruppan表示：“推理是釋放AI投資回報率的關(guān)鍵，但如果系統(tǒng)資源在容量和性能方面未得到優(yōu)化，就很難實現(xiàn)這一目標(biāo)。KAI推理構(gòu)建器提供可見性，全面展示實際環(huán)境中的全棧推理性能，使客戶在硬件上架前即可驗證并優(yōu)化部署方案。本次在NVIDIA GTC大會上使用NVIDIA Air平臺展示這一功能，將展示企業(yè)如何在降低風(fēng)險和成本的同時，加速邁向生產(chǎn)?！?/p>

NVIDIA網(wǎng)絡(luò)業(yè)務(wù)副總裁Amit Katz表示：“隨著AI數(shù)據(jù)中心規(guī)模擴(kuò)展至前所未有的水平，部署前驗證已從最佳實踐轉(zhuǎn)變?yōu)殛P(guān)鍵任務(wù)要求。KAI推理構(gòu)建器與NVIDIA DSX Air的集成，為消除性能波動提供了關(guān)鍵環(huán)境支持，幫助NVIDIA AI工廠合作伙伴和客戶能夠仿真實際推理工作負(fù)載，并預(yù)先解決瓶頸，確保經(jīng)過優(yōu)化的AI服務(wù)能夠快速推向市場?！?/p>

3月16日至19日，在圣何塞舉行的NVIDIA GTC大會上，是德科技將在NVIDIA展臺的C101展位以及是德科技展臺（3217）展示KAI推理構(gòu)建器，包括NVIDIA Air AI工廠的仿真演示。

關(guān)于是德科技

是德科技（NYSE：KEYS）啟迪并賦能創(chuàng)新者，助力他們將改變世界的技術(shù)帶入生活。作為一家標(biāo)準(zhǔn)普爾 500 指數(shù)公司，我們提供先進(jìn)的設(shè)計、仿真和測試解決方案，旨在幫助工程師在整個產(chǎn)品生命周期中更快地完成開發(fā)和部署，同時控制好風(fēng)險。我們的客戶遍及全球通信、工業(yè)自動化、航空航天與國防、汽車、半導(dǎo)體和通用電子等市場。我們與客戶攜手，加速創(chuàng)新，創(chuàng)造一個安全互聯(lián)的世界。