近日，賽迪顧問發(fā)布《2025中國AI Infra平臺市場研究報(bào)告》，憑借在異構(gòu)算力調(diào)度、GPU池化管理等領(lǐng)域的技術(shù)創(chuàng)新和實(shí)踐成果，京東云在“2024年中國AI Infra 平臺算力管理層市場廠商競爭力象限分析圖”中穩(wěn)居產(chǎn)品能力前三。

賽迪在報(bào)告中指出：當(dāng)前AI Infra平臺已形成“算力管理層—模型管理層—應(yīng)用管理層”三層能力體系。其中，算力管理層占主導(dǎo)地位，2024年市場份額達(dá)64.6%，異構(gòu)算力精細(xì)化納管正成為AI Infra平臺標(biāo)配。京東云依托京東集團(tuán)豐富的業(yè)務(wù)場景，聚焦“異構(gòu)算力+極致推理”，致力于構(gòu)建新一代人工智能基礎(chǔ)設(shè)施（AI Infra）。其核心平臺JoyScale通過軟硬件協(xié)同優(yōu)化，實(shí)現(xiàn)對華為昇騰、寒武紀(jì)、海光等國產(chǎn)芯片的高性能異構(gòu)計(jì)算支持，并借助算力池化與智能調(diào)度，提升集群利用效率，實(shí)現(xiàn)國產(chǎn)算力的統(tǒng)一納管與高效運(yùn)維。

面向大模型訓(xùn)練、推理的算力需求，京東云推出的JoyScale AI算力平臺，作為基于京東內(nèi)部統(tǒng)一GPU池化實(shí)踐打磨的同源同棧AI基礎(chǔ)設(shè)施算力平臺，支持訓(xùn)練任務(wù)和推理服務(wù)統(tǒng)一調(diào)度和資源共享，支持10+家國產(chǎn)AI算力卡，20+訓(xùn)練推理框架，也是目前業(yè)界唯一同時(shí)支持英偉達(dá)顯卡和昇騰NPU遠(yuǎn)程調(diào)用的算力平臺，為AI應(yīng)用的高效運(yùn)行提供強(qiáng)大的算力支持。

JoyScale AI算力平臺，具備四大核心優(yōu)勢：

極致算力性能。行業(yè)領(lǐng)先的內(nèi)核態(tài)池化引擎，提供多卡聚合、單卡切分、多機(jī)多卡集群化調(diào)度、推理加速等差異化能力，滿足大參數(shù)模型集群化部署要求，JoyScale作為通過信通院最高等級雙認(rèn)證的AI算力平臺，可以滿足金融級數(shù)據(jù)安全、性能和穩(wěn)定性要求，整體推理性能提升50%。

高效異構(gòu)算力調(diào)度。JoyScale全面適配十余家國產(chǎn)算力，兼容適配昇騰、寒武紀(jì)、海光等多種國產(chǎn)加速卡，支持異構(gòu)算力統(tǒng)一納管、精細(xì)化運(yùn)維，云原生AI調(diào)度能力，極致提升AI任務(wù)部署密度，整體資源利用率提升70%。

深度國產(chǎn)AI生態(tài)合作。京東云和眾多國產(chǎn)芯片廠商深度合作，互相開放運(yùn)行時(shí)Runtime層代碼，通過GPU/NPU切分池化技術(shù)，從內(nèi)核層屏蔽異構(gòu)廠商硬件的復(fù)雜性，實(shí)現(xiàn)更高效的AI算力。

支持超20種AI訓(xùn)推框架。訓(xùn)練框架支持PyTorch、TensorFlow、DeepSpeed，MindSpore等；推理框架支持vllm，sglang，MindIE，triton，TensorRT-LLM等。

當(dāng)前，基于京東集團(tuán)復(fù)雜場景實(shí)踐，京東云已經(jīng)構(gòu)建了一站式大模型產(chǎn)品矩陣，從底層的智算基礎(chǔ)設(shè)施，到中間層的模型服務(wù)和工具，再到上層的Agent應(yīng)用開發(fā)，支持國央企快速部署大模型及AI應(yīng)用，重塑AI生產(chǎn)力。