近日，賽迪顧問發(fā)布《2025中國AI Infra平臺市場研究報告》，憑借在異構算力調(diào)度、GPU池化管理等領域的技術創(chuàng)新和實踐成果，京東云在“2024年中國AI Infra 平臺算力管理層市場廠商競爭力象限分析圖”中穩(wěn)居產(chǎn)品能力前三。

賽迪在報告中指出：當前AI Infra平臺已形成“算力管理層—模型管理層—應用管理層”三層能力體系。其中，算力管理層占主導地位，2024年市場份額達64.6%，異構算力精細化納管正成為AI Infra平臺標配。京東云依托京東集團豐富的業(yè)務場景，聚焦“異構算力+極致推理”，致力于構建新一代人工智能基礎設施（AI Infra）。其核心平臺JoyScale通過軟硬件協(xié)同優(yōu)化，實現(xiàn)對華為昇騰、寒武紀、海光等國產(chǎn)芯片的高性能異構計算支持，并借助算力池化與智能調(diào)度，提升集群利用效率，實現(xiàn)國產(chǎn)算力的統(tǒng)一納管與高效運維。

面向大模型訓練、推理的算力需求，京東云推出的JoyScale AI算力平臺，作為基于京東內(nèi)部統(tǒng)一GPU池化實踐打磨的同源同棧AI基礎設施算力平臺，支持訓練任務和推理服務統(tǒng)一調(diào)度和資源共享，支持10+家國產(chǎn)AI算力卡，20+訓練推理框架，也是目前業(yè)界唯一同時支持英偉達顯卡和昇騰NPU遠程調(diào)用的算力平臺，為AI應用的高效運行提供強大的算力支持。

JoyScale AI算力平臺，具備四大核心優(yōu)勢：

極致算力性能。行業(yè)領先的內(nèi)核態(tài)池化引擎，提供多卡聚合、單卡切分、多機多卡集群化調(diào)度、推理加速等差異化能力，滿足大參數(shù)模型集群化部署要求，JoyScale作為通過信通院最高等級雙認證的AI算力平臺，可以滿足金融級數(shù)據(jù)安全、性能和穩(wěn)定性要求，整體推理性能提升50%。

高效異構算力調(diào)度。JoyScale全面適配十余家國產(chǎn)算力，兼容適配昇騰、寒武紀、海光等多種國產(chǎn)加速卡，支持異構算力統(tǒng)一納管、精細化運維，云原生AI調(diào)度能力，極致提升AI任務部署密度，整體資源利用率提升70%。

深度國產(chǎn)AI生態(tài)合作。京東云和眾多國產(chǎn)芯片廠商深度合作，互相開放運行時Runtime層代碼，通過GPU/NPU切分池化技術，從內(nèi)核層屏蔽異構廠商硬件的復雜性，實現(xiàn)更高效的AI算力。

支持超20種AI訓推框架。訓練框架支持PyTorch、TensorFlow、DeepSpeed，MindSpore等；推理框架支持vllm，sglang，MindIE，triton，TensorRT-LLM等。

當前，基于京東集團復雜場景實踐，京東云已經(jīng)構建了一站式大模型產(chǎn)品矩陣，從底層的智算基礎設施，到中間層的模型服務和工具，再到上層的Agent應用開發(fā)，支持國央企快速部署大模型及AI應用，重塑AI生產(chǎn)力。