IT之家 7 月 23 日消息，今日，阿里云宣布靈駿真武 M890 超節(jié)點實例已成功適配 Qwen3.8，并上線阿里云百煉平臺提供模型推理服務，這是國內(nèi)首個成功運行超 2 萬億參數(shù)大模型的超節(jié)點。
據(jù)介紹，Qwen3.8 是阿里最新旗艦模型，參數(shù)規(guī)模高達 2.4 萬億，跑通這一規(guī)模的模型需要將參數(shù)分散到幾十張甚至上百張高速互聯(lián)的 GPU 卡，讓萬億參數(shù)“跑得又穩(wěn)又快”。然而，普通 AI 集群因通信帶寬的局限，無法滿足高吞吐、低延遲、高并發(fā)的需求。
IT之家注意到，真武 M890 是平頭哥新一代訓推一體 AI 芯片，原生支持 FP32 到 FP4 等多種數(shù)據(jù)精度，可應用于高精度訓練、低精度和超低精度推理的全場景。靈駿真武 M890 超節(jié)點實例通過 ICN Switch 1.0 互聯(lián)芯片，讓 64 張真武 M890 實現(xiàn)了 800GB/s 的高速互聯(lián)，顯存規(guī)模達到 9TB，單實例即可支撐大規(guī)模 2 萬億參數(shù) MoE 模型的專家并行需求。
此外，阿里還從芯片到云平臺層面實現(xiàn)了與 Qwen 模型的全鏈路優(yōu)化，不僅可以絲滑跑通 Qwen3.8，還能顯著提升推理效率、降低推理成本。實測數(shù)據(jù)顯示，通過算子優(yōu)化和軟硬件架構協(xié)同，該超節(jié)點實例在 Agentic 推理場景中最多可實現(xiàn) 1.5 倍的推理性能提升。
相關閱讀：
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。