IT之家 7 月 20 日消息，在 2025 中國(guó)聯(lián)通合作伙伴大會(huì)期間，中國(guó)聯(lián)通研究院聯(lián)合上海人工智能實(shí)驗(yàn)室等合作伙伴，于 7 月 19 日正式發(fā)布了全球最長(zhǎng)距離大模型異構(gòu)混訓(xùn)試驗(yàn)成果。

隨著人工智能技術(shù)的高速發(fā)展和大模型時(shí)代的加速來(lái)臨，模型訓(xùn)練對(duì)算力基礎(chǔ)設(shè)施的高吞吐、低時(shí)延、高性能提出了更高要求。然而，當(dāng)前算力資源呈現(xiàn)出異構(gòu)化和多中心化的格局，面臨著跨域資源互聯(lián)互通機(jī)制不健全、長(zhǎng)距離傳輸存在帶寬與時(shí)延瓶頸、異構(gòu)資源統(tǒng)一調(diào)度與高效融合能力有限等挑戰(zhàn)。

在此背景下，中國(guó)聯(lián)通聯(lián)合上海人工智能實(shí)驗(yàn)室，阿里云、浪潮、基流科技、加佳科技等行業(yè)合作伙伴，面向國(guó)產(chǎn)異構(gòu) GPU 環(huán)境，針對(duì)超大模型跨域訓(xùn)練和碎片化算力整合需求，依托“算力智聯(lián)網(wǎng) AINet”長(zhǎng)距無(wú)損傳輸技術(shù)優(yōu)勢(shì)，結(jié)合上海人工智能實(shí)驗(yàn)室“DeepLink”超大規(guī)?？缬蚧煊?xùn)技術(shù)方案，在上海臨港和山東濟(jì)南鮑山數(shù)據(jù)中心間構(gòu)建長(zhǎng)度超 1500 公里的跨域異構(gòu)混訓(xùn)系統(tǒng)。

IT之家從大會(huì)獲悉，通過(guò)自動(dòng)調(diào)整多種并行策略和跨域收斂比下 MoE 模型和 Dense 模型的參數(shù)配置，聯(lián)合團(tuán)隊(duì)完成了超 1500 公里跨域的千億參數(shù) AI 大模型異構(gòu)混訓(xùn)試驗(yàn)，經(jīng)驗(yàn)證等效算力可達(dá)單芯片單集群等效算力的 95% 以上。

• 在算力互聯(lián)層面，采用聯(lián)通自研內(nèi)置長(zhǎng)距 RDMA 協(xié)議棧的 RoCE 交換機(jī)，兼顧 DC 內(nèi)和 DC 間高性能網(wǎng)絡(luò)需求；

• 在算力調(diào)度與資源管理層面，通過(guò)聯(lián)通“智馭”平臺(tái)實(shí)現(xiàn)對(duì)跨域網(wǎng)絡(luò)和集群的統(tǒng)一管控及任務(wù)調(diào)度；

• 在算力協(xié)同層面，基于 DeepLink 在訓(xùn)練加速、異構(gòu)通信、并行策略等核心技術(shù)，實(shí)現(xiàn)千億參數(shù)大模型在超長(zhǎng)距離異構(gòu) GPU 環(huán)境下的高效訓(xùn)練。

中國(guó)聯(lián)通表示，上述成果標(biāo)志著中國(guó)聯(lián)通在算力基礎(chǔ)設(shè)施跨域協(xié)同調(diào)度、異構(gòu)資源融合與高性能分布式訓(xùn)練等關(guān)鍵領(lǐng)域?qū)崿F(xiàn)了實(shí)質(zhì)性技術(shù)突破，為下一代互聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展奠定基礎(chǔ)。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。