IT之家 6 月 20 日消息,在蘋果 WWDC 2026 期間,LM Studio 與蘋果合作在四臺(tái) Mac Studio 集群上成功運(yùn)行起了月之暗面萬億參數(shù)大模型 Kimi K2.6,并通過 LM Link 實(shí)現(xiàn)從 MacBook Neo 和 iPhone 的安全遠(yuǎn)程訪問。

IT之家此前報(bào)道,Kimi K2.6 大模型總參數(shù)規(guī)模達(dá)到 1 萬億,采用 MoE 架構(gòu),激活參數(shù)為 320 億,支持長上下文、多模態(tài)輸入以及智能體任務(wù)處理。
據(jù) LM Studio 官方介紹,在此次演示中,四臺(tái) Mac Studio 通過蘋果的內(nèi)存共享和互聯(lián)技術(shù)形成集群,總統(tǒng)一內(nèi)存容量達(dá)到約 1.5TB,能夠承載這一前沿規(guī)模模型的推理需求。其演示還展示了使用 LM Link 功能,從 MacBook Neo 筆記本電腦和 iPhone 上進(jìn)行安全遠(yuǎn)程訪問的操作場景,用戶可在這些設(shè)備上與集群上運(yùn)行的模型進(jìn)行交互,而數(shù)據(jù)和通信保持本地化處理。
此前有開發(fā)者測(cè)試顯示,在類似四臺(tái) Mac Studio 集群配置下,Kimi K2.6 模型在特定模式下可達(dá)到約 28 tokens/s 的生成速度,功耗相對(duì)傳統(tǒng) GPU 集群較低。LM Studio 作為本地 AI 模型運(yùn)行平臺(tái),此次與蘋果的合作進(jìn)一步展示了在消費(fèi)級(jí)硬件上部署大型開源模型的可能性。
這一演示凸顯了蘋果生態(tài)在 AI 本地化部署方面的技術(shù)進(jìn)展,包括 Thunderbolt 5 RDMA 支持等多設(shè)備內(nèi)存共享能力。LM Link 作為 LM Studio 的遠(yuǎn)程訪問功能,已于 2026 年 6 月初更新至其 Mac 應(yīng)用和 Locally AI iOS 應(yīng)用中,支持端到端加密連接。
相關(guān)閱讀:
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。