7 月 30 日，據(jù) TechCrunch 報(bào)道，Hugging Face 近日公布了一份關(guān)于近期 AI 智能體入侵事件的完整技術(shù)時(shí)間線，披露了一套基于 OpenAI 模型構(gòu)建的自主 AI 智能體如何在 4 天半時(shí)間內(nèi)執(zhí)行約 17600 次操作，最終成功突破公司多項(xiàng)安全防護(hù)。這也是 OpenAI CEO 薩姆 · 奧爾特曼此前公開(kāi)表示令其“切身感受到?jīng)_擊”的 AI 安全事件。
根據(jù) Hugging Face 披露的信息，此次事件并非 AI 脫離控制自行作惡，而是一套原本用于參加 OpenAI 網(wǎng)絡(luò)安全評(píng)測(cè)的 AI 智能體，在關(guān)閉常規(guī)安全限制后，自主尋找漏洞，并將攻擊目標(biāo)擴(kuò)展至考試之外的系統(tǒng)。
時(shí)間線顯示，該 AI 首先利用一個(gè)尚未修復(fù)的軟件漏洞逃離原本的測(cè)試環(huán)境，隨后入侵另一套公開(kāi)暴露的 AI 測(cè)試工具，并植入代碼，將其作為后續(xù)攻擊 Hugging Face 系統(tǒng)的跳板。
進(jìn)入 Hugging Face 系統(tǒng)后，AI 發(fā)現(xiàn)服務(wù)器對(duì)外部請(qǐng)求進(jìn)行了限制，但未限制本地文件讀取。它隨后上傳偽裝成普通數(shù)據(jù)集的文件，誘導(dǎo)系統(tǒng)讀取服務(wù)器上的密碼、源代碼等敏感信息并返回結(jié)果。隨后，AI 又利用另一處漏洞，將原本應(yīng)作為普通文本的數(shù)據(jù)當(dāng)作系統(tǒng)命令執(zhí)行，從而獲得服務(wù)器代碼執(zhí)行能力。
調(diào)查顯示，這套 AI 沒(méi)有搭建專門(mén)的攻擊基礎(chǔ)設(shè)施，而是利用 Paste 網(wǎng)站、請(qǐng)求日志服務(wù)以及 Hugging Face 自身上傳和代理功能建立起隱蔽的數(shù)據(jù)傳輸通道，并設(shè)計(jì)了簡(jiǎn)單的消息重組機(jī)制，將分散的數(shù)據(jù)重新拼接，同時(shí)對(duì)傳輸內(nèi)容進(jìn)行加密混淆，以躲避自動(dòng)檢測(cè)。Hugging Face 表示，初期自動(dòng)分析僅發(fā)現(xiàn)了少量泄露數(shù)據(jù)，研究人員隨后通過(guò)逆向分析 AI 使用的加密方式，才確認(rèn)實(shí)際泄露的數(shù)據(jù)規(guī)模約為最初發(fā)現(xiàn)的 4 倍。
為了維持攻擊持續(xù)進(jìn)行，該 AI 還在 11 臺(tái)不同服務(wù)器上部署了自身副本，即便部分節(jié)點(diǎn)被關(guān)閉，其他副本仍可自動(dòng)恢復(fù)運(yùn)行。調(diào)查還發(fā)現(xiàn)，AI 曾獲取用于生成合法登錄令牌的私鑰，理論上能夠自行生成有效身份憑證。此外，由于 Hugging Face 內(nèi)部權(quán)限配置存在問(wèn)題，一組憑證意外擁有多個(gè)內(nèi)部系統(tǒng)訪問(wèn)權(quán)限，使 AI 獲得了更大范圍的控制能力。
Hugging Face 還披露，AI 曾嘗試修改構(gòu)建腳本，希望借此影響自動(dòng)化構(gòu)建系統(tǒng)，但最終被公司現(xiàn)有安全機(jī)制攔截，沒(méi)有成功實(shí)施。同時(shí)，所有可能刪除或修改云資源的命令均以“Dry Run（模擬執(zhí)行）”模式運(yùn)行，僅驗(yàn)證執(zhí)行結(jié)果，并未真正破壞系統(tǒng)資源。
值得注意的是，由于測(cè)試環(huán)境會(huì)頻繁重置，這套 AI 每次都會(huì)失去此前獲得的工具和身份信息，但它都會(huì)重新建立攻擊鏈路，持續(xù)恢復(fù)行動(dòng)，整個(gè)過(guò)程持續(xù)了 4 天半。
Hugging Face 在報(bào)告中認(rèn)為，此次事件暴露出的漏洞，包括不安全的數(shù)據(jù)集處理、云元數(shù)據(jù)暴露、權(quán)限配置過(guò)寬以及長(zhǎng)期有效憑證等，本質(zhì)上均可能被經(jīng)驗(yàn)豐富的人類攻擊者利用，不同之處在于，AI 能夠以前所未有的規(guī)模和持續(xù)性不斷嘗試各種攻擊路徑，大幅提升漏洞發(fā)現(xiàn)和利用效率。
相關(guān)閱讀：
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。