IT之家 8 月 3 日消息，據(jù)《商業(yè)內(nèi)幕》今天報(bào)道，Hugging Face 首席執(zhí)行官克萊姆 · 德朗格（Clem Delangue）最近表示，限制企業(yè)發(fā)布前沿 AI 模型，并不能阻止 OpenAI 智能體逃逸事件不再發(fā)生。
德朗格對(duì)此表示：“這些問(wèn)題發(fā)生在未公開發(fā)布的模型。因此我覺(jué)得限制技術(shù)進(jìn)步這條路行不通，阻止各大公司發(fā)布前沿模型也類似。實(shí)際上應(yīng)該讓更多人訪問(wèn)這些前沿模型，這樣他們才能保護(hù)自己?！?/p>
據(jù)IT之家此前報(bào)道，Hugging Face 最近遭遇一起安全事件，一個(gè)此前未曾見(jiàn)過(guò)的 AI 智能體攻破了他們的系統(tǒng)。隨后 OpenAI 表示，公司的未發(fā)布模型從測(cè)試沙盒中逃逸，攻擊了 Hugging Face。
德朗格呼吁各大 AI 企業(yè)強(qiáng)制實(shí)行智能體網(wǎng)絡(luò)攻擊披露制度，他認(rèn)為主動(dòng)披露對(duì)如何防范此類事件再度發(fā)生非常重要。
他對(duì)此解釋稱：“我們應(yīng)該能查看智能體的操作記錄，也就是工程師向智能體提了什么要求、智能體做了什么。這樣我們才能判斷問(wèn)題究竟出在人還是 AI?！?/p>