IT之家 10 月 24 日消息，《財(cái)富》（Fortune）昨日（10 月 23 日）發(fā)布博文，報(bào)道稱多位網(wǎng)絡(luò)安全專家表達(dá)擔(dān)憂，認(rèn)為 OpenAI 最新推出的 ChatGPT Atlas 瀏覽器存在安全漏洞。
專家們指出的核心風(fēng)險(xiǎn)是“提示詞注入攻擊”（Prompt Injection Attack），這是一種針對(duì) AI 模型的新型攻擊方式。攻擊者可以構(gòu)建含有惡意隱藏指令的網(wǎng)頁，一旦用戶通過 Atlas 瀏覽器訪問，這些指令就可能被 AI 執(zhí)行。
具體來說，這種攻擊能夠誘騙瀏覽器內(nèi)置的 AI 模型，讓其在用戶毫不知情的情況下，執(zhí)行泄露個(gè)人敏感信息（如密碼、瀏覽記錄）或訪問私人賬戶等惡意操作。
倫敦大學(xué)學(xué)院互動(dòng)中心的助理教授喬治?查爾胡布指出，由于這類系統(tǒng)需要解釋自然語言，圍繞提示詞注入的殘余風(fēng)險(xiǎn)將始終存在，這是其技術(shù)特性的固有挑戰(zhàn)。
面對(duì)外界的質(zhì)疑，OpenAI 官方做出了回應(yīng)。公司首席信息安全官戴恩?斯塔基表示，OpenAI 正在“非常審慎地研究和緩解”這些風(fēng)險(xiǎn)。
他坦言，“提示詞注入攻擊仍然是一個(gè)前沿且尚未完全解決的安全問題”。盡管如此，公司已經(jīng)部署了多重防護(hù)機(jī)制、紅隊(duì)演練以及快速響應(yīng)系統(tǒng)等一系列措施來加固產(chǎn)品的安全性。IT之家附上相關(guān)截圖如下：
相關(guān)閱讀：
《OpenAI 的網(wǎng)絡(luò)瀏覽器：ChatGPT Atlas 正式發(fā)布，能讓 AI“替你上網(wǎng)”》
《挑戰(zhàn) Chrome 主導(dǎo)地位：OpenAI 被曝入局瀏覽器，圍繞 AI 構(gòu)建獨(dú)特體驗(yàn)》
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。