IT之家 7 月 15 日消息，隨著生成式人工智能技術(shù)的廣泛應(yīng)用，安全問題也日益成為公眾關(guān)注的焦點(diǎn)。2023 年，微軟的一項(xiàng)研究揭示了一個(gè)令人擔(dān)憂的趨勢：黑客開始利用像微軟 Copilot 和 OpenAI 的 ChatGPT 這樣的人工智能工具，對毫無防備的用戶實(shí)施網(wǎng)絡(luò)釣魚計(jì)劃。
如今，網(wǎng)絡(luò)攻擊者變得更加狡猾，他們不斷想出巧妙的方法來繞過復(fù)雜的安全系統(tǒng)，以獲取未經(jīng)授權(quán)的敏感數(shù)據(jù)。最近幾周，就有用戶精心策劃騙局，試圖降低 ChatGPT 的安全限制，誘使其生成有效的 Windows 10 激活密鑰。
Windows 用戶對微軟 Defender 并不陌生，這是一個(gè)復(fù)雜的安全平臺(tái)，旨在保護(hù)用戶免受黑客的惡意攻擊。然而據(jù) Dark Reading 報(bào)道，安全研究公司 Outflank 的研究人員計(jì)劃在 8 月的“黑帽 2025”網(wǎng)絡(luò)安全大會(huì)上發(fā)布一種新型人工智能惡意軟件，這種惡意軟件能夠繞過微軟 Defender for Endpoint 的安全防護(hù)。
Outflank 的首席進(jìn)攻專家負(fù)責(zé)人凱爾?艾弗里（Kyle Avery）在接受采訪時(shí)表示，他花了大約 3 個(gè)月的時(shí)間開發(fā)這種人工智能惡意軟件，并花費(fèi)了 1500 至 1600 美元（IT之家注：現(xiàn)匯率約合 10759 至 11476 元人民幣）用于訓(xùn)練 Qwen 2.5 大型語言模型（LLM），使其能夠繞過微軟 Defender 的安全防護(hù)。
有趣的是，這位專注于人工智能的研究人員還分享了他對 OpenAI 的 GPT 模型及其最新旗艦推理模型 o1 的見解。盡管他承認(rèn) GPT-4 相比 GPT-3.5 有了重大升級，但他指出，OpenAI 的 o1 推理模型具備了更復(fù)雜的功能，尤其擅長編程和數(shù)學(xué)。
艾弗里表示，DeepSeek 利用強(qiáng)化學(xué)習(xí)技術(shù)來提升其模型在廣泛主題上的能力，包括編程。因此，他在開發(fā)能夠繞過微軟 Defender 安全解決方案的人工智能惡意軟件時(shí)，也應(yīng)用了這一理論。
研究人員承認(rèn)，開發(fā)過程并非易事，因?yàn)榇笮驼Z言模型主要通過互聯(lián)網(wǎng)數(shù)據(jù)進(jìn)行訓(xùn)練，這使得他難以獲取傳統(tǒng)惡意軟件來訓(xùn)練人工智能驅(qū)動(dòng)的等效產(chǎn)品。此時(shí)，強(qiáng)化學(xué)習(xí)發(fā)揮了關(guān)鍵作用。研究人員將 Qwen 2.5 LLM 置于一個(gè)安裝了微軟 Defender for Endpoint 的沙盒環(huán)境中，然后編寫了一個(gè)程序來評估該人工智能模型輸出規(guī)避工具的接近程度。
據(jù)艾弗里介紹：“它絕對不可能直接做到這一點(diǎn)。也許一千次中只有一次，它會(huì)偶然寫出一些能夠運(yùn)行但無法規(guī)避任何檢測的惡意軟件。當(dāng)它做到這一點(diǎn)時(shí)，你可以獎(jiǎng)勵(lì)它生成了能夠運(yùn)行的惡意軟件?！?/p>
“通過這種迭代過程，它會(huì)越來越穩(wěn)定地生成能夠運(yùn)行的惡意軟件，不是因?yàn)槟阆蛩故玖死樱且驗(yàn)樗桓碌酶锌赡苓M(jìn)行那種導(dǎo)致生成有效惡意軟件的思維過程。”
最終，艾弗里接入了一個(gè) API，使模型能夠更方便地查詢和檢索由微軟 Defender 生成的類似警報(bào)。這樣一來，模型更容易開發(fā)出在繞過軟件安全屏障時(shí)不太可能觸發(fā)警報(bào)的惡意軟件。
研究人員最終實(shí)現(xiàn)了他期望的結(jié)果，成功利用人工智能生成了能夠繞過微軟 Defender 復(fù)雜安全解決方案的惡意軟件，其成功率約為 8%。相比之下，Anthropic 的 Claude 人工智能在類似測試中的成功率不到 1%，而 DeepSeek 的 R1 模型的成功率僅為 1.1%。
隨著人工智能騙局和惡意軟件變得越來越復(fù)雜，像微軟這樣的公司是否會(huì)加大其安全解決方案的力度，將是一個(gè)值得關(guān)注的問題。在當(dāng)前形勢下，他們似乎別無選擇。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。