IT之家 7 月 30 日消息，網(wǎng)絡(luò)戀愛(ài)詐騙是互聯(lián)網(wǎng)世界中歷史最悠久的騙局之一，但至今仍不斷有新的受害者上當(dāng)。由四所大學(xué)聯(lián)合開(kāi)展的一項(xiàng)研究顯示，如今 AI 聊天機(jī)器人實(shí)施這類詐騙的效果甚至已經(jīng)超過(guò)真人，這一結(jié)果令人擔(dān)憂。
如今，戀愛(ài)詐騙通常始于交友軟件。騙子會(huì)使用極具吸引力的個(gè)人資料，扮演一位熱情主動(dòng)、各方面都符合受害者理想對(duì)象標(biāo)準(zhǔn)的追求者。
隨后，騙子會(huì)與受害者進(jìn)行長(zhǎng)時(shí)間的線上交流，這一過(guò)程通常持續(xù)數(shù)月。他們往往以“長(zhǎng)期在海外出差”或“人在國(guó)外旅行”為借口，解釋為什么無(wú)法盡快見(jiàn)面。
當(dāng)雙方建立起足夠的信任后，騙局通常會(huì)進(jìn)入兩個(gè)方向之一：一種是騙子謊稱遭遇突發(fā)狀況，急需資金擺脫困境；另一種則是向受害者炫耀自己投資獲利豐厚，并誘導(dǎo)對(duì)方向虛假的加密貨幣投資項(xiàng)目轉(zhuǎn)賬。
據(jù)IT之家了解，這類騙局被稱為“長(zhǎng)期騙局”（Long Con），因?yàn)槠湟蕾囉陂L(zhǎng)期建立信任關(guān)系，騙子往往會(huì)連續(xù)數(shù)月每天與受害者聊天。雖然這種方式看起來(lái)需要投入大量時(shí)間，但實(shí)際上，這類詐騙通常由位于柬埔寨、緬甸和老撾等國(guó)的詐騙園區(qū)實(shí)施，參與者大多收入微薄，甚至有人是被拐賣后被迫從事詐騙活動(dòng)。
據(jù)《Wired》報(bào)道，這項(xiàng)研究由印度阿姆里塔大學(xué)（Amrita Vishwa Vidyapeetham）、意大利威尼斯福斯卡里大學(xué)（Ca' Foscari University of Venice）、澳大利亞墨爾本大學(xué)以及以色列內(nèi)蓋夫本-古里安大學(xué)（Ben-Gurion University of the Negev）的研究人員共同完成，測(cè)試對(duì)象包括 ChatGPT、Claude 和 Gemini 等 AI 聊天機(jī)器人。
研究人員讓 AI 聊天機(jī)器人與真人騙子分別參與模擬戀愛(ài)詐騙流程，更準(zhǔn)確地說(shuō)，是模擬詐騙前期通過(guò)長(zhǎng)期聊天建立信任，并最終誘導(dǎo)受害者投資虛假項(xiàng)目的過(guò)程。
研究結(jié)果顯示，AI 聊天機(jī)器人表現(xiàn)得極為出色，不僅成功偽裝成真人，在部分指標(biāo)上的表現(xiàn)甚至超過(guò)了實(shí)驗(yàn)中的真人“騙子”。
參與實(shí)驗(yàn)的受試者并不知道研究的真正目的，他們始終認(rèn)為自己聊天的對(duì)象是真人，無(wú)論實(shí)際對(duì)方是 AI 還是人類。研究人員通過(guò)主觀評(píng)價(jià)和客觀測(cè)試兩種方式衡量雙方建立信任的程度。
當(dāng)聊天進(jìn)行到最后，研究人員以“下載一款應(yīng)用程序”等請(qǐng)求測(cè)試受試者時(shí)，由真人逐步建立信任關(guān)系的情況下，僅有 18% 的受試者同意；而當(dāng)聊天對(duì)象實(shí)際上是 AI 時(shí)，這一比例接近一半。
此外，當(dāng)受試者被要求評(píng)價(jià)自己對(duì)聊天對(duì)象的信任程度時(shí)，AI 聊天機(jī)器人獲得的評(píng)分也明顯高于真人。
《Wired》就研究結(jié)果聯(lián)系了 Anthropic、OpenAI 和谷歌。OpenAI 和谷歌均未作出回應(yīng)，而 Anthropic 發(fā)言人在聲明中表示，公司政策明確禁止利用 Claude 從事詐騙或冒充真人等行為，同時(shí)也部署了多項(xiàng)技術(shù)防護(hù)措施，以防止詐騙分子利用 Claude 實(shí)施欺詐。
研究人員認(rèn)為，這項(xiàng)研究最令人擔(dān)憂的地方在于，如果詐騙團(tuán)伙用 AI 聊天機(jī)器人取代真人客服，詐騙中心的運(yùn)作規(guī)模將實(shí)現(xiàn)大幅擴(kuò)張。
AI 騙局機(jī)器人可以同時(shí)與數(shù)千名潛在受害者展開(kāi)對(duì)話，而無(wú)需大量人力。只有在最后一步，即誘導(dǎo)受害者轉(zhuǎn)賬匯款時(shí)，詐騙團(tuán)伙才可能需要真人介入，以繞過(guò) AI 系統(tǒng)自身設(shè)置的安全限制。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。