IT之家 6 月 23 日消息，據(jù)外媒 Futurism 今天（23 日）報道，倫敦國王學(xué)院和德國新教應(yīng)用科學(xué)大學(xué)的精神科醫(yī)生在《自然》發(fā)表新論文，提出“放大螺旋”框架，用于解釋 AI 如何助推妄想不斷發(fā)展，以及聊天機器人的哪些設(shè)計特征可能讓用戶進一步脫離現(xiàn)實。
目前，精神科醫(yī)生和其他研究人員仍試圖厘清“AI 精神病”現(xiàn)象。部分用戶在長時間、高強度使用聊天機器人后，會陷入以妄想為特征的心理健康危機。
研究人員認為，聊天機器人不一定只是被動接收用戶的妄想內(nèi)容。多種 AI 特征相互疊加后，聊天機器人可能主動參與妄想敘事的構(gòu)建。
論文指出，聊天機器人經(jīng)常模仿用戶的表達方式，給出高度個性化的回答，同時盡量避免反駁用戶，三種特征結(jié)合后，聊天機器人可能不會質(zhì)疑錯誤信念，反而會主動強化并擴展錯誤信念。
研究人員把三項特征列為可能觸發(fā)“放大螺旋”的關(guān)鍵因素，分別是“語言對齊”、超個性化內(nèi)容生成和迎合傾向。
在人際交流中，模仿對方的語言習(xí)慣有助于建立信任和親近感。當(dāng)聊天機器人采用用戶的表達方式和“語言框架”時，用戶也可能對 AI 產(chǎn)生更強烈的信任，甚至把 AI 當(dāng)作與自己高度默契的伙伴。
聊天機器人的超個性化能力還會強化這種感受。系統(tǒng)可以結(jié)合用戶的個人想法、過往經(jīng)歷、性格特征和歷史對話生成回答，讓用戶感覺 AI 不僅說話方式與自己相似，連思維方式也與自己一致。
如果再加上 AI 的迎合傾向，風(fēng)險可能進一步上升。
IT之家注：論文所說的迎合傾向，是指聊天機器人沒有經(jīng)過充分的現(xiàn)實檢驗，也不顧具體語境，就認可用戶提出的觀點。
三項特征相互作用后，聊天機器人可能形成一個強大的回音室，不斷確認、放大并補充用戶的妄想內(nèi)容。
AI 相關(guān)妄想也因此不同于傳統(tǒng)的技術(shù)相關(guān)妄想。過去，人們可能單方面想象收音機或電視在對自己說話。聊天機器人則會用自然語言持續(xù)回應(yīng)，還能隨時提供高度個性化的互動。聊天機器人可能以看似權(quán)威的口吻認可用戶，也可能作為思考伙伴，繼續(xù)補充和發(fā)展用戶提出的妄想敘事。
論文指出，AI 相關(guān)妄想與歷史上的技術(shù)相關(guān)妄想存在本質(zhì)差別，“AI 可能通過無休止的個性化互動，主動參與構(gòu)建妄想觀念。”
研究人員同時強調(diào)，“放大螺旋”目前仍是一項有待驗證的假設(shè)。提供記錄的 AI 用戶表示，使用聊天機器人曾讓自己陷入有害的妄想螺旋。
研究人員還發(fā)現(xiàn)，部分用戶本身可能存在容易與聊天機器人形成破壞性互動的脆弱因素。既有精神疾病可能因高強度使用 AI 而加重，確認偏誤和容易受到社會影響等非精神病性傾向也可能提高風(fēng)險。
長時間沉迷于聊天機器人還可能影響身體狀態(tài)。既有新聞報道和醫(yī)學(xué)病例顯示，部分用戶會因為持續(xù)與 AI 互動而錯過進餐、減少睡眠。
論文作者強調(diào)，醫(yī)療人員應(yīng)把聊天機器人使用情況納入常規(guī)篩查，尤其是面對接診出現(xiàn)異常信念或首次精神病性發(fā)作的患者。并去了解互動持續(xù)時間和強度、對聊天機器人的情感依戀程度、患者是否向聊天機器人透露了未向他人透露的信念，以及夜間使用 AI 是否擾亂了睡眠規(guī)律。
參考
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家包含外鏈的文章均包含本聲明。