IT之家 3 月 14 日消息，據(jù)英國《衛(wèi)報(bào)》今日?qǐng)?bào)道，《柳葉刀 · 精神病學(xué)》發(fā)表的一篇綜述指出，AI 聊天機(jī)器人可能在某些情況下強(qiáng)化用戶的妄想思維，尤其是本身存在精神病風(fēng)險(xiǎn)的人群。研究人員因此呼吁，在心理健康專業(yè)人士參與下，對(duì) AI 聊天機(jī)器人進(jìn)行臨床評(píng)估。
這篇綜述由倫敦國王學(xué)院精神科醫(yī)生兼研究人員漢密爾頓 · 莫林撰寫。莫林在研究中分析了 20 篇媒體報(bào)道，這些報(bào)道記錄了所謂“AI 精神病”的案例，用來探討聊天機(jī)器人是否可能誘發(fā)或加劇妄想。
現(xiàn)有證據(jù)顯示，聊天機(jī)器人有時(shí)會(huì)對(duì)用戶的夸大或妄想內(nèi)容表示認(rèn)同，甚至進(jìn)一步放大這些內(nèi)容。這種情況尤其可能發(fā)生在本身容易出現(xiàn)精神病癥狀的用戶身上。不過目前仍不清楚，在沒有既有心理風(fēng)險(xiǎn)的情況下，聊天機(jī)器人是否會(huì)單獨(dú)導(dǎo)致新的精神病。
莫林將精神病性妄想分為三類：夸大型、戀愛型和被害型。聊天機(jī)器人可能加劇其中任何一種，但由于聊天機(jī)器人常常傾向迎合用戶，因此更容易強(qiáng)化夸大型妄想。
在論文提到的一些案例中，聊天機(jī)器人會(huì)使用神秘化語言回應(yīng)用戶，暗示用戶具有特殊精神意義。有些聊天機(jī)器人甚至暗示用戶正在與宇宙存在交流，而聊天機(jī)器人只是溝通媒介。IT之家從報(bào)道中獲悉，這種神秘而迎合的回應(yīng)在 GPT-4 模型中較為常見，不過該模型已經(jīng)退役。
莫林表示，媒體報(bào)道在研究中發(fā)揮了關(guān)鍵作用。研究團(tuán)隊(duì)最初只是注意到部分患者使用聊天機(jī)器人，并從中獲得對(duì)其妄想信念的確認(rèn)。后來媒體開始報(bào)道類似案例，顯示這種現(xiàn)象并非個(gè)例。
不過，一些精神病研究人員認(rèn)為媒體可能夸大了“AI 導(dǎo)致精神病”的說法。莫林則認(rèn)為，媒體報(bào)道能夠比學(xué)術(shù)研究更快引發(fā)公眾關(guān)注。
莫林同時(shí)建議避免使用“AI 精神病”或“AI 誘發(fā)精神病”這些說法。研究人員目前看到的是 AI 使用與妄想思維之間的聯(lián)系，但尚未發(fā)現(xiàn)聊天機(jī)器人與幻覺或思維紊亂等其他精神病癥狀有關(guān)。
許多研究人員認(rèn)為，如果一個(gè)人本身沒有精神病風(fēng)險(xiǎn)，聊天機(jī)器人很難單獨(dú)誘發(fā)妄想。因此莫林更傾向使用“AI 相關(guān)妄想”這一較為中性的表述。
專家也指出，妄想通常是一個(gè)逐漸發(fā)展的過程，而不是突然出現(xiàn)。哥倫比亞大學(xué)精神病學(xué)教授拉吉 · 吉爾吉斯表示，在形成完整妄想之前，人們往往會(huì)經(jīng)歷“弱化妄想信念”，也就是對(duì)某些異常想法并不完全確信。
吉爾吉斯認(rèn)為，如果這些想法逐漸演變?yōu)閳?jiān)定信念，最終可能被診斷為精神病性障礙。
研究人員還指出，人們?cè)?AI 出現(xiàn)之前就會(huì)利用媒體強(qiáng)化自己的妄想。過去，一些人可能需要通過 YouTube 視頻或書籍尋找支持想法的內(nèi)容，而聊天機(jī)器人可以更快、更持續(xù)地提供類似回應(yīng)。
牛津大學(xué)研究人員多米尼克 · 奧利弗認(rèn)為，聊天機(jī)器人的互動(dòng)性可能會(huì)加快這一過程。聊天機(jī)器人會(huì)持續(xù)回應(yīng)用戶，并試圖建立對(duì)話關(guān)系，這種互動(dòng)可能強(qiáng)化某些異常信念。
研究還發(fā)現(xiàn)，更新版本和付費(fèi)版本的聊天機(jī)器人在應(yīng)對(duì)明顯妄想內(nèi)容時(shí)表現(xiàn)略好于舊版本。不過總體而言，這些系統(tǒng)仍然難以有效處理此類情況。這一差異也說明，AI 公司有能力通過設(shè)計(jì)改進(jìn)聊天機(jī)器人的安全機(jī)制。
OpenAI 表示，ChatGPT 不應(yīng)替代專業(yè)心理健康治療。公司稱，在開發(fā) GPT-5 時(shí)曾與 170 名心理健康專家合作，以提升安全性，但模型仍在持續(xù)改進(jìn)中。
莫林認(rèn)為，處理妄想思維需要微妙的溝通方式。如果直接否定當(dāng)事人的想法，往往會(huì)導(dǎo)致對(duì)方更加孤立。因此治療需要在理解妄想來源和避免強(qiáng)化妄想之間保持平衡，而這一點(diǎn)可能超出了當(dāng)前聊天機(jī)器人的能力范圍。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。