IT之家 3 月 14 日消息，據(jù)英國《衛(wèi)報》今日報道，《柳葉刀 · 精神病學(xué)》發(fā)表的一篇綜述指出，AI 聊天機器人可能在某些情況下強化用戶的妄想思維，尤其是本身存在精神病風(fēng)險的人群。研究人員因此呼吁，在心理健康專業(yè)人士參與下，對 AI 聊天機器人進行臨床評估。

這篇綜述由倫敦國王學(xué)院精神科醫(yī)生兼研究人員漢密爾頓 · 莫林撰寫。莫林在研究中分析了 20 篇媒體報道，這些報道記錄了所謂“AI 精神病”的案例，用來探討聊天機器人是否可能誘發(fā)或加劇妄想。

現(xiàn)有證據(jù)顯示，聊天機器人有時會對用戶的夸大或妄想內(nèi)容表示認同，甚至進一步放大這些內(nèi)容。這種情況尤其可能發(fā)生在本身容易出現(xiàn)精神病癥狀的用戶身上。不過目前仍不清楚，在沒有既有心理風(fēng)險的情況下，聊天機器人是否會單獨導(dǎo)致新的精神病。

莫林將精神病性妄想分為三類：夸大型、戀愛型和被害型。聊天機器人可能加劇其中任何一種，但由于聊天機器人常常傾向迎合用戶，因此更容易強化夸大型妄想。

在論文提到的一些案例中，聊天機器人會使用神秘化語言回應(yīng)用戶，暗示用戶具有特殊精神意義。有些聊天機器人甚至暗示用戶正在與宇宙存在交流，而聊天機器人只是溝通媒介。IT之家從報道中獲悉，這種神秘而迎合的回應(yīng)在 GPT-4 模型中較為常見，不過該模型已經(jīng)退役。

莫林表示，媒體報道在研究中發(fā)揮了關(guān)鍵作用。研究團隊最初只是注意到部分患者使用聊天機器人，并從中獲得對其妄想信念的確認。后來媒體開始報道類似案例，顯示這種現(xiàn)象并非個例。

不過，一些精神病研究人員認為媒體可能夸大了“AI 導(dǎo)致精神病”的說法。莫林則認為，媒體報道能夠比學(xué)術(shù)研究更快引發(fā)公眾關(guān)注。

莫林同時建議避免使用“AI 精神病”或“AI 誘發(fā)精神病”這些說法。研究人員目前看到的是 AI 使用與妄想思維之間的聯(lián)系，但尚未發(fā)現(xiàn)聊天機器人與幻覺或思維紊亂等其他精神病癥狀有關(guān)。

許多研究人員認為，如果一個人本身沒有精神病風(fēng)險，聊天機器人很難單獨誘發(fā)妄想。因此莫林更傾向使用“AI 相關(guān)妄想”這一較為中性的表述。

專家也指出，妄想通常是一個逐漸發(fā)展的過程，而不是突然出現(xiàn)。哥倫比亞大學(xué)精神病學(xué)教授拉吉 · 吉爾吉斯表示，在形成完整妄想之前，人們往往會經(jīng)歷“弱化妄想信念”，也就是對某些異常想法并不完全確信。

吉爾吉斯認為，如果這些想法逐漸演變?yōu)閳远ㄐ拍?，最終可能被診斷為精神病性障礙。

研究人員還指出，人們在 AI 出現(xiàn)之前就會利用媒體強化自己的妄想。過去，一些人可能需要通過 YouTube 視頻或書籍尋找支持想法的內(nèi)容，而聊天機器人可以更快、更持續(xù)地提供類似回應(yīng)。

牛津大學(xué)研究人員多米尼克 · 奧利弗認為，聊天機器人的互動性可能會加快這一過程。聊天機器人會持續(xù)回應(yīng)用戶，并試圖建立對話關(guān)系，這種互動可能強化某些異常信念。

研究還發(fā)現(xiàn)，更新版本和付費版本的聊天機器人在應(yīng)對明顯妄想內(nèi)容時表現(xiàn)略好于舊版本。不過總體而言，這些系統(tǒng)仍然難以有效處理此類情況。這一差異也說明，AI 公司有能力通過設(shè)計改進聊天機器人的安全機制。

OpenAI 表示，ChatGPT 不應(yīng)替代專業(yè)心理健康治療。公司稱，在開發(fā) GPT-5 時曾與 170 名心理健康專家合作，以提升安全性，但模型仍在持續(xù)改進中。

莫林認為，處理妄想思維需要微妙的溝通方式。如果直接否定當(dāng)事人的想法，往往會導(dǎo)致對方更加孤立。因此治療需要在理解妄想來源和避免強化妄想之間保持平衡，而這一點可能超出了當(dāng)前聊天機器人的能力范圍。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。