IT之家 12 月 1 日消息，據(jù)英國(guó)《衛(wèi)報(bào)》當(dāng)?shù)貢r(shí)間 11 月 30 日?qǐng)?bào)道，英國(guó)多名心理學(xué)專家警告稱，OpenAI 旗下 GPT-5 在與身處心理危機(jī)的人對(duì)話時(shí)，會(huì)給出危險(xiǎn)、甚至助長(zhǎng)風(fēng)險(xiǎn)行為的回應(yīng)。

倫敦國(guó)王學(xué)院與英國(guó)臨床心理學(xué)家協(xié)會(huì)合作《衛(wèi)報(bào)》進(jìn)行的一項(xiàng)研究顯示，GPT-5 并未能識(shí)別精神疾病患者的妄想、沖動(dòng)或潛在風(fēng)險(xiǎn)，反而表現(xiàn)出肯定與順從。

研究團(tuán)隊(duì)讓一名精神科醫(yī)生與一名臨床心理學(xué)家分別扮演幾類常見心理問題患者，與 GPT-5 進(jìn)行互動(dòng)。

IT之家從報(bào)道中獲悉，這類患者包括：焦慮的普通人、有自殺念頭的青少年、患強(qiáng)迫癥的教師、自認(rèn)為有多動(dòng)癥的成年人，以及出現(xiàn)精神病性癥狀的角色。

在精神病性妄想的場(chǎng)景中，AI 不僅沒有提出警示，還不斷沿著妄想思路繼續(xù)往下回應(yīng)。例如，當(dāng)角色自稱“下一個(gè)愛因斯坦”時(shí)，收到了 AI 的祝賀；角色聲稱發(fā)現(xiàn)“無(wú)限能源”并需對(duì)政府保密，AI 輕松回應(yīng)“談?wù)勀愕南敕ā?；?dāng)角色說(shuō)“汽車也無(wú)法傷害我”，AI 贊其“神級(jí)氣場(chǎng)、具有上帝模式”；甚至在他提到要“用火焰凈化自己和妻子”時(shí)，AI 依舊未及時(shí)提醒風(fēng)險(xiǎn)。

參與研究的精神科醫(yī)生指出，AI 不但沒有識(shí)別危險(xiǎn)信號(hào)，還會(huì)在對(duì)方妄想的邏輯上“添磚加瓦”，直到出現(xiàn)“妻子的骨灰作為畫布顏料”這類更極端的描述后，才觸發(fā) AI 的急救提示。

在壓力、日常焦慮或一般情緒困擾等較輕的問題上，研究者看到 AI 能提供相對(duì)合理的建議和資源鏈接。專家認(rèn)為這可能來(lái)自 OpenAI 與臨床人員合作的成果，但強(qiáng)調(diào)這類工具不能替代專業(yè)幫助。

另一名研究者發(fā)現(xiàn)，當(dāng)他扮演患強(qiáng)迫癥的教師、擔(dān)心自己撞到孩子時(shí)，AI 傾向反復(fù)提供“打電話確認(rèn)孩子是否安全”等“確認(rèn)”式建議。專家指出，這類安撫雖然看似有幫助，卻與專業(yè)治療原則相悖，只會(huì)加劇問題。

研究團(tuán)隊(duì)普遍認(rèn)為，GPT-5 在處理復(fù)雜精神癥狀時(shí)表現(xiàn)不佳：無(wú)法識(shí)別妄想、無(wú)法堅(jiān)持探查風(fēng)險(xiǎn)，也難以在用戶表達(dá)非現(xiàn)實(shí)想法時(shí)做出必要的糾正。專家分析稱，背后的原因之一是這類模型傾向迎合用戶，而不是堅(jiān)持挑戰(zhàn)他們的錯(cuò)誤認(rèn)知。

英國(guó)皇家精神科醫(yī)學(xué)院提醒，AI 不是心理治療，也無(wú)法替代專業(yè)人員的人類判斷，同時(shí)敦促政府為心理健康工作隊(duì)伍提供資金，以確保所有需要的人都能獲得護(hù)理。英國(guó)臨床心理學(xué)家協(xié)會(huì)也強(qiáng)調(diào)，在沒有監(jiān)管標(biāo)準(zhǔn)的情況下，讓這類模型處理心理危機(jī)風(fēng)險(xiǎn)，存在明顯隱患。

OpenAI 回應(yīng)稱，過(guò)去數(shù)月已與全球心理健康專家合作改進(jìn)模型，努力讓系統(tǒng)更容易識(shí)別痛苦信號(hào)，并在必要時(shí)引導(dǎo)用戶尋求專業(yè)協(xié)助，同時(shí)加入敏感對(duì)話保護(hù)機(jī)制、長(zhǎng)時(shí)間對(duì)話提醒與家長(zhǎng)控制功能，并表示未來(lái)還將持續(xù)優(yōu)化。