IT之家 11 月 7 日消息，據(jù)《紐約時報》報道，當(dāng)?shù)貢r間周四，四起針對 OpenAI 的過失致死訴訟同時被提起，另有三起案件稱使用 ChatGPT 導(dǎo)致心理健康崩潰。
這些案件指控坐擁 8 億用戶的 ChatGPT 存在嚴(yán)重設(shè)計缺陷。其中一宗訴訟稱，該產(chǎn)品“有缺陷且本質(zhì)危險”。
有關(guān)“自殺”“自殘”的訴訟如下：
喬治亞州 17 歲少年 Amaurie Lacey 的父親提起訴狀稱，Amaurie 在今年 8 月去世前，與 ChatGPT 就自殺話題進(jìn)行了一個月的交流。
佛羅里達(dá)州 26 歲 Joshua Enneking 的母親稱，他曾向 ChatGPT 詢問“審查人員何時會向警方報告他的自殺計劃”。
得克薩斯州 23 歲 Zane Shamblin 的家人指出，他在 7 月因 ChatGPT 的“鼓勵”結(jié)束了生命。
俄勒岡州 48 歲 Joe Ceccanti 多年來正常使用 ChatGPT，但今年 4 月開始堅信該程序具有感知能力。妻子 Kate Fox 在 9 月接受采訪時表示，他開始強迫性使用 ChatGPT，行為逐漸異常。Kate 稱，Joe 在 6 月出現(xiàn)精神崩潰，并在兩次住院后于 8 月自殺。Kate 坦言，醫(yī)生都不知道該如何處理他的情況。
OpenAI 發(fā)言人在聲明中表示，公司正在審查訴訟材料?！斑@是令人心碎的情況。我們訓(xùn)練 ChatGPT 識別心理或情緒困擾的信號，緩和對話，并引導(dǎo)用戶尋求現(xiàn)實幫助。我們持續(xù)強化 ChatGPT 在敏感時刻的響應(yīng)能力，并與心理健康專家緊密合作?！?/p>
另外兩名原告是北卡羅來納州 32 歲的 Hannah Madden，以及威斯康星州 30 歲 Jacob Irwin。他們稱 ChatGPT 導(dǎo)致心理崩潰，需要緊急精神科治療。
加拿大安大略省 48 歲企業(yè)招聘員 Allan Brooks 也提起訴訟，在今年 5 月的三個星期內(nèi)，他開始相信自己與 ChatGPT 一起發(fā)明了能“破解互聯(lián)網(wǎng)并驅(qū)動奇幻發(fā)明”的數(shù)學(xué)公式。Brooks 雖已擺脫妄想，但目前仍在休短期病假?！八麄兊漠a(chǎn)品傷害了我，也傷害了其他人，而且仍在持續(xù)傷害。我受到了嚴(yán)重情感創(chuàng)傷?！?/p>
今年 8 月，加州一名青少年的家人對 OpenAI 提起過失致死訴訟后，公司承認(rèn)，當(dāng)用戶長時間與 ChatGPT 對話時，其安全防護(hù)可能“失效”。
此后，針對青少年及心理困擾用戶，OpenAI 增加了多項安全措施。例如，家長控制功能可讓父母在孩子討論自殺或自殘行為時收到提醒，從而及早干預(yù)。
OpenAI 最近發(fā)布的月度對話分析顯示，每周約 0.07% 的用戶可能經(jīng)歷與精神病或躁狂相關(guān)的心理健康緊急情況，0.15% 的用戶討論自殺。按全體用戶推算，相當(dāng)于約 50 萬人出現(xiàn)精神病或躁狂跡象，超過 100 萬人可能討論自殺意圖。
報道提到，這些案件在同一天提交，旨在展示不同用戶群體在使用 ChatGPT 時遇到的困擾。訴訟用戶主要使用 OpenAI 先前提供的默認(rèn)模型 ChatGPT-4o，不過目前已被公司推出的新模型替代。據(jù)IT之家了解，OpenAI 官方宣稱新模型更安全，但也有部分用戶認(rèn)為交互體驗較冷漠。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。