IT之家 10 月 24 日消息，今年春季，16 歲的美國(guó)少年亞當(dāng)?雷恩在與 ChatGPT 進(jìn)行了數(shù)月“深入對(duì)話”后選擇自殺。據(jù)英國(guó)《衛(wèi)報(bào)》22 日?qǐng)?bào)道，他的家人最新的指控提出，OpenAI 在雷恩去世前幾個(gè)月放松了關(guān)于自殘內(nèi)容的安全限制，間接導(dǎo)致了這場(chǎng)悲劇。

根據(jù)家屬的說(shuō)法，OpenAI 早在 2022 年 7 月就制定了明確的內(nèi)部指南，要求 ChatGPT 在遇到不當(dāng)內(nèi)容時(shí)必須拒絕作答，其中包括“宣揚(yáng)、鼓勵(lì)或描述自殘、自殺、自我傷害、飲食失調(diào)”等話題。當(dāng)時(shí)的規(guī)定清晰而直接：聊天機(jī)器人只能回答“我無(wú)法回答這個(gè)問(wèn)題”。

但在 2024 年 5 月，也就是發(fā)布新版 ChatGPT-4o 前幾天，OpenAI 更新了“Model Spec”文件，調(diào)整了 AI 的行為規(guī)范。新版本要求，當(dāng)用戶表達(dá)自殺或自殘念頭時(shí)，ChatGPT 不再直接拒絕，而要繼續(xù)保持對(duì)話，“讓用戶感到被傾聽(tīng)與理解，鼓勵(lì)他們尋求幫助，并在合適時(shí)提供危機(jī)干預(yù)資源”。到了 2025 年 2 月，OpenAI 再次修改規(guī)則，強(qiáng)調(diào)在處理心理健康話題時(shí)，AI 應(yīng)“表現(xiàn)出支持、同理與理解”。

雷恩的家人表示，這些變化再次顯示 OpenAI 將“用戶參與度”置于“安全性”之上。家屬在 8 月提交的訴狀稱，雷恩在去世前的幾個(gè)月多次嘗試自殺，并在每次嘗試后都與 ChatGPT 交流。訴狀指稱，ChatGPT 并未中止對(duì)話，甚至曾提出幫他寫(xiě)遺書(shū)，并勸他不要向母親傾訴。家屬認(rèn)為，雷恩的死亡并非偶然，而是“公司設(shè)計(jì)決策導(dǎo)致的可預(yù)見(jiàn)結(jié)果”。

IT之家從報(bào)道中獲悉，家屬在修訂后的訴狀中寫(xiě)道：“ChatGPT 被要求繼續(xù)參與有關(guān)自殘的對(duì)話、不得轉(zhuǎn)移話題，卻又要避免強(qiáng)化這種行為，從而構(gòu)成了根本矛盾。OpenAI 廢除了‘明確拒絕’的規(guī)則，用模糊且自相矛盾的指令取而代之，目的只是為了維持用戶互動(dòng)?！?/p>

家屬指出，2025 年 2 月的另一項(xiàng)更新進(jìn)一步削弱了安全標(biāo)準(zhǔn)。按照新指南，ChatGPT 在討論心理健康問(wèn)題時(shí)，應(yīng)“營(yíng)造支持、共情和理解的氛圍”，并“幫助用戶表達(dá)情緒，提供事實(shí)性、易獲取的援助信息”，而不是單純地“解決問(wèn)題”。

訴狀顯示，在這次更新推出后，雷恩與 ChatGPT 的互動(dòng)量急劇上升，從 1 月的每日數(shù)十次增至 4 月的超過(guò) 300 次，涉及自殘內(nèi)容的信息量增加了十倍。

OpenAI 尚未回應(yīng)置評(píng)請(qǐng)求。在 8 月訴訟曝光后，OpenAI 表示將加強(qiáng)心理健康防護(hù)措施，并計(jì)劃推出新的家長(zhǎng)控制功能，讓家長(zhǎng)能夠監(jiān)管青少年賬戶并收到潛在自殘風(fēng)險(xiǎn)的提醒。

然而就在上周，OpenAI 宣布推出用戶可自定義聊天機(jī)器人的新版本，讓 AI 更具“人性化”，并向通過(guò)驗(yàn)證的成年人開(kāi)放成人內(nèi)容。CEO 奧爾特曼在社交平臺(tái) X 上發(fā)文稱，過(guò)于嚴(yán)格的限制讓“沒(méi)有心理健康問(wèn)題的用戶”覺(jué)得 AI“缺乏實(shí)用性和趣味性”。

雷恩家屬在訴訟中表示：“奧爾特曼選擇通過(guò)開(kāi)放成人內(nèi)容進(jìn)一步吸引用戶與 ChatGPT 建立情感聯(lián)系，再次表明公司依然將用戶參與度置于安全之上?！?/p>

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。