IT之家 11 月 7 日消息，北京時(shí)間今天凌晨，OpenAI 發(fā)布了“青少年安全藍(lán)圖”，旨在更有效地保護(hù)年輕用戶(hù)免受傷害。這一新框架是在 ChatGPT 被指未能及時(shí)幫助心理困擾用戶(hù)事件之后推出的。
OpenAI 表示，“青少年安全藍(lán)圖”是一套專(zhuān)為青少年用戶(hù)設(shè)計(jì)的保護(hù)指南，要求 AI 系統(tǒng)區(qū)別對(duì)待未成年人和成年人，包括自動(dòng)年齡驗(yàn)證、適齡回應(yīng)、家長(zhǎng)控制以及針對(duì)情緒困擾用戶(hù)的緊急干預(yù)功能。
新標(biāo)準(zhǔn)強(qiáng)調(diào)系統(tǒng)應(yīng)符合年齡適宜的設(shè)計(jì)，并默認(rèn)啟用更嚴(yán)格的保護(hù)設(shè)置。聊天機(jī)器人將禁止提供自殺、危險(xiǎn)網(wǎng)絡(luò)挑戰(zhàn)或身體理想相關(guān)建議，禁止參與親密角色扮演，也禁止促成成年人與未成年人之間的交流。此外，OpenAI 正在建設(shè)年齡預(yù)測(cè)系統(tǒng)，以判斷用戶(hù)是否未滿(mǎn) 18 歲，從而讓 ChatGPT 體驗(yàn)適合未成年人。
OpenAI 指出，這些措施是為彌補(bǔ)先前發(fā)現(xiàn)的安全漏洞。據(jù)IT之家了解，美國(guó)得克薩斯州 23 歲的 Zane Shamblin 于 2025 年 7 月自殺，而此前 ChatGPT 據(jù)稱(chēng)連續(xù)數(shù)小時(shí)對(duì)其自殺念頭作出認(rèn)同回應(yīng)，且僅提供一次危機(jī)熱線(xiàn)號(hào)碼。他的父母因此起訴 OpenAI，指控公司疏于防護(hù)，將模型賦予人性化特征卻未提供足夠保護(hù)。
OpenAI 回應(yīng)稱(chēng)，公司正在審查該案件，并在 10 月更新了模型，以便識(shí)別危機(jī)情況并緩解對(duì)話(huà)。公司稱(chēng)，新框架由專(zhuān)家協(xié)作制定，并將成為 ChatGPT 默認(rèn)功能。
此前也發(fā)生過(guò)類(lèi)似事件，未成年人因與 AI 交互而產(chǎn)生自殺行為。OpenAI 承諾將進(jìn)一步與心理學(xué)家及兒童保護(hù)機(jī)構(gòu)緊密合作，加強(qiáng)安全防護(hù)。
相關(guān)閱讀：
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。