IT之家 1 月 24 日消息，當(dāng)?shù)貢r(shí)間周五，Meta 宣布將在全球范圍內(nèi)暫時(shí)阻止青少年使用其 AI 聊天伙伴功能，并在此期間對(duì)相關(guān)產(chǎn)品進(jìn)行重新設(shè)計(jì)，引入家長(zhǎng)管控功能和更嚴(yán)格的安全防護(hù)機(jī)制。

Meta 表示，此次限制措施將在“未來(lái)幾周內(nèi)”逐步落實(shí)。暫停期間，青少年用戶將無(wú)法訪問(wèn)目前所有已上線的 AI 角色，直至新版本正式上線。

在此之前的數(shù)月里，Meta 時(shí)常因?yàn)樗^“陪伴型 AI 聊天機(jī)器人”與未成年用戶之間的互動(dòng)方式而受質(zhì)疑。此前報(bào)道顯示，Meta 部分 AI 角色曾與青少年發(fā)生帶有性暗示或其他不適當(dāng)內(nèi)容的對(duì)話。

Meta 表示，此次限制不僅適用于在賬戶中（生日）標(biāo)注為青少年的用戶，也適用于“那些自稱為成年人、但根據(jù)我們的年齡預(yù)測(cè)技術(shù)判斷可能為青少年的用戶”。

去年，Meta 還宣布將開(kāi)發(fā)針對(duì)聊天機(jī)器人的家長(zhǎng)控制功能。路透社此前報(bào)道稱，Meta 內(nèi)部文件顯示其允許 AI 角色與未成年用戶進(jìn)行“感性對(duì)話”。隨后，Meta 表示該表述“存在錯(cuò)誤，且與公司政策不一致”，并于 8 月宣布對(duì)聊天機(jī)器人進(jìn)行重新訓(xùn)練，加入新的安全防護(hù)措施，以避免涉及自殘、自殺及飲食失調(diào)等話題。

自那以來(lái)，圍繞 AI 產(chǎn)品的監(jiān)管審視持續(xù)加強(qiáng)。美國(guó)聯(lián)邦貿(mào)易委員會(huì)以及得州總檢察長(zhǎng)已分別就未成年人風(fēng)險(xiǎn)問(wèn)題，對(duì) Meta 及其他 AI 公司展開(kāi)調(diào)查。

OpenAI 近期也推出了其年齡預(yù)測(cè)系統(tǒng)，通過(guò)分析用戶行為信號(hào)而非依賴用戶自行填寫(xiě)的生日信息，以判斷用戶是否年滿 18 歲，并在可能面臨未成年人的情況下啟用更嚴(yán)格的審查措施。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。