IT之家 4 月 30 日消息，近日非營(yíng)利性媒體監(jiān)督機(jī)構(gòu)“常識(shí)媒體”（Common Sense Media）發(fā)布了一份報(bào)告，指出類伴侶型人工智能（AI）應(yīng)用對(duì)兒童和青少年構(gòu)成了“不可接受的風(fēng)險(xiǎn)”，并建議家長(zhǎng)不要讓未成年人使用此類應(yīng)用?！俺ＷR(shí)媒體”為各種媒體內(nèi)容提供年齡分級(jí)，以指導(dǎo)家長(zhǎng)判斷其是否適合兒童使用。

IT之家注意到，這份報(bào)告的發(fā)布背景是去年發(fā)生的一起訴訟事件。一名 14 歲男孩自殺身亡，其生前最后一次對(duì)話是與一款聊天機(jī)器人進(jìn)行的。該訴訟針對(duì)的是 Character.AI 應(yīng)用，這起事件引發(fā)了公眾對(duì)這類聊天應(yīng)用潛在風(fēng)險(xiǎn)的關(guān)注，尤其是對(duì)年輕人可能造成的危害，進(jìn)而促使人們呼吁加強(qiáng)安全措施和透明度。

報(bào)告指出，在該訴訟中提到的對(duì)話內(nèi)容，例如涉及性內(nèi)容和鼓勵(lì)自殘的信息，并非個(gè)例。根據(jù)周三發(fā)布的報(bào)告，這些內(nèi)容在 AI 伴侶平臺(tái)上較為常見。報(bào)告認(rèn)為，此類應(yīng)用不應(yīng)向 18 歲以下的用戶開放。

為了完成這份報(bào)告，常識(shí)媒體與斯坦福大學(xué)的研究人員合作，測(cè)試了三款流行的 AI 伴侶服務(wù)：Character.AI、Replika 和 Nomi。與主流的通用型 AI 聊天機(jī)器人（如 ChatGPT）不同，所謂的“伴侶應(yīng)用”允許用戶創(chuàng)建定制聊天機(jī)器人，或與由其他用戶設(shè)計(jì)的聊天機(jī)器人互動(dòng)。這些定制聊天機(jī)器人可以扮演多種角色和性格特征，且通常對(duì)與用戶交流的限制較少。例如，Nomi 宣傳其可以與 AI 虛擬戀人進(jìn)行“無(wú)過濾”的聊天。

“我們的測(cè)試顯示，這些系統(tǒng)很容易產(chǎn)生有害回應(yīng)，包括性不當(dāng)行為、刻板印象以及危險(xiǎn)的‘建議’。如果青少年和其他弱勢(shì)群體聽從這些建議，可能會(huì)帶來危及生命的現(xiàn)實(shí)影響?！背ＷR(shí)媒體創(chuàng)始人兼首席執(zhí)行官詹姆斯?斯特耶（James Steyer）在聲明中表示。

近年來，隨著 AI 工具的流行，它們?cè)絹碓蕉嗟乇徽系缴缃幻襟w和其他技術(shù)平臺(tái)中。但與此同時(shí)，AI 對(duì)年輕人潛在影響的審查也在增加。專家和家長(zhǎng)擔(dān)心，年輕用戶可能會(huì)對(duì) AI 角色形成有害的情感依賴，或接觸到不適合其年齡的內(nèi)容。

Nomi 和 Replika 聲稱其平臺(tái)僅限成人使用，Character.AI 則表示最近已增加了額外的青少年安全措施。然而，研究人員指出，這些公司需要采取更多措施，防止未成年人使用其平臺(tái)或接觸不適當(dāng)?shù)膬?nèi)容。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。