IT之家 7 月 17 日消息，當?shù)貢r間周四（16 日），Meta 宣布：青少年一旦與 Meta AI 聊天機器人談及自殺或自殘相關(guān)話題，系統(tǒng)將通知其父母。

Meta 還在開發(fā)緊急求助功能，如果對話顯示用戶可能即將自殺，Meta 將聯(lián)系緊急服務機構(gòu)。

Meta 稱，已經(jīng)建立專門的 AI 系統(tǒng)，用于識別青少年明確提到自我傷害的對話。“我們理解，家長收到警報時可能會非常不安。因此，在識別能力繼續(xù)完善期間，AI 標記的每段對話都會先由人工審核，再決定是否發(fā)出警報。如果青少年的真實意圖無法確定，我們會采取更謹慎的做法，通知家長。家長有時可能會收到最終證明沒有必要擔憂的警報，但我們認為，現(xiàn)階段應當從更謹慎的標準開始，并繼續(xù)觀察實際效果，確保尺度合適?！?/p>

IT之家從報道中獲悉，美國、英國、澳大利亞和加拿大使用 Instagram 家長監(jiān)督功能的家長已經(jīng)可以收到警報，今年年底前將會推廣至全球。

此前，Instagram 支持在青少年反復搜索自殺或自殘詞語時通知家長，而此次上線的新功能，進一步擴大了預警范圍。家長還可以查看青少年過去一周與 Meta AI 討論過哪些話題。

Meta 同時把“限制內(nèi)容”設置擴展至 Meta AI。家長啟用后，青少年在 Instagram 和 Meta AI 中都會受到更嚴格的內(nèi)容限制。Meta AI 原本就不會與青少年討論性、戀愛或飲酒話題，新增限制將讓聊天機器人拒絕更多類型的提問。

Meta 還表示，無論使用 Meta AI 的是成年人還是青少年，只要對話顯示有人可能自殺，Meta 就會聯(lián)系緊急服務機構(gòu)。在 Meta AI 采取此類措施前，F(xiàn)acebook 和 Instagram 發(fā)現(xiàn)用戶發(fā)布可能表明存在自殺風險的內(nèi)容時，也可以采取同樣措施。