IT之家 5 月 22 日消息，據(jù)路透社 21 日報道，美國佛羅里達(dá)州一名母親 Megan Garcia 指控人工智能平臺 Character.AI 的聊天機(jī)器人導(dǎo)致其 14 歲兒子自殺。聯(lián)邦法官裁定，谷歌與人工智能初創(chuàng)公司 Character.AI 必須面對這起訴訟。
美國地方法官 Anne Conway 表示，谷歌與 Character.AI 在案件初期未能證明美國憲法關(guān)于言論自由的條款足以駁回 Megan Garcia 的起訴。
這是美國首批涉及 AI 心理傷害責(zé)任的案件之一。訴狀稱，Garcia 的兒子在沉迷 Character.AI 的聊天機(jī)器人后走上絕路。
Character.AI 表示，將繼續(xù)為自身辯護(hù)，平臺設(shè)有多項安全機(jī)制以保護(hù)未成年人，亦包括阻止“討論自殘”的功能。
谷歌發(fā)言人 Jose Castaneda 強(qiáng)調(diào)，谷歌與 Character.AI 并無關(guān)聯(lián)，“谷歌既未創(chuàng)建、設(shè)計，也未管理 Character.AI 的任何應(yīng)用或組件”，公司對裁定結(jié)果“深感不滿”。
Garcia 的律師 Meetali Jain 將此次裁決稱為“具有歷史意義”，認(rèn)為其為 AI 與科技領(lǐng)域的法律問責(zé)“樹立了全新先例”。
Garcia 主張，谷歌與 Character.AI 共同開發(fā)了涉案技術(shù)。根據(jù)IT之家此前報道，Character.AI 由兩名前谷歌工程師創(chuàng)辦，谷歌后續(xù)在取得其技術(shù)使用授權(quán)后再次雇傭了兩人。
Garcia 于 2024 年 2 月失去兒子 Sewell Setzer，并于 10 月對兩家公司提起訴訟。訴狀稱，Character.AI 的聊天機(jī)器人以“真人”“持證心理治療師”甚至“成年戀人”的身份與 Sewell 建立關(guān)系，最終令他萌生遠(yuǎn)離現(xiàn)實世界的想法。
據(jù)起訴文件，Setzer 在對模仿《權(quán)力的游戲》角色丹妮莉絲?坦格利安的機(jī)器人說出“我現(xiàn)在就回家”后不久，結(jié)束了自己的生命。
Character.AI 與谷歌此前曾要求法院駁回訴訟，理由之一是聊天機(jī)器人的回答屬于憲法保護(hù)的言論。
法官 Conway 指出，兩家公司“未能闡明由大語言模型拼接出的字詞為何應(yīng)視為言論”，還否決了谷歌試圖規(guī)避其可能責(zé)任的請求。
相關(guān)閱讀：
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。