IT之家 10 月 14 日消息，美國加利福尼亞州州長加文?紐森（Gavin Newsom）周一簽署了一項(xiàng)具有里程碑意義的法案，對人工智能（AI）陪伴型聊天機(jī)器人進(jìn)行監(jiān)管，使加州成為全美首個要求 AI 聊天機(jī)器人運(yùn)營商實(shí)施安全防護(hù)措施的州。
這項(xiàng)名為《參議院第 243 號法案》（SB 243）的法律旨在保護(hù)兒童和弱勢用戶免受 AI 陪伴聊天機(jī)器人使用過程中可能帶來的傷害。根據(jù)該法案，從 Meta、OpenAI 等大型科技實(shí)驗(yàn)室，到 Character AI、Replika 等專注于陪伴功能的初創(chuàng)企業(yè)，若其聊天機(jī)器人未能達(dá)到法律規(guī)定的標(biāo)準(zhǔn)，將承擔(dān)法律責(zé)任。
SB 243 由加州參議員史蒂夫?帕迪拉（Steve Padilla）和喬什?貝克爾（Josh Becker）于今年 1 月提出，在青少年亞當(dāng)?雷恩（Adam Raine）因長期與 OpenAI 的 ChatGPT 進(jìn)行自殺傾向?qū)υ捄筮x擇結(jié)束生命事件曝光后，該法案獲得廣泛支持。此外，此前泄露的內(nèi)部文件顯示，Meta 的聊天機(jī)器人被允許與未成年人展開“浪漫”甚至“情欲”性質(zhì)的對話，也引發(fā)了公眾關(guān)注。最近，科羅拉多州一個家庭已對角色扮演類初創(chuàng)公司 Character AI 提起訴訟，稱其 13 歲的女兒在與該公司聊天機(jī)器人進(jìn)行一系列問題性且?guī)в行园凳镜膶υ捄笞詺⑸硗觥?/p>
紐森在聲明中表示：“像聊天機(jī)器人和社交媒體這樣的新興技術(shù)可以啟發(fā)、教育并連接人們 —— 但如果沒有切實(shí)的監(jiān)管機(jī)制，這些技術(shù)也可能被用來剝削、誤導(dǎo)甚至危及我們的孩子。我們已經(jīng)目睹了一些令人震驚且悲劇性的案例，看到年輕人受到缺乏監(jiān)管的技術(shù)傷害，而我們不會袖手旁觀，任由企業(yè)在沒有必要限制和責(zé)任約束的情況下繼續(xù)運(yùn)營。我們可以在人工智能和技術(shù)領(lǐng)域繼續(xù)保持領(lǐng)先地位，但我們必須負(fù)責(zé)任地前進(jìn) —— 在每一步都保護(hù)好我們的孩子。兒童的安全不容交易?！?/p>
SB 243 將于 2026 年 1 月 1 日正式生效，要求相關(guān)企業(yè)實(shí)施包括年齡驗(yàn)證機(jī)制和關(guān)于社交媒體及陪伴型聊天機(jī)器人的風(fēng)險警示在內(nèi)的多項(xiàng)安全功能。該法案還加大對非法深度偽造（deepfake）內(nèi)容牟利行為的處罰力度，最高可處以每次違規(guī) 25 萬美元（IT之家注：現(xiàn)匯率約合 178.4 萬元人民幣）罰款。同時，企業(yè)必須建立應(yīng)對自殺和自殘風(fēng)險的應(yīng)急協(xié)議，并向加州公共衛(wèi)生部提交相關(guān)數(shù)據(jù)，包括服務(wù)系統(tǒng)向用戶推送危機(jī)干預(yù)中心通知的統(tǒng)計情況。
根據(jù)法案條款，平臺必須明確告知用戶所有互動內(nèi)容均為人工智能生成；聊天機(jī)器人不得冒充醫(yī)療健康專業(yè)人士。企業(yè)還需為未成年人設(shè)置休息提醒機(jī)制，并防止其查看由聊天機(jī)器人生成的色情圖像。
目前，部分公司已開始主動采取針對未成年人的安全保護(hù)措施。例如，OpenAI 近期已為其 ChatGPT 產(chǎn)品推出家長控制功能、內(nèi)容過濾機(jī)制以及針對未成年人的自殘行為識別系統(tǒng)。
Character AI 表示，其聊天機(jī)器人已內(nèi)置免責(zé)聲明，明確指出所有對話均為 AI 生成且屬虛構(gòu)內(nèi)容。該公司發(fā)言人向 TechCrunch 表示：“我們歡迎與監(jiān)管機(jī)構(gòu)和立法者合作，共同制定這一新興領(lǐng)域的規(guī)范框架，并將遵守包括 SB 243 在內(nèi)的各項(xiàng)法律法規(guī)?！?/p>
參議員帕迪拉向 TechCrunch 表示，這項(xiàng)法案是為“一項(xiàng)極其強(qiáng)大的技術(shù)”設(shè)立監(jiān)管護(hù)欄的“正確方向上的一步”。他強(qiáng)調(diào)：“我們必須迅速行動，抓住機(jī)遇窗口，否則它就會消失。我希望其他州能看到其中的風(fēng)險 —— 我相信許多州已經(jīng)意識到了。我認(rèn)為這場討論正在全美范圍內(nèi)展開，我希望各地能采取實(shí)際行動。顯然，聯(lián)邦政府尚未作為，而我們認(rèn)為自己有責(zé)任保護(hù)社會中最脆弱的人群?！?/p>
SB 243 是加州在過去幾周內(nèi)通過的第二項(xiàng)重要 AI 監(jiān)管立法。9 月 29 日，紐森州長簽署了 SB 53 法案，對大型 AI 企業(yè)提出新的透明度要求。該法案強(qiáng)制 OpenAI、Anthropic、Meta 和 Google DeepMind 等大型 AI 實(shí)驗(yàn)室公開其安全測試流程，并為這些企業(yè)的舉報人提供法律保護(hù)。
與此同時，伊利諾伊州、內(nèi)華達(dá)州和猶他州等其他州也已通過立法，限制或全面禁止將 AI 聊天機(jī)器人用作有執(zhí)照的心理健康服務(wù)的替代品。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。