IT之家 2 月 3 日消息，英國(guó)政府正著手制定四項(xiàng)新法律，旨在打擊利用人工智能（AI）工具生成兒童性虐待材料（CSAM）的行為。根據(jù)英國(guó)內(nèi)政部的聲明，這些法律將明確規(guī)定，創(chuàng)建、持有或分發(fā)用于生成 CSAM 的 AI 工具均屬違法行為。此舉將使英國(guó)成為全球首個(gè)對(duì)此類行為立法的國(guó)家。

根據(jù)新法，違法者最高可面臨五年監(jiān)禁。此外，持有教唆他人使用 AI 性侵兒童的“AI 戀童癖手冊(cè)”也將被定為犯罪，最高可判處三年監(jiān)禁。運(yùn)營(yíng)托管 CSAM 或提供誘騙兒童建議的網(wǎng)站將被視為非法，違法者最高可面臨十年監(jiān)禁。

與此同時(shí)，英國(guó)邊境部隊(duì)將獲得新的執(zhí)法權(quán)限，可在涉嫌兒童性虐待者入境時(shí)檢查其電子設(shè)備中是否存有潛在的 CSAM。根據(jù)內(nèi)容的嚴(yán)重程度，違法者最高可被判處三年監(jiān)禁。

英國(guó)內(nèi)政大臣伊薇特?庫(kù)珀表示：“我們知道，這些病態(tài)掠奪者的在線活動(dòng)往往會(huì)導(dǎo)致他們?cè)诂F(xiàn)實(shí)中實(shí)施最可怕的虐待行為。本屆政府將毫不猶豫地采取行動(dòng)，確保兒童在線安全，使我們的法律能夠應(yīng)對(duì)最新的威脅?！?/p>

AI 生成的 CSAM 包括完全或部分由計(jì)算機(jī)生成的內(nèi)容，例如通過(guò)替換面部將真實(shí)圖像編輯成他人形象，或包含兒童真實(shí)聲音的內(nèi)容。

IT之家注意到，英國(guó)國(guó)家犯罪局（NCA）的數(shù)據(jù)顯示，每月約有 800 人因與在線兒童虐待威脅相關(guān)的罪行被捕。據(jù) BBC 報(bào)道，NCA 估計(jì)英國(guó)約有 84 萬(wàn)名成年人（占總?cè)丝诘?1.6%）對(duì)兒童構(gòu)成威脅（包括線上和線下）。

反兒童虐待組織呼吁政府采取進(jìn)一步行動(dòng)?；ヂ?lián)網(wǎng)觀察基金會(huì)（IWF）呼吁禁止“脫衣”應(yīng)用程序，這些應(yīng)用程序可用于生成成人和兒童的裸體圖像。

IWF 臨時(shí)首席執(zhí)行官德里克?雷-希爾表示：“AI 圖像與真實(shí)虐待照片的難以區(qū)分速度令人震驚，這表明立法必須跟上新技術(shù)的步伐。這些 AI 內(nèi)容的存在進(jìn)一步助長(zhǎng)了針對(duì)兒童的性暴力行為，它不僅鼓勵(lì)了施虐者，還使真實(shí)兒童的安全受到更大威脅。”

盡管創(chuàng)建或持有 AI 生成的 CSAM 已被視為非法，但 IWF 指出，新法將明確禁止優(yōu)化 AI 模型以“生成最嚴(yán)重的兒童性虐待材料”。

IWF 是最早對(duì) AI 和合成 CSAM 發(fā)出警告的慈善組織之一。該組織發(fā)現(xiàn)，在線 AI 生成的 CSAM 數(shù)量有所增加，并指出 2024 年報(bào)告的 245 起此類圖像中，許多“逼真到必須與‘真實(shí)’內(nèi)容同等對(duì)待”。

這些新法律將被納入即將出臺(tái)的《犯罪與警務(wù)法案》，是英國(guó)政府圍繞兒童在線安全整體努力的一部分。英國(guó)數(shù)字監(jiān)管機(jī)構(gòu) Ofcom 近期宣布，成人網(wǎng)站在向用戶提供訪問(wèn)權(quán)限前必須進(jìn)行年齡驗(yàn)證。該機(jī)構(gòu)還要求科技公司在 3 月 16 日前完成對(duì)其平臺(tái)上非法內(nèi)容對(duì)兒童和成人構(gòu)成風(fēng)險(xiǎn)的評(píng)估。