IT之家 7 月 16 日消息，據(jù)路透社報(bào)道，埃隆 · 馬斯克旗下 AI 初創(chuàng)公司 xAI 對(duì)南卡羅來(lái)納州男子特里 · 哈伍德提出訴訟。

哈伍德今年 2 月因涉嫌性剝削未成年人被捕，xAI 指控他濫用 Grok 生成兒童性虐待材料。當(dāng)?shù)貢r(shí)間周二，xAI 向得克薩斯州一家聯(lián)邦法院提交訴狀，指控哈伍德違反服務(wù)條款。

AI 公司主動(dòng)起訴用戶涉嫌利用 AI 生成色情內(nèi)容的案例，此前極為少見(jiàn)。

訴訟提交之際，xAI 正因 Grok 的內(nèi)容安全問(wèn)題受到全球?qū)徱?。外界指?Grok 允許用戶制作未經(jīng)當(dāng)事人同意的色情深度偽造內(nèi)容，包括由 AI 生成、外觀逼真的虛假視頻。

xAI 在訴狀中提到，公司會(huì)暫?；蚪K止違規(guī)賬戶，并向美國(guó)國(guó)家失蹤與受虐兒童中心報(bào)告疑似兒童性虐待材料，以執(zhí)行平臺(tái)規(guī)定?！笆聦?shí)上，原告已在 2026 年暫停 52222 個(gè)賬戶，并向美國(guó)國(guó)家失蹤與受虐兒童中心提交 73604 份報(bào)告，促成至少 244 人被捕?！?/p>

據(jù)IT之家了解，xAI 指控哈伍德把成年人和未成年人的普通照片上傳至 Grok，隨后試圖生成以照片人物為對(duì)象的色情深度偽造內(nèi)容。哈伍德還被指制作未經(jīng)成年人本人同意的色情圖像。

xAI 要求法院判令哈伍德支付金額尚未確定的賠償金，并永久禁止他使用 Grok?！氨桓娼?jīng)過(guò)蓄意策劃，把原告的工具變成犯罪武器，不僅給真實(shí)受害者造成深重而持久的傷害，也使原告面臨重大法律風(fēng)險(xiǎn)和聲譽(yù)損失?！?/p>