IT之家 1 月 17 日消息，今天凌晨，據(jù)《商業(yè)內(nèi)幕》報(bào)道，美國(guó)加州總檢察長(zhǎng)羅布 · 邦塔正式向 xAI 發(fā)出要求：阻止聊天機(jī)器人 Grok 生成涉及兒童的不良深度偽造圖像。

在 Grok 被持續(xù)指控可生成未經(jīng)同意的色情相關(guān)不良內(nèi)容之后，邦塔辦公室向 xAI 發(fā)出一份“終止”函，要求后者立即整改。

邦塔在信中明確要求，xAI 必須防止 Grok 生成任何未經(jīng)當(dāng)事人請(qǐng)求的不良圖像，或涉及未成年人的相關(guān)內(nèi)容。信函指出，如繼續(xù)允許此類內(nèi)容生成或傳播，將構(gòu)成違反加州多項(xiàng)法律，包括深度偽造色情內(nèi)容、兒童性虐待影像、非法錄制以及不正當(dāng)商業(yè)行為相關(guān)法規(guī)。

xAI 被要求在 1 月 20 日下午 5 點(diǎn)前完成整改。

此前，X 平臺(tái)曾于本周表示，已對(duì) Grok 功能進(jìn)行限制。X 的安全團(tuán)隊(duì)稱，平臺(tái)已通過(guò)技術(shù)手段禁止 Grok 對(duì)穿著比基尼等暴露服裝的真實(shí)人物圖像進(jìn)行編輯，該措施對(duì)所有用戶都適用。

但報(bào)道指出，X 應(yīng)用和 Grok 應(yīng)用仍可生成不良圖像。Grok 因可在用戶請(qǐng)求下“脫衣”處理真實(shí)人物圖像、并生成未經(jīng)同意的不良深度偽造內(nèi)容，正遭遇多國(guó)政府的反彈與法律追責(zé)。

在發(fā)出停止函前，邦塔已公開宣布調(diào)查 xAI 在網(wǎng)上生成并發(fā)布未經(jīng)同意的露骨性內(nèi)容。

另一起案件中，網(wǎng)紅及政治策略顧問(wèn)阿什莉 · 圣克萊爾已對(duì) xAI 提起訴訟，指控 Grok 使用她未成年時(shí)期的照片，在未經(jīng)同意的情況下生成性露骨深度偽造圖像。

英國(guó)首相基爾 · 斯塔默曾在下議院發(fā)言稱，Grok 生成的相關(guān)圖像“令人作嘔、令人羞恥”。印度尼西亞、馬來(lái)西亞和菲律賓也已宣布封鎖 Grok ，據(jù)IT之家了解，目前尚無(wú)解禁跡象。

截至發(fā)稿，加州總檢察長(zhǎng)辦公室未回應(yīng)媒體置評(píng)請(qǐng)求。xAI 則通過(guò)自動(dòng)回復(fù)稱：“傳統(tǒng)媒體在撒謊。”

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。