IT之家 2 月 12 日消息，“網(wǎng)信中國(guó)”公眾號(hào)今天傍晚通報(bào)，近期，部分網(wǎng)絡(luò)賬號(hào)發(fā)布 AI 生成合成信息時(shí)，不添加 AI 標(biāo)識(shí)，存在利用虛假不實(shí)內(nèi)容欺騙誤導(dǎo)公眾的問(wèn)題，破壞網(wǎng)絡(luò)生態(tài)，造成惡劣影響。網(wǎng)信部門(mén)督促網(wǎng)站平臺(tái)深入排查整治，依法依約處置賬號(hào) 13421 個(gè)，清理違法違規(guī)信息 54.3 萬(wàn)余條。
IT之家附上部分典型案例通報(bào)如下：
一、微博賬號(hào)“澄馫”、快手賬號(hào)“玲子愛(ài)狗狗”、嗶哩嗶哩賬號(hào)“空空說(shuō)電影”等，發(fā)布狗在高鐵站救下嬰兒、狗拆炸彈救人、鱷魚(yú)傷人等視頻時(shí)，未添加 AI 生成標(biāo)識(shí)，借虛構(gòu)感人故事、獵奇事件惡意博取流量。相關(guān)賬號(hào)已被依法依約處置。
二、微信賬號(hào)“浮萍 9419”、微博賬號(hào)“乘風(fēng)已歸來(lái)”、快手賬號(hào)“東東情感”等，以 AI 換臉、聲音克隆等方式，假冒運(yùn)動(dòng)員、演員、主持人、企業(yè)家等公眾人物，發(fā)布不實(shí)言論，借此吸粉引流，或未經(jīng)授權(quán)，售賣(mài) AI 生成的公眾人物“送祝?！薄鞍菽辍钡纫曨l，從中不當(dāng)牟利。相關(guān)賬號(hào)已被依法依約處置。
三、抖音賬號(hào)“巷子里的魚(yú)”“禾粟”、快手賬號(hào)“朵姐正能量”“小豬豬”等，發(fā)布 AI 生成的虛假火災(zāi)現(xiàn)場(chǎng)圖片、視頻，惡意編造、炒作火災(zāi)事故，混淆視聽(tīng)，擾亂公共秩序。相關(guān)賬號(hào)已被依法依約處置。
四、嗶哩嗶哩賬號(hào)“真難我知道”、抖音賬號(hào)“小奧特曼大智慧”、百度賬號(hào)“清崽影視”等，借 AI 魔改未成年人喜愛(ài)的動(dòng)畫(huà)角色，制作刀切小馬寶莉頭部、奧特曼懷孕等視頻，傳播低俗驚悚、血腥暴力內(nèi)容，宣揚(yáng)不良價(jià)值觀，侵?jǐn)_未成年人身心健康。相關(guān)賬號(hào)已被依法依約處置。
五、小紅書(shū)賬號(hào)“浪淘達(dá)人”“南坤的店”等，發(fā)布“豆包圖片去水印神器”等內(nèi)容，分享去除 AI 標(biāo)識(shí)教程、軟件，淘寶、閑魚(yú)、拼多多店鋪“浙江智意 AI”“鼎建祥旗艦店”等，售賣(mài)去 AI 標(biāo)識(shí)教程、軟件及服務(wù)。相關(guān)賬號(hào)已被依法依約處置，違規(guī)商品已下架。
下一步，網(wǎng)信部門(mén)將對(duì)無(wú) AI 標(biāo)識(shí)的虛假不實(shí)信息保持高壓嚴(yán)管態(tài)勢(shì)，發(fā)現(xiàn)即處置，嚴(yán)厲打擊違規(guī)行為。同時(shí)，也呼吁廣大網(wǎng)絡(luò)內(nèi)容創(chuàng)作者按照相關(guān)規(guī)定主動(dòng)添加 AI 標(biāo)識(shí)，避免誤導(dǎo)公眾，共同營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò)環(huán)境。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。