IT之家 4 月 16 日消息，科技透明度項(xiàng)目（TTP）昨日（4 月 15 日）發(fā)布博文，報(bào)告稱蘋果 App Store 和谷歌 Play Store 雖然明令禁止“脫衣”應(yīng)用，但是其應(yīng)用商店搜索及廣告系統(tǒng)主動(dòng)向用戶推薦相關(guān)應(yīng)用。
最新調(diào)查報(bào)告指出，兩大應(yīng)用商店不僅未能攔截這類應(yīng)用，反而通過(guò)搜索建議和付費(fèi)廣告機(jī)制，變相協(xié)助用戶找到這些能夠生成女性虛假裸照的工具。
TTP 調(diào)查人員使用“nudify”、“undress”、“deepnude”等關(guān)鍵詞測(cè)試搜索，結(jié)果顯示，蘋果應(yīng)用商店約 39.1% 的搜索結(jié)果、谷歌 Play 商店約 40.8% 的搜索結(jié)果能夠生成女性裸體圖像或視頻。更令人擔(dān)憂的是，部分應(yīng)用被標(biāo)記為“適合未成年人”，這意味著青少年也能輕易下載使用。
報(bào)告挖掘發(fā)現(xiàn)付費(fèi)廣告機(jī)制進(jìn)一步放大了問題的嚴(yán)重性。TTP 在 App Store 測(cè)試搜索“deepfake”（深度偽造）后，首位結(jié)果是 FaceSwap Video by DuoFace 的廣告。
測(cè)試人員上傳一張穿白毛衣的女性照片和一段裸體女性視頻，該應(yīng)用在播放短片廣告后，成功生成將穿衣女性面部移植到裸體身體上的視頻。
另一款通過(guò)“face swap”搜索廣告置頂?shù)膽?yīng)用 AI Face Swap，同樣在無(wú)任何限制的情況下完成了類似操作。
搜索建議功能也存在明顯漏洞。當(dāng)用戶輸入“AI NS”后，App Store 會(huì)自動(dòng)補(bǔ)全建議“image to video ai nsfw”（AI NSFW 圖片轉(zhuǎn)視頻），該搜索結(jié)果前十名中包含多款脫衣應(yīng)用。這種主動(dòng)引導(dǎo)敏感搜索的行為，客觀上降低了用戶獲取此類工具的門檻。
數(shù)據(jù)背后是巨大的商業(yè)利益與監(jiān)管漏洞。調(diào)查識(shí)別出的相關(guān)應(yīng)用累計(jì)下載量已達(dá) 4.83 億次，創(chuàng)造營(yíng)收超過(guò) 1.22 億美元。
更令人擔(dān)憂的是，有 31 款此類應(yīng)用被評(píng)級(jí)為適合未成年人使用，這在學(xué)校性深度偽造丑聞?lì)l發(fā)的背景下顯得尤為刺眼。
面對(duì)指控，蘋果拒絕置評(píng)，谷歌僅表示已下架部分應(yīng)用并正在進(jìn)行調(diào)查。此前在媒體介入后，蘋果下架了 15 款應(yīng)用，谷歌下架了 7 款。
IT之家附上參考地址
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。