IT之家 3 月 2 日消息，北京時間今天凌晨，據(jù)路透社報道，澳大利亞互聯(lián)網(wǎng)監(jiān)管機構(gòu)警告稱，如果 AI 服務未能在截止期限前落實年齡驗證措施，監(jiān)管部門可能要求搜索引擎和應用商店屏蔽相關(guān)服務。
此前的路透社調(diào)查發(fā)現(xiàn)，超過一半受審查的 AI 平臺尚未公開說明其合規(guī)安排。
這一表態(tài)標志著澳大利亞在全球范圍內(nèi)針對 AI 企業(yè)采取的最強硬監(jiān)管行動之一。多家 AI 公司目前正因未能阻止，甚至被指助長自殘或暴力行為而面臨訴訟。研究人員同時指出，這類聊天平臺對青少年心理健康的潛在影響可能比社交媒體更為嚴重。
澳大利亞去年 12 月以心理健康為由，成為首個禁止青少年使用社交媒體的國家。政府表示，將在 AI 領(lǐng)域推進類似監(jiān)管，通過內(nèi)容分級和年齡限制規(guī)范訪問權(quán)限。
根據(jù)新規(guī)，自 3 月 9 日起，各類搜索工具及陪伴型聊天機器人必須阻止 18 歲以下用戶接觸色情、極端暴力、自殘及飲食失調(diào)內(nèi)容，否則可能面臨最高 4950 萬澳元（IT之家注：現(xiàn)匯率約合 2.41 億元人民幣）罰款。
該國監(jiān)管機構(gòu) eSafety 發(fā)言人表示，若發(fā)現(xiàn)不合規(guī)行為，將動用全部執(zhí)法權(quán)力，包括針對搜索引擎和應用商店等“入口平臺”采取行動。
澳大利亞尚未出現(xiàn)與聊天機器人直接相關(guān)的暴力或自殘事件，但監(jiān)管機構(gòu)表示，有報告稱年齡僅 10 歲的兒童每天使用 AI 互動工具長達 6 小時。監(jiān)管方擔憂，一些 AI 企業(yè)通過情感操控、擬人化設(shè)計等方式增強用戶黏性，使青少年沉迷于聊天機器人。
最受歡迎的 50 款文本類 AI 產(chǎn)品中，僅 9 款已部署或計劃推出年齡驗證機制。另有 11 款通過全面內(nèi)容過濾或計劃暫停澳大利亞服務以規(guī)避違規(guī)風險。仍有 30 款未顯示采取任何明確措施。
調(diào)查發(fā)現(xiàn)，四分之三陪伴類聊天機器人尚未建立有效的過濾或年齡驗證系統(tǒng)，約六分之一甚至未公布違規(guī)舉報郵箱。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。