IT之家 7 月 15 日消息，國家互聯(lián)網(wǎng)信息辦公室、國家發(fā)展改革委、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局于 4 月 10 日聯(lián)合公布《人工智能擬人化互動服務(wù)管理暫行辦法》（以下簡稱《辦法》），該辦法自今起施行。
IT之家注：擬人化互動服務(wù)是指企業(yè)利用人工智能技術(shù)，向境內(nèi)公眾提供模擬自然人人格特征、思維模式和溝通風格的持續(xù)性的情感互動服務(wù)，包括通過文字、圖片、音頻、視頻等形式提供的情感照護、陪伴、支持等互動服務(wù)。其中智能客服、知識問答、工作助手、學習教育、科學研究等不涉及持續(xù)性情感互動的服務(wù)，不適用該《辦法》。
近年來，擬人化互動服務(wù)在文化傳播、適幼照護、適老陪伴等領(lǐng)域的創(chuàng)新應(yīng)用不斷涌現(xiàn)，但同時，危害未成年人身心健康、影響網(wǎng)絡(luò)信息安全、威脅公民生命健康以及加劇倫理偏差等問題也日益顯現(xiàn)。
《辦法》提出，國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，鼓勵擬人化互動服務(wù)創(chuàng)新發(fā)展，對擬人化互動服務(wù)實行包容審慎和分類分級監(jiān)管。
在促進措施方面，國家支持算法、框架、芯片等技術(shù)的自主創(chuàng)新，推進技術(shù)研發(fā)和相關(guān)標準建設(shè)，鼓勵服務(wù)提供者有序拓展文化傳播、適幼照護、適老陪伴、特殊人群支持等領(lǐng)域應(yīng)用，同時加強安全知識和法律法規(guī)的宣傳普及。
《辦法》明確規(guī)定了提供擬人化互動服務(wù)不得從事的六類活動，包括：生成危害國家安全、榮譽和利益，煽動顛覆國家政權(quán)、推翻社會主義制度等內(nèi)容；生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康，或語言暴力等損害用戶人格尊嚴與心理健康的內(nèi)容；生成誘導、套取國家秘密、工作秘密、商業(yè)秘密、個人隱私和個人信息的內(nèi)容；向未成年人用戶生成可能引發(fā)未成年人模仿不安全行為、產(chǎn)生極端情緒、誘導未成年人不良嗜好等影響未成年人身心健康的內(nèi)容；過度迎合用戶、誘導情感依賴或者沉迷，損害用戶真實人際關(guān)系；通過情感操縱等方式，誘導用戶作出不合理決策，損害用戶合法權(quán)益。
在安全管理方面，《辦法》要求擬人化互動服務(wù)提供者明確安全主體責任，加強服務(wù)全生命周期安全管理，保障數(shù)據(jù)安全，保護用戶權(quán)益。明確不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系服務(wù)；向不滿十四周歲未成年人提供其他擬人化互動服務(wù)的，應(yīng)當取得其父母或者其他監(jiān)護人的同意?！掇k法》還規(guī)定了安全評估和算法備案相關(guān)制度。安全評估主要針對上線擬人化互動服務(wù)或增設(shè)相關(guān)功能、使用新技術(shù)新應(yīng)用導致服務(wù)發(fā)生重大變化、注冊用戶 100 萬以上或月活躍用戶 10 萬以上、存在可能影響國家安全或公共利益等安全風險等情形。評估內(nèi)容包括服務(wù)安全保障措施建設(shè)情況、訓練數(shù)據(jù)處理情況、用戶極端情境的識別與應(yīng)急處置情況、用戶規(guī)模與年齡結(jié)構(gòu)等。此外，服務(wù)提供者還須按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案手續(xù)?！掇k法》同時明確推動人工智能沙箱安全服務(wù)平臺建設(shè)，鼓勵服務(wù)提供者接入沙箱平臺進行技術(shù)創(chuàng)新和安全測試。
國家網(wǎng)信辦有關(guān)負責人表示，擬人化互動服務(wù)的發(fā)展與治理需要政府、企業(yè)、社會、網(wǎng)民等多方參與，共同維護良好網(wǎng)絡(luò)生態(tài)，促進人工智能向上向善。
相關(guān)閱讀：
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家包含外鏈的文章均包含本聲明。