國家網(wǎng)信辦:擬人化互動服務(wù)提供者發(fā)現(xiàn)用戶存在極端情緒和沉迷的,應(yīng)采取必要措施予以干預(yù)
鈦媒體App 12月27日消息,國家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能擬人化互動服務(wù)管理暫行辦法(征求意見稿)》。其中提出,提供者應(yīng)當(dāng)具備用戶狀態(tài)識別能力,在保護用戶個人隱私前提下,評估用戶情緒及對產(chǎn)品和服務(wù)的依賴程度,發(fā)現(xiàn)用戶存在極端情緒和沉迷的,采取必要措施予以干預(yù)。提供者應(yīng)當(dāng)預(yù)設(shè)回復(fù)模板,發(fā)現(xiàn)涉及威脅用戶生命健康和財產(chǎn)安全的高風(fēng)險傾向的,及時輸出安撫和鼓勵尋求幫助等內(nèi)容,并提供專業(yè)援助方式。提供者應(yīng)當(dāng)建立應(yīng)急響應(yīng)機制,發(fā)現(xiàn)用戶明確提出實施自殺、自殘等極端情境時,由人工接管對話,并及時采取措施聯(lián)絡(luò)用戶監(jiān)護人、緊急聯(lián)系人。針對未成年人、老年人用戶,提供者應(yīng)當(dāng)在注冊環(huán)節(jié)要求填寫用戶監(jiān)護人、緊急聯(lián)系人等信息。(網(wǎng)信中國)
本文內(nèi)容僅供參考,不構(gòu)成投資建議,請謹(jǐn)慎對待。
根據(jù)《網(wǎng)絡(luò)安全法》實名制要求,請綁定手機號后發(fā)表評論