國家網(wǎng)信辦:利用合成數(shù)據(jù)進(jìn)行模型訓(xùn)練和關(guān)鍵能力優(yōu)化時(shí),應(yīng)當(dāng)評(píng)估合成數(shù)據(jù)安全性
鈦媒體App 12月27日消息,國家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法(征求意見稿)》。其中提出,提供者開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等數(shù)據(jù)處理活動(dòng)時(shí),應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理,遵守以下規(guī)定:使用符合社會(huì)主義核心價(jià)值觀、體現(xiàn)中華優(yōu)秀傳統(tǒng)文化的數(shù)據(jù)集;對訓(xùn)練數(shù)據(jù)開展清洗、標(biāo)注,增強(qiáng)訓(xùn)練數(shù)據(jù)的透明度、可靠性,防范數(shù)據(jù)投毒、數(shù)據(jù)篡改等行為;提高訓(xùn)練數(shù)據(jù)的多樣性,通過負(fù)向采樣、對抗訓(xùn)練等手段,提升模型生成內(nèi)容安全性;利用合成數(shù)據(jù)進(jìn)行模型訓(xùn)練和關(guān)鍵能力優(yōu)化時(shí),應(yīng)當(dāng)評(píng)估合成數(shù)據(jù)安全性;加強(qiáng)對訓(xùn)練數(shù)據(jù)的日常檢查,定期對數(shù)據(jù)進(jìn)行迭代升級(jí),持續(xù)優(yōu)化產(chǎn)品和服務(wù)的性能;保障訓(xùn)練數(shù)據(jù)來源合法、可追溯,采取必要措施保障數(shù)據(jù)安全,防范數(shù)據(jù)泄露風(fēng)險(xiǎn)。(網(wǎng)信中國)
本文內(nèi)容僅供參考,不構(gòu)成投資建議,請謹(jǐn)慎對待。
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求,請綁定手機(jī)號(hào)后發(fā)表評(píng)論