IT之家 6 月 20 日消息，據(jù)“網(wǎng)信中國”公眾號消息，“清朗?整治 AI 技術(shù)濫用”專項行動自 2025 年 4 月啟動以來，中央網(wǎng)信辦聚焦 AI 換臉擬聲侵犯公眾權(quán)益、AI 內(nèi)容標(biāo)識缺失誤導(dǎo)公眾等 AI 技術(shù)濫用亂象，深入推進(jìn)第一階段重點整治任務(wù)，部署各地網(wǎng)信部門加大違規(guī) AI 產(chǎn)品處置力度，切斷違規(guī)產(chǎn)品營銷引流渠道，督促重點網(wǎng)站平臺健全技術(shù)安全保障措施，推動生成合成內(nèi)容標(biāo)識加速落地。第一階段累計處置違規(guī)小程序、應(yīng)用程序、智能體等 AI 產(chǎn)品 3500 余款，清理違法違規(guī)信息 96 萬余條，處置賬號 3700 余個，各項工作取得積極進(jìn)展。
各地網(wǎng)信部門多措并舉，扎實推進(jìn)，積極履行屬地管理責(zé)任：
北京網(wǎng)信辦開設(shè) AI 技術(shù)濫用治理舉報渠道，形成“用戶標(biāo)記 — 平臺核查 — 聯(lián)合處置”工作模式，處置有關(guān)舉報 26 篇。
上海網(wǎng)信辦推動標(biāo)識要求落地示范，組織開展 4 場法規(guī)宣貫和專題交流，覆蓋企業(yè) 400 余家，屬地內(nèi)重點企業(yè)已基本完成顯式標(biāo)識規(guī)范上線。
浙江網(wǎng)信辦加大對屬地 AI 應(yīng)用和網(wǎng)站平臺的督導(dǎo)力度，各平臺共攔截清理各類違法違規(guī)信息及提問 2550 萬余條。
江蘇網(wǎng)信辦加強統(tǒng)籌協(xié)調(diào)，聯(lián)合省通信管理局等部門排查 AI 風(fēng)險域名 163 個，封堵和取消接入域名 18 個。
天津網(wǎng)信辦采用“人工 + 技術(shù)”方式，開展大模型安全監(jiān)測，通報 4 批次 14 個風(fēng)險問題。
重點網(wǎng)站平臺積極履行主體管理責(zé)任，加強 AI 技術(shù)濫用源頭治理：
在處置違規(guī) AI 產(chǎn)品方面，騰訊規(guī)范應(yīng)用程序管理，提高準(zhǔn)入門檻，優(yōu)化巡查機制，駁回、處置違規(guī)小程序、應(yīng)用程序等共計 570 余款。
在清理違規(guī) AI 產(chǎn)品教程和商品方面，微博通過策略識別、用戶舉報等多渠道審核，累計處置違規(guī)內(nèi)容 4800 余條，并公布典型案例。
在加強訓(xùn)練語料管理方面，通義平臺圍繞數(shù)據(jù)生命周期建立安全管理體系，在數(shù)據(jù)采集、訓(xùn)練、使用等階段加強訓(xùn)練語料管理。
在強化安全管理措施方面，抖音建立“紅藍(lán)對抗”機制，模擬攻擊案例，修復(fù)潛在安全漏洞，優(yōu)化模型對虛假信息的識別能力。
在落實內(nèi)容標(biāo)識要求方面，阿里、快手、稀宇等重點平臺積極推進(jìn)元數(shù)據(jù)隱式標(biāo)識落地落實。
在防范重點領(lǐng)域安全風(fēng)險方面，小紅書在模型后置訓(xùn)練階段輸入專業(yè)領(lǐng)域數(shù)據(jù)，提升模型對醫(yī)療、金融、未成年人等重點領(lǐng)域問題的理解能力。
下一步，中央網(wǎng)信辦將聚焦 AI 造謠、低俗內(nèi)容等 7 類突出問題，開展“清朗?整治 AI 技術(shù)濫用”專項行動第二階段工作，構(gòu)建技術(shù)監(jiān)測體系，形成處置處罰規(guī)范，推動內(nèi)容標(biāo)識如期落地，形成長效工作機制，著力維護(hù)清朗網(wǎng)絡(luò)生態(tài)，推動人工智能向善向好。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。