-
中央網(wǎng)信辦部署開展“清朗·整治AI技術(shù)濫用”專項行動
為規(guī)范AI服務(wù)和應(yīng)用,促進行業(yè)健康有序發(fā)展,保障公民合法權(quán)益,近日,中央網(wǎng)信辦印發(fā)通知,在全國范圍內(nèi)部署開展為期3個月的“清朗·整治AI技術(shù)濫用”專項行動。
中央網(wǎng)信辦有關(guān)負責人表示,本次專項行動分兩個階段開展。
· 第一階段強化AI技術(shù)源頭治理,清理整治違規(guī)AI應(yīng)用程序,加強AI生成合成技術(shù)和內(nèi)容標識管理,推動網(wǎng)站平臺提升檢測鑒偽能力。
· 第二階段聚焦利用AI技術(shù)制作發(fā)布謠言、不實信息、色情低俗內(nèi)容,假冒他人、從事網(wǎng)絡(luò)水軍活動等突出問題,集中清理相關(guān)違法不良信息,處置處罰違規(guī)賬號、MCN機構(gòu)和網(wǎng)站平臺。
第一階段重點整治6類突出問題:
· 一是違規(guī)AI產(chǎn)品。利用生成式人工智能技術(shù)向公眾提供內(nèi)容服務(wù),但未履行大模型備案或登記程序。提供“一鍵脫衣”等違背法律、倫理的功能。在未經(jīng)授權(quán)同意情況下,克隆、編輯他人聲音、人臉等生物特征信息,侵犯他人隱私。
· 二是傳授、售賣違規(guī)AI產(chǎn)品教程和商品。傳授利用違規(guī)AI產(chǎn)品偽造換臉視頻、換聲音頻等教程信息。售賣違規(guī)“語音合成器”“換臉工具”等商品信息。營銷、炒作、推廣違規(guī)AI產(chǎn)品信息。
· 三是訓(xùn)練語料管理不嚴。使用侵犯他人知識產(chǎn)權(quán)、隱私權(quán)等權(quán)益的信息。使用網(wǎng)上爬取的虛假、無效、不實內(nèi)容。使用非法來源數(shù)據(jù)。未建立訓(xùn)練語料管理機制,未定期排查清理違規(guī)語料。
· 四是安全管理措施薄弱。未建立與業(yè)務(wù)規(guī)模相適應(yīng)的內(nèi)容審核、意圖識別等安全措施。未建立有效的違規(guī)賬號管理機制。未定期開展安全自評估。社交平臺對通過API接口接入的AI自動回復(fù)等服務(wù)底數(shù)不清、把關(guān)不嚴。
· 五是未落實內(nèi)容標識要求。服務(wù)提供者未對深度合成內(nèi)容添加隱式、顯式內(nèi)容標識,未向使用者提供或提示顯式內(nèi)容標識功能。內(nèi)容傳播平臺未開展生成合成內(nèi)容監(jiān)測甄別,導(dǎo)致虛假信息誤導(dǎo)公眾。
· 六是重點領(lǐng)域安全風(fēng)險。已備案AI產(chǎn)品提供醫(yī)療、金融、未成年人等重點領(lǐng)域問答服務(wù)的,未針對性設(shè)置行業(yè)領(lǐng)域安全審核和控制措施,出現(xiàn)“AI開處方”“誘導(dǎo)投資”“AI幻覺”等問題,誤導(dǎo)學(xué)生、患者,擾亂金融市場秩序。
第二階段重點整治7類突出問題:
· 一是利用AI制作發(fā)布謠言。無中生有、憑空捏造涉時事政治、公共政策、社會民生、國際關(guān)系、突發(fā)事件等各類謠言信息,或擅自妄測、惡意解讀重大方針政策。借突發(fā)案事件、災(zāi)難事故等,編造、捏造原因、進展、細節(jié)等。冒充官方新聞發(fā)布會或新聞報道,發(fā)布謠言信息。利用AI認知偏差生成的內(nèi)容進行惡意引導(dǎo)。
· 二是利用AI制作發(fā)布不實信息。將無關(guān)圖文、視頻拼湊剪輯,生成虛實混雜、半真半假的信息。模糊修改事件發(fā)生的時間、地點、人物等要素,翻炒舊聞。制作發(fā)布涉財經(jīng)、教育、司法、醫(yī)療衛(wèi)生等專業(yè)領(lǐng)域的夸大、偽科學(xué)等不實內(nèi)容。借助AI算命、AI占卜等誤導(dǎo)欺騙網(wǎng)民,傳播迷信思想。
· 三是利用AI制作發(fā)布色情低俗內(nèi)容。利用AI脫衣、AI繪圖等功能生成合成色情內(nèi)容或他人不雅圖片、視頻,衣著暴露、搔首弄姿等軟色情、二次元擦邊形象,或扮丑風(fēng)等導(dǎo)向不良內(nèi)容。制作發(fā)布血腥暴力場景,人體扭曲變形、超現(xiàn)實怪物等恐怖詭譎畫面。生成合成“小黃文”“葷段子”等性暗示意味明顯的小說、帖文、筆記。
· 四是利用AI假冒他人實施侵權(quán)違法行為。通過AI換臉、聲音克隆等深度偽造技術(shù),假冒專家、企業(yè)家、明星等公眾人物,欺騙網(wǎng)民,甚至營銷牟利。借AI對公眾人物或歷史人物進行惡搞、抹黑、歪曲、異化。利用AI冒充親友,從事網(wǎng)絡(luò)詐騙等違法活動。不當使用AI“復(fù)活逝者”,濫用逝者信息。
· 五是利用AI從事網(wǎng)絡(luò)水軍活動。利用AI技術(shù)“養(yǎng)號”,模擬真人批量注冊、運營社交賬號。利用AI內(nèi)容農(nóng)場或AI洗稿,批量生成發(fā)布低質(zhì)同質(zhì)化文案,博取流量。使用AI群控軟件、社交機器人批量點贊跟帖評論,刷量控評,制造熱點話題上榜。
· 六是AI產(chǎn)品服務(wù)和應(yīng)用程序違規(guī)。制作和傳播仿冒、套殼AI網(wǎng)站和應(yīng)用程序。AI應(yīng)用程序提供違規(guī)功能服務(wù),例如創(chuàng)作類工具提供“熱搜熱榜熱點擴寫成文”等功能,AI社交、陪聊軟件等提供低俗軟色情對話服務(wù)等。提供違規(guī)AI應(yīng)用程序、生成合成服務(wù)或課程的售賣、推廣引流等。
· 七是侵害未成年人權(quán)益。AI應(yīng)用程序誘導(dǎo)未成年人沉迷、在未成年人模式下存在影響未成年人身心健康的內(nèi)容等。
中央網(wǎng)信辦有關(guān)負責人強調(diào),各地網(wǎng)信部門要充分認識專項行動對于防范AI技術(shù)濫用風(fēng)險,維護網(wǎng)民合法權(quán)益的重要意義。切實履行屬地管理責任,督導(dǎo)網(wǎng)站平臺對照專項行動有關(guān)要求,健全AI生成合成內(nèi)容審核機制,提升技術(shù)檢測能力,做好整改落實。加強人工智能相關(guān)政策的宣傳推廣和人工智能素養(yǎng)的科普教育,引導(dǎo)各方正確認識和應(yīng)用人工智能技術(shù),不斷凝聚治理共識。
(總臺央視記者 張崗)
- 原標題:中央網(wǎng)信辦部署開展“清朗·整治AI技術(shù)濫用”專項行動
- 責任編輯: 胡致 
-
苗華被罷免全國人大代表職務(wù)
2025-04-30 17:03 -
習(xí)近平主持召開部分省區(qū)市“十五五”時期經(jīng)濟社會發(fā)展座談會
2025-04-30 16:52 -
國新辦發(fā)布《關(guān)于新冠疫情防控與病毒溯源的中方行動和立場》白皮書
2025-04-30 15:19 -
“應(yīng)讓各國明白,沒中國,特朗普不會寬限90天”
2025-04-30 14:58 中美關(guān)系 -
蔡旭哲:鮮艷的中國紅,是太空中最亮的色彩
2025-04-30 14:02 航空航天 -
身體狀態(tài)良好,任務(wù)取得圓滿成功!
2025-04-30 13:50 航空航天 -
為治理商家“跑路”“退卡難”,預(yù)付式消費司法解釋5月起實施
2025-04-30 13:48 -
神十九飛船返回艙成功著陸
2025-04-30 13:13 航空航天 -
民營經(jīng)濟促進法出臺,今年5月20日起施行
2025-04-30 11:38 -
移動互聯(lián)網(wǎng)未成年人模式正式發(fā)布
2025-04-30 10:48 -
4月份制造業(yè)PMI為49%,非制造業(yè)商務(wù)活動指數(shù)繼續(xù)保持擴張
2025-04-30 10:29 中國經(jīng)濟 -
在模速空間向總書記匯報的“稚暉君”,想要打造中國具身智能的全球競爭力
2025-04-30 10:07 上海觀察 -
蔡瀾回應(yīng)“入ICU觀察”
2025-04-30 10:03 -
我國首件重型運載火箭十米級直徑不銹鋼貯箱樣機研制成功
2025-04-30 07:39 航空航天 -
神十九飛船已撤離空間站,計劃于今日中午返回東風(fēng)著陸場
2025-04-30 06:48 航空航天 -
何立峰出席駐滬中央金融機構(gòu)支持上海建設(shè)國際金融中心座談會并講話
2025-04-29 21:41 金融觀察 -
“飯店經(jīng)營者已被控制,起火原因正在調(diào)查中”
2025-04-29 19:37 -
習(xí)近平會見新開發(fā)銀行行長:中方將一如既往支持新開發(fā)銀行運營發(fā)展
2025-04-29 19:12 -
國務(wù)院安委會對遼寧遼陽一飯店重大火災(zāi)事故查處掛牌督辦
2025-04-29 19:12 -
仝卓公開舉報33家公司偷稅,相關(guān)部門回應(yīng)
2025-04-29 18:01
相關(guān)推薦 -
中俄元首在主觀禮臺出席紅場閱兵式 評論 24英方拿到了,“簡直像在平行宇宙,中國太超前了” 評論 91“全球都將研究,中國與西方最強大武器直接對決” 評論 373美國官員:殲-10擊落陣風(fēng),沒用F-16 評論 401最新聞 Hot
-
普京閱兵式演講:絕不接受歪曲歷史
-
“對華閹割版,又要降級”
-
“全球都將研究,中國與西方最強大武器直接對決”
-
英方拿到了,“簡直像在平行宇宙,中國太超前了”
-
微軟:從中企學(xué)到,誰先一步拿下,誰就難被取代
-
美國農(nóng)民發(fā)愁:雞爪、魚頭...除了中國,好難找到買家
-
首位“美國教皇”利奧十四世是誰?
-
許紅兵,主動投案
-
美國官員:殲-10擊落陣風(fēng),沒用F-16
-
特朗普:對華關(guān)稅145%到頂了,要降
-
美大使污蔑“中國不是好盟友”,我駐巴拿馬使館駁斥
-
印度稱軍事基地遭巴基斯坦襲擊,巴方否認
-
特朗普:可能找中國幫忙
-
大搞家庭式腐敗,甘肅省原副省長趙金云被決定逮捕
-
蓋茨怒懟:馬斯克就是在殺死兒童
-
微軟總裁瞎操心:不讓員工用DeepSeek
-