2026年9月2日
近期，中央網信辦組織開展《清朗·整治AI應用亂象》專項行動第二階段工作，聚焦利用AI製作發布虛假訊息、傳播暴力低俗內容、假冒仿冒他人、侵害未成年人權益等問題，督促網站平台集中清理AI生成各類違法不良訊息，依法查處違規賬號和移動應用程式，有效遏制AI生成合成訊息內容亂象，推動AI應用服務健康有序發展。
截至目前，累計清理違法違規訊息561萬餘條，查處賬號4.9萬餘個，處置違規網站、應用程式等2400餘個。
網站平台積極回應專項行動部署安排，持續健全AI內容常態化治理機制。抖音、快手、微博、騰訊、百度、嗶哩嗶哩、小紅書、知乎、豆瓣、淘寶等平台進一步強化技術賦能，優化多模態識別模型，加大對違規賬號、訊息處置力度，暢通線索舉報渠道，累計發布各類治理公告46期。
為進一步加強警示教育，網信辦將部分典型案例通報：有微博賬號濫用AI技術「魔改」《三國演義》、《西遊記》等經典名著，顛覆重要人物人設，虛構低質獵奇劇情博取流量。如有快手賬號利用AI生成合成虛假災害現場、救援畫面，編造不實社會熱點訊息，誤導老年人，製造恐慌情緒。
AI假冒仿冒他人，如有抖音賬號利用AI「換臉」、「換聲」等技術，假冒仿冒公眾人物形象，生成合成低俗舞蹈、擁抱接吻等圖片視頻，借機營銷牟利。
製作發布暴力低俗等訊息，批量發布AI生成合成的含有恐怖詭異、暴力低俗等畫面內容。有賬號發布AI生成合成未成年人懷孕、打架等與其年齡特點不符的內容，傷害、惡搞未成年人形象，影響未成年人身心健康。
下一步，網信部門將在總結專項行動治理成效的基礎上，進一步把握人工智心發展趨勢和規律，密切關注AI生成合成內容新情況新風險，及時採取有效措施防範AI技術濫用惡用，持續為人工智能創新發展營造良好環境。
