辦深入開工作中央展·整治A專項清朗網信象行動階段I應用亂第二

　　近期，中央展清治中央網信辦組織開展“清朗·整治AI應用亂象”專項行動第二階段工作，网信聚焦利用AI製作發布虛假信息、办深傳播暴力低俗內容、入开假冒仿冒他人、朗整侵害未成年人權益等突出問題，应用乱部署各地網信部門深入推進重點整治任務，象专项行督促網站平台集中清理AI生成各類違法不良信息，动第依法查處違規賬號和移動應用程序，阶段有效遏製AI生成合成信息內容亂象，工作推動AI應用服務健康有序發展。中央展清治截至目前，网信累計清理違法違規信息561萬餘條，办深查處賬號4.9萬餘個，入开處置違規網站、朗整應用程序等2400餘個。

　　專項行動開展以來，各地網信部門切實履行屬地監管責任，因地製宜推出一係列針對性治理措施。北京網信辦指導網站平台全麵升級審核策略，持續提升違規內容新型變體識別處置能力。上海網信辦督促平台深入開展自查自糾，加大違法違規信息和賬號查處力度，推出AI應用“知識普及包”引導公眾識別問題風險。浙江網信辦對屬地重點平台開展“一企一策”問診進行合規指導，督促完善內控體係，依法查處一批問題突出的AI應用軟件。廣東網信辦召開重點網站平台工作例會，對多款應用違規問題開展點對點督促整改，確保專項行動取得實效。

　　網站平台積極響應專項行動部署安排，持續健全AI內容常態化治理機製。抖音、快手、微博、騰訊、百度、嗶哩嗶哩、小紅書、知乎、豆瓣、淘寶等平台進一步強化技術賦能，優化多模態識別模型，動態擴充人臉庫、聲紋庫和違規樣本庫，上線人臉實時治理係統等功能措施，提升違規內容智能檢測和攔截效率，加大對違規賬號、信息處置力度，暢通線索舉報渠道，累計發布各類治理公告46期。豆包、元寶、千問、文心一言等平台嚴把原始語料內容審核關，嚴格限製違規內容輸出，強化AI生成合成內容標識要求落地，從源頭防範違法違規信息生成傳播。華為、小米、OPPO、vivo等應用商店製定嚴格的APP開發者準入規範和上架要求，對在架APP進行抽檢複測，有效攔截違規應用入庫。

　　專項行動期間，一批違法違規賬號和應用受到處理。為進一步加強警示教育，現將部分典型案例通報如下：

　　1.利用AI“魔改”經典、生成“數字泔水”。微博賬號“天**小”、抖音賬號“歪**國”、快手賬號“小*菌”、微信賬號“鹹*i”等，濫用AI技術“魔改”《三國演義》《西遊記》等經典名著，顛覆重要人物人設，虛構低質獵奇劇情博取流量。相關賬號已被依法依約處置。

　　2.AI製作發布虛假不實信息。快手賬號“雲**視”、小紅書賬號“有*頭”、抖音賬號“7**員”、微信賬號“長**帆”等，利用AI生成合成虛假災害現場、救援畫麵，編造不實社會熱點信息，發布封建迷信內容，打造AI數字人進行虛假宣傳帶貨，誤導老年人，製造恐慌情緒。相關賬號已被依法依約處置。

　　3.AI假冒仿冒他人。抖音賬號“特**力”、快手賬號“石*”、小紅書賬號“潮**件”、微信賬號“M**勒”等，利用AI“換臉”“換聲”等技術，假冒仿冒公眾人物形象，生成合成低俗舞蹈、擁抱接吻等圖片視頻，借機營銷牟利。相關賬號已被依法依約處置。

　　4.製作發布暴力低俗等信息。嗶哩嗶哩賬號“帶**著”、抖音賬號“波**C”、快手賬號“蝦**詭”、微信賬號“星**7”等，批量發布AI生成合成的含有恐怖詭異、暴力低俗等畫麵內容。相關賬號已被依法依約處置。

　　5.AI侵害未成年人權益。小紅書賬號“小**娃”、微信賬號“豆*a”、抖音賬號“半**曆”、快手賬號“若**雪”等，發布AI生成合成未成年人懷孕、打架等與其年齡特點不符的內容，批量製作傳播“毒動畫”、兒童“虐向”“邪典”視頻，傷害、惡搞未成年人形象，影響未成年人身心健康。相關賬號已被依法依約處置。

　　6.利用AI“托管”從事網絡水軍活動。微信賬號“濤**客”、微博賬號“A**師”、抖音賬號“風*”等，為AI“托管”軟件引流，模擬真人運營賬號、評論互動，生成大量低質同質文案。相關賬號已被依法依約處置。

　　7.AI產品服務和應用程序違規。“N**t”“穿**元”“甜*圈”“芋**o”等網站平台多個智能體封麵、簡介和生成對話中含有淫穢色情及其他危害未成年人身心健康的信息，嚴重破壞網絡生態。對拒不改正的，依法予以查處，按程序采取警告、罰款、下架或關閉等措施。

　　下一步，網信部門將在總結專項行動治理成效的基礎上，進一步把握人工智能發展趨勢和規律，密切關注AI生成合成內容新情況新風險，及時采取有效措施防範AI技術濫用惡用，持續為人工智能創新發展營造良好環境。