中央網信辦「清朗」行動首階段告捷 逾1.4萬款違規AI產品遭處置

中央網信辦自今年4月啟動「清朗·整治AI應用亂象」專項行動以來，持續聚焦人工智能技術在應用層面所衍生的亂象。當局部署各地網信部門深入推進首階段重點整治任務，並專門設立舉報平台，接受公眾對涉AI應用亂象的舉報。該行動在各方協同努力下取得顯著成效，首階段累計處置了逾1.4萬款違規人工智能產品，有效維護網絡安全。 據悉，此次整治行動主要針對未按規定履行大模型備案登記義務、AI平台安全與審核過濾能力不足、AI數據投毒、生成合成內容標識未到位等關鍵問題。在過去數月，除處置超過1.4萬款包括網站、應用程式及智能體在內的AI產品外，還清理了逾600萬條違法違規訊息，並處置了逾2.6萬個相關賬號。此外，當局亦下架了逾1300個違規AI商品及9個違規開源數據集，顯示行動覆蓋面廣泛，並取得了積極的階段性進展。 為響應監管要求，多家重點網站平台亦積極履行其管理主體責任，有針對性地加強技術管控。其中包括通訊及科技巨頭華為，在其應用商店中增加了生成式人工智能服務的備案與標識專項審核。互聯網龍頭阿里巴巴則進一步完善了數字指紋比對與關鍵字攔截機制，顯著提升了違法違規內容的識別精準度。人工智能研發企業智譜構建了多模態審核模型，針對多輪對話意圖反轉等複雜場景展開交叉覆核。稀宇及時識別並阻斷利用AI編寫病毒、釣魚軟體等惡意行為。而DeepSeek則在數據獲取和預處理環節嵌入了異常檢測演算法，以有效防止惡意樣本的隱蔽操控，共同提升行業的自律水平。 展望未來，中央網信辦將啟動「清朗·整治AI應用亂象」專項行動的第二階段工作。此階段將重點針對利用AI技術製作發布虛假訊息、散播暴力低俗等不良資訊、假冒仿冒他人、侵害未成年人權益，以及從事網絡水軍活動等突出問題。當局將加大對違規賬號和機構的查處力度，同時加強AI應用關鍵環節的管理，並督促各平台持續提升其AI防治能力。此舉旨在著力維護清朗的網絡生態，並促進人工智能技術朝著良善方向發展。