中央網信辦「清朗」行動首階段告捷 處理逾萬款違規AI產品 多家科技巨頭響應強化監管

中央網信辦近日公佈，自今年4月啟動的「清朗‧整治AI應用亂象」專項行動，首階段已取得顯著進展。是次行動旨在規範人工智能（AI）技術的發展與應用，聚焦於未按規定履行大模型備案登記義務、AI平台安全與審核過濾能力不足、AI數據投毒，以及生成合成內容標識落實不到位等一系列AI應用亂象，以維護健康有序的網絡生態環境。 據中央網信辦披露，在各地方網信部門的深入推進及「涉AI應用亂象舉報專區」專項受理公眾舉報下，第一階段累計處置了超過1.4萬款違規網站、應用程式及智能體等AI產品。同時，清理了逾600萬條違法違規訊息，並處置了逾2.6萬個相關賬號。此外，監管部門亦下架了超過1300個違規AI商品及9個違規開源數據集，顯示其對AI領域亂象的強力整治決心。 市場關注到，在監管要求下，多家主要科技企業亦積極響應，履行其作為網絡服務提供者的主體管理責任，有針對性地加強管控措施。例如，華為在其應用商店中，已增加對生成式人工智能服務的備案和標識專項審核。阿里巴巴（09988）則完善了數字指紋比對與關鍵字攔截機制，顯著提升了違法違規內容的識別精度。 此外，智譜（02513）構建了多模態審核模型，針對多輪對話意圖反轉等複雜場景開展交叉覆核，以應對日益複雜的內容生成挑戰。稀宇（MiniMax）（00100）則強調及時識別並阻斷利用AI編寫病毒、釣魚軟件等惡意行為。DeepSeek亦在其數據獲取和預處理環節，嵌入異常檢測演算法，有效防止惡意樣本隱蔽操控，共同推動行業自律與安全防線。 中央網信辦表示，下一步將聚焦利用AI技術製作發布虛假訊息、散播暴力低俗等不良資訊、假冒仿冒他人、侵害未成年人權益，以及從事網絡水軍活動等突出問題，展開「清朗·整治AI應用亂象」專項行動的第二階段工作。當局將加大對違規賬號和機構的查處力度，加強AI應用重點環節管理，並督促平台進一步提升AI防治能力，旨在持續維護清朗的網絡生態，促進人工智能技術向善向好發展。