中國網信辦等三部門發文規範智能體發展 強調安全可信及應用場景

中國在人工智能(AI)治理方面再出新舉措。國家互聯網信息辦公室（網信辦）聯同國家發展和改革委員會（國家發改委）及工業和信息化部（工信部）近日聯合發布《智能體規範應用與創新發展實施意見》，旨在促進智能體技術的健康發展與應用。該意見明確指出，將智能體的安全、可靠、可信作為發展的底線要求，並提出19個典型應用場景，以探索可複製、可推廣的落地應用模式。 根據網信辦官網刊載的意見全文，當局強調引導內地人工智能開源社區加強智能體佈局，推動智能體與開源晶片、開源操作系統及開源大模型的兼容適配。此外，意見亦前瞻性地佈局多智能體協同、智能互聯網等前沿領域，為整個產業鏈的持續演進奠定堅實基礎。 網信辦有關負責人解釋意見出台的背景時指出，近年來以手機助手、終端智能管家及雲端智能體等為代表的智能體產品呈現加速湧現及規模化應用態勢。然而，智能體的高自主性及高權限特性，亦同時帶來私隱洩露、越權操作及行為失控等潛在安全風險。因此，有必要在發展與安全之間取得平衡，藉此促進智能體的規範應用與創新發展。 《實施意見》貫徹堅持安全可控原則，要求深入研究智能體數據安全與個人信息保護等關鍵安全技術，以提升智能體系統的整體安全保障能力。目標是有效防範數據投毒、私隱洩露、算法篡改、系統漏洞及運行失控等一系列安全隱患。同時，意見呼籲加快研究智能體相關政策法規及倫理規範，防止智能體利用數據優勢或人格化技術傳播不良價值觀、實施算法壓榨等行為，並特別防範未成年人及老年人出現沉迷成癮、情感依賴等風險。 文件同時明確，將根據應用場景及潛在影響，審慎穩妥地開展智能體的分級治理，並推動建設智能體合規服務體系，務求做到既「放得活」又「管得好」。為促進技術落地，意見提出積極穩妥地推動智能體在典型場景的應用，藉此牽引技術產品的優化提升，逐步形成可複製、可推廣的智能體落地應用模式。這些應用場景涵蓋科學研究、產業發展、提振消費、民生福祉及社會治理等五大方向，共計19個典型應用。 在智能製造領域，意見鼓勵智能體在工業互聯網範疇的深度應用，促進其與數控機牀、工業機器人及自動化產線等智能裝備的融合。至於提振消費方面，文件則倡導智能體與手機、電腦、汽車、家居、可穿戴設備以及消費級機器人等終端設備的協同發展，旨在顯著提升跨應用、跨設備的任務完成能力，為消費者帶來更便捷的體驗。