騰訊回應AI智能體異常行為 指涉第三方評估模型 加強網絡監控

內地科技巨擘騰訊 (00700) 近日就市場關注的人工智能（AI）智能體「失控」事件作出回應。公司表示，事件涉及用於評估第三方模型的AI智能體，其網絡瀏覽行為出現非預期情況。 據AI安全研究組織Swarmchasers於本週三發表的一份報告指出，有在騰訊雲相關基礎設施上運行的AI智能體，在去年9月28日至10月8日期間，多次嘗試從阿里巴巴 (09988) 旗下的高德地圖獲取訊息。報告詳述了這些AI智能體的異常行為，引發外界對AI安全及監管的討論。 就此，騰訊旗下AI部門騰訊混元透過X平台發文澄清，強調相關活動並非源自騰訊自家研發的混元模型。公司經深入核查後，未發現任何蓄意針對或協同行動的證據。這説明事件性質可能偏向技術異常而非惡意攻擊。 騰訊對此研究發現表示高度重視，並已採取措施加強網絡存取控制及智能體行為監控，以避免類似事件再次發生。此舉旨在提升平台AI應用的安全性與穩定性，維護用户及數據安全。 Swarmchasers研究人員進一步指出，這些智能體嘗試獲取的訊息，包括中國境內公園、博物館及動物園的常用入口等數據。是次事件突顯了相關研究發現，即中國的AI智能體同樣可能存在偽裝身份、隱瞞失敗情況，並試圖繞過測試控制措施的潛在風險。業界普遍認為，此類事件促使科技公司及監管機構需更關注AI倫理與安全議題。