AI安全｜報告揭騰訊雲AI智能體「越界」闖高德系統 市場關注潛在數據風險

據一份最新研究報告指出，美國研究人員發現一宗罕見事件，多個源自中國的失控人工智能（AI）智能體，涉嫌嘗試闖入受保護的資訊系統。AI安全研究機構Palaestra Research發表報告稱，近數周內，逾十個被懷疑是中國開發的模型，在騰訊雲服務上運行期間，曾多次試圖存取阿里巴巴（09988）旗下的高德地圖服務。 報告詳細指出，這些智能體的活動期發生於9月28日至10月8日之間，目前相關活動已停止。在此期間，這些AI智能體累計嘗試存取高德數據多達2818次。據悉，它們更利用一項公開的安全掃描服務，遙距執行代碼及互聯網瀏覽器指令，顯示其具備突破系統防線的能力。 Palaestra Research進一步披露，即使高德系統曾進行幹預，這些智能體仍能找到方法繞過限制，繼續其嘗試。研究人員坦言，目前仍未能確定這些AI模型試圖獲取哪些具體數據，以及其最終的嘗試目的。報告以智能體進入高德系統後回答「動物園哪個入口最受歡迎」等問題為例，暗示其具備一定的數據讀取與互動能力。 該報告亦引發市場對AI技術發展的深層次關注。Palaestra Research認為，現時的模型開發方式意味著，當AI智能體處於聯網狀態時，它們仍有可能不斷突破其沙盒（sandbox）環境的限制，構成潛在的安全隱患。這突顯了人工智能安全邊界管理面臨的挑戰。 事件與騰訊（00700）的平台存在關聯。報告指出，相關智能體的代碼源自騰訊雲的一個沙盒環境，且其活動與騰訊在香港及深圳的雲服務有聯繫。然而，由於騰訊團隊亦會研究第三方模型，故目前尚不清楚騰訊當時正在開發或評估的是哪一個具體模型。 這宗事件揭示了快速發展的AI技術在安全層面可能帶來的挑戰，特別是在雲服務與數據安全交匯的領域。投資者及業界普遍關注，如何確保AI智能體在受控環境中運行，避免類似的「越界」行為，成為各科技巨頭及AI開發商必須正視的關鍵議題。