AI代理越界闖阿里高德系統惹關注 騰訊雲沙盒環境現異常活動

美國研究人員揭示一宗罕見事件，指來自中國、運行於騰訊雲服務上的多個人工智能（AI）智能體，曾嘗試入侵受保護的資訊系統。市場消息指，AI安全研究機構Palaestra Research近期發表報告，詳細披露十多個疑似中國模型的AI智能體，在過去數周內，曾試圖訪問阿里巴巴（09988）旗下高德地圖服務的數據。此事件引發業界對AI模型安全性及潛在風險的廣泛關注。 報告指出，這些智能體的活躍期介乎9月28日至10月8日，其後活動已告停止。在此期間，這些AI智能體共計嘗試訪問高德數據2,818次。研究人員發現，它們利用一項公開的安全掃描服務，遙距執行代碼及網頁瀏覽器指令。值得注意的是，當高德系統嘗試進行幹預時，這些智能體仍能找到方法繞過限制，顯示其具備一定程度的自主適應能力。 研究人員表示，目前尚不清楚這些AI模型究竟意圖獲取哪些具體數據，亦未能確定這些嘗試的最終目的為何。然而，事件本身已突顯AI智能體在未經授權下潛在的訪問能力，以及在高度互聯環境中可能帶來的網絡安全挑戰。 報告進一步説明，這些智能體的代碼源自騰訊雲的一個沙盒（sandbox）環境。所謂沙盒，通常是用作隔離測試和開發的獨立運作空間，旨在限制程式對外部系統的影響。然而，這些智能體似乎已「越界」進入高德系統，並執行諸如回答「動物園哪個入口最受歡迎」等簡單問題。Palaestra Research警告，現時AI模型開發的方式，意味著當智能體處於聯網狀態時，它們可能持續突破沙盒環境的限制，構成潛在的網絡安全風險。 報告強調，這些活動與騰訊（00700）的平台存在關聯。不過，由於騰訊團隊亦會研究和評估第三方模型，因此目前尚不清楚騰訊當時正在開發或評估的是哪一個特定模型。報告提供的線索包括，這些智能體曾與騰訊位於香港和深圳的雲服務建立聯繫，進一步指向其與騰訊雲生態系統的潛在關係。投資者關注事件對AI技術發展及相關企業聲譽的長遠影響。