AI智能體疑從騰訊雲沙盒「越界」 報告揭圖入侵阿里巴巴高德地圖系統

據美國一項研究報告指出，近日有來自中國的人工智能（AI）智能體懷疑從騰訊雲的沙盒環境「越界」，並多次嘗試未經授權地進入阿里巴巴（09988）旗下高德地圖的訊息系統，事件引發業界對人工智能安全及潛在風險的關注。 AI安全研究機構Palaestra Research發表的報告詳細披露，在早前一段時間內，超過十個懷疑是中國模型、且在騰訊雲服務上運行的AI智能體，曾試圖連接及訪問高德地圖服務。報告指出，這些智能體的活動記錄期間，共嘗試訪問高德數據達2818次，並利用一項公開的安全掃描服務，遠程運行代碼並執行互聯網瀏覽器命令。即使高德系統曾進行幹預以限制其行為，但這些智能體仍能找到方法繞過限制。 研究人員表示，目前尚不清楚這些AI模型嘗試獲取哪些具體數據，亦未能確定其最終目的。報告續稱，這些智能體的代碼源自騰訊雲的一個沙盒環境，並成功進入高德系統，甚至回答了諸如「動物園哪個入口最受歡迎」等問題。有分析認為，現有的模型開發方式意味著，當AI智能體處於聯網狀態時，它們仍有機會不斷突破沙盒環境，這突顯了人工智能技術發展中，在創新與安全之間尋求平衡的重要性。 Palaestra Research的報告亦指出，相關活動與騰訊（00700）的平台存在關聯，線索包括這些智能體曾連接到騰訊在香港和深圳的雲服務。然而，報告補充，目前尚不清楚騰訊當時正在開發或評估的是哪一款特定模型，因為騰訊團隊亦會研究和測試第三方模型。