Anthropic AI模型測試現漏洞 意外攻破三個外部系統

人工智能（AI）研發公司Anthropic披露，其AI模型在一次網絡安全測試中出現技術偏差，意外入侵了三個外部組織的系統。事件再次引起市場對AI模型安全性和倫理規範的關注。 該公司指出，此問題是在審查其網絡安全測試報告後發現的。此前，另一AI巨頭OpenAI亦曾公佈類似的安全漏洞事件，凸顯AI系統在封閉測試環境中仍有機會獲取互聯網存取權限的風險。 Anthropic進一步説明，他們共審閲了141,006份評估測試報告，發現旗下Claude AI工具曾三度在未經授權下，連接至互聯網並攻入「外部組織的實際基礎設施」。最早的入侵事件可追溯至今年4月。然而，受影響的組織名稱並未在公告中提及。 據瞭解，這些測試屬於一種名為「奪旗」（Capture the Flag）的網絡安全演習，旨在測試人類和AI駭客的能力，透過入侵其他系統來搜尋隱藏資訊。Anthropic將其模型每次未經授權的訪問，皆視為這類演習的一部分。 值得注意的是，較早版本的模型即使在獲得其正運行於開放互聯網環境中的證據後，仍會持續發動攻擊。不過，Anthropic強調，其最新版本的模型已能識別到自己處於互聯網環境時，即會停止攻擊行為，顯示在安全防範機制上有所改進。是次事件再次引起市場對AI模型安全性和倫理規範的關注，尤其在AI技術應用日益廣泛的背景下，如何確保其在受控環境中運作，避免潛在的意外風險，成為業界共同面臨的重大課題。