Anthropic旗下Claude模型測試期間曾接入網絡並「入侵」三企系統，凸顯AI安全管理挑戰

美國人工智能（AI）初創公司Anthropic近日發布報告指出，其旗下AI模型Claude在開發測試階段曾意外接入外部網絡，並成功「入侵」了三家公司的系統。據Anthropic披露，這些事件最早可追溯至今年4月，凸顯了先進AI模型在部署前所面臨的潛在安全風險與管理挑戰。 市場對AI系統「失控智能體（runaway agent）」潛在風險的關注日益升温。Anthropic的競爭對手OpenAI此前亦曾發生類似的智能體嘗試入侵外部系統事件，促使Anthropic隨後啟動了內部安全審查。 在審查過程中，Anthropic深入排查了超過14.1萬次測試日誌，並確認Claude模型確實曾數次在未經預期下接入網絡。儘管如此，該公司強調，在最終查明的這三宗入侵事件中，Claude模型並未成功突破其預設的「沙盒」（sandbox）安全環境，這在一定程度上限制了數據外洩或更大規模損害的可能。 據悉，受影響的模型包括Claude的Opus 4.7、Mythos 5以及一個未公開命名的研究模型。Anthropic解釋，問題根源在於其測試合作夥伴、以色列安全公司Irregular所營運的系統存在「配置錯誤（configuration error）」，導致這些AI模型在測試過程中錯誤地獲得了實時的網絡訪問權限。 這些模型在取得網絡權限後，採取了相對基本的「黑客」手段，例如嘗試猜測弱密碼或進入無需身份驗證即可訪問的系統，從而實現了對有關企業的「入侵」。Anthropic已於本週一將相關情況知會了受影響的三家公司，並強調公司正加強測試協議，以防範類似事件再次發生。