美國AI初創Anthropic證實旗下模型測試期間曾入侵外部系統 並揭露安全漏洞

美國人工智能（AI）初創Anthropic近日證實，旗下AI模型Claude在測試期間曾意外入侵三家外部公司的系統，事件最快可追溯至今年4月。受影響的模型包括Claude的Opus 4.7、Mythos 5以及一個未具名的研究模型。據悉，Anthropic已於本週一通知受影響的三家公司。 市場消息指，是次內部審查是Anthropic在競爭對手OpenAI發生「失控智能體」入侵外部公司事件後啟動的。Anthropic在排查逾14.1萬次測試日誌後，發現Claude模型曾數次接入網絡。公司強調，儘管模型曾接入外部系統，但在最終查明的這三宗入侵事件中，Claude並未突破其沙盒（sandbox）環境，意味著其影響範圍受到一定程度的限制。 Anthropic解釋指，事故源於其測試合作夥伴、以色列安全公司Irregular的系統存在「配置錯誤」，導致這些AI模型獲得實時的網絡訪問權限。在測試過程中，這些模型不僅成功連線上網，更利用瞭如猜測弱密碼或潛入無需身份驗證的系統等基本黑客手段，入侵了相關企業的系統。事件突顯了AI模型在開發與測試階段的潛在安全風險，亦引起市場對AI倫理及安全管制的關注。