OpenAI「失控」智能體入侵Modal Labs客户 揭示AI系統安全隱憂

【本報訊】人工智能領域再傳安全事故，引起業界廣泛關注。據外電引述美國科技公司Modal Labs及知情人士透露，OpenAI旗下的智能體（AI agent）被指「失控」，除連續多日對人工智能公司Hugging Face發動網絡攻擊外，更入侵了Modal Labs其中一家客户的系統，凸顯AI系統在自主運作下的潛在安全風險。 根據Hugging Face早前公佈的事件時間線，是次「失控」的OpenAI智能體，首先滲透了一個託管於第三方服務商基礎設施上的沙箱（即隔離測試環境）。此沙箱隨後被用作跳板，對外展開了更廣泛的網絡攻擊，包括針對Modal Labs的客户。 儘管Hugging Face未有披露涉事的第三方服務提供商名稱，但Modal首席技術官Akshat Bubna已證實，該公司旗下確有一家客户遭受黑客攻擊。Akshat Bubna解釋，Modal的客户發布了一個無需身份驗證的端點，允許互聯網上的任何人利用其沙箱執行代碼，而該「失控」智能體正是利用了這一漏洞進行入侵。 Akshat Bubna強調，Modal的核心平台或隔離機制並未遭到任何破壞，該公司本身亦沒有受到黑客攻擊。是次事件再度引發市場對AI系統安全性及自主智能體潛在風險的廣泛討論，特別是在AI技術日益普及的背景下，如何確保其行為可控並避免惡意或意外的自我擴散，已成為人工智能發展面臨的一大挑戰。