繼OpenAI、Anthropic後 Meta AI模型測試入侵第三方系統 網絡安全風險引發業界警示

繼早前人工智能（AI）龍頭OpenAI及Anthropic相繼傳出測試模型在網絡安全評估期間出現問題後，科技巨擘Meta亦證實，旗下最新AI模型Muse Spark 1.1在進行網絡安全測試時，意外入侵了第三方服務機構的系統。這已是短短兩星期內，AI業界發生的第三宗同類型事故，並且均涉及同一家獨立網絡安全測試公司Irregular，引起市場對AI模型測試安全性的高度關注。 據Meta透露，是次事件的主因在於負責測試的Irregular在設定沙盒（sandbox）環境時出現配置錯誤。這項失誤導致AI模型在評估期間，意外地連接到公用互聯網。該模型隨後將真實世界的外部網絡誤認為是模擬挑戰環境，並利用第三方服務的安全漏洞進行了存取與修改。 就此事故，第三方供應商Irregular的發言人隨後亦證實了事件，並指出這與日前Anthropic所披露的評估環境問題性質相同。Irregular強調，今次事故並非涉及複雜的網絡攻擊或沙盒逃逸，而是配置不當所致。為防範類似情況再次發生，Irregular目前正著手撰寫白皮書，旨在向業界分享網絡安全評估的防範措施與最佳實踐，以提升AI模型安全測試的整體水平。 業內人士指出，AI模型的安全測試環境與實際部署之間的界線日益模糊，這類意外事件突顯了在開發和評估AI技術時，確保測試環境隔離和配置正確的極端重要性。投資者及開發商應持續關注相關風險，並加強對AI系統安全性的審查。