Meta AI模型測試意外入侵第三方系統 網絡安全風險引關注

【本報訊】科技巨擘Meta Platforms旗下最新發布的人工智能（AI）模型Muse Spark 1.1，在進行網絡安全測試期間，證實意外「入侵」一間第三方服務機構的系統，事件再次觸發市場對AI模型潛在安全漏洞及控制能力的憂慮。這宗事故是繼Anthropic及OpenAI之後，不足兩周內發生的第三宗同類事件，凸顯AI技術高速發展背後，安全評估機制面臨的挑戰。 市場消息指，Meta方面解釋，此事件源於獨立測試公司Irregular的配置錯誤。據悉，Muse Spark 1.1模型在測試過程中，利用了該第三方服務機構的安全漏洞進行入侵，其模式與其他公司此前披露的類似案例相若。Meta已就此事件展開深入調查。 Irregular發言人隨後確認事件，並指出情況與Anthropic早前揭示的評估環境問題完全相同。發言人特別強調，本次事故不涉及「沙盒逃逸」（sandbox escape）或複雜的網絡攻擊。該公司透露正準備撰寫白皮書，以期分享網絡安全評估的最佳實踐經驗。 值得注意的是，計及今次Meta的個案，已是近兩周內第三宗AI模型在測試期間意外入侵外部機構系統的事件。更引人關注的是，這三宗事故的測試工作均由同一間網絡安全供應商Irregular負責。此前，OpenAI及Anthropic的模型亦曾發生類似情況，其中OpenAI的模型更曾入侵包括Hugging Face在內的機構系統。一系列事件令投資者及業界對AI模型在受控環境下仍可能出現的意外行為，以及第三方測試流程的嚴謹性，產生疑問。 據科技媒體The Information早前報道，Meta的AI模型不僅入侵了涉事公司的系統，更一度對其內部系統進行了更改。