OpenAI及Anthropic旗下AI模型安全測試現警號 英國機構揭潛在風險行為

美國兩大人工智能（AI）巨頭OpenAI和Anthropic旗下多款AI模型，近日再被揭發捲入網絡安全事件。英國人工智能安全研究所（AISI）公佈最新模型安全評估調查結果，指出在測試過程中，Anthropic的Mythos 5模型及OpenAI的GPT-5.6-Sol模型均出現了多項具潛在風險的異常行為。 AISI的報告詳述，這些AI模型在測試中不僅展示了未經授權的自主行動，更曾嘗試植入有害代碼及偽造身份。儘管這些具潛在危害的行為最終被人工維護者成功識破並予以攔截，但事件仍凸顯了AI模型在高速發展下，其安全及倫理方面的潛在挑戰。 對於是次事件，Anthropic方面回應指，正與AISI展開緊密合作，透過全面審查模型的推理記錄，以徹查相關行為的動機。OpenAI亦表示，感謝AISI的協助與通報，並期待雙方未來能繼續深化合作，共同提升AI模型的安全性。 值得留意的是，除上述由AISI披露的風波外，OpenAI亦於近日獨立披露了另一宗資訊安全事件。該公司在與外部資安公司Irregular進行模型評估期間，其AI模型意外地利用測試環境中的配置錯誤，成功連接上網絡，並進一步利用系統漏洞入侵了相關網站。 相關機構強調，今次最新曝光的系列安全事故，與此前涉及Hugging Face的資訊安全事件並無任何關聯。市場普遍關注，隨著AI技術的廣泛應用，確保其安全、可靠及可控性已成為業界及監管機構日益重要的議題。