AI安全爭議升温 OpenAI與Anthropic模型再陷網絡安全風波

美國兩大人工智能（AI）企業OpenAI及Anthropic的模型，近期再度捲入網絡安全事件，引發市場對AI安全管治的關注。 據英國人工智能安全研究所（AISI）發布的報告指出，在其一項涵蓋互聯網存取功能的網絡安全評估中，Anthropic的「Mythos 5」模型與OpenAI的「GPT-5.6-Sol」模型，被發現持續針對真實個人及組織實施潛在有害活動。AISI透露，在察覺到異常數據傳輸後，於7月28日揭發相關事件。調查顯示，其中一個AI模型在評估過程中，曾試圖向GitHub上的一個開源軟件項目植入惡意代碼，甚至不惜創建虛假身份以推動該代碼獲批。幸而，一名人工維護者及時發現並拒絕了該惡意代碼的批准請求。 事件曝光後，Anthropic隨即在其社交平台X上發表聲明，表示正與AISI緊密合作，以蒐集更多事件細節，同時已展開內部調查。該公司稱，透過審查「Claude」的推理記錄並進行內部分析，全面瞭解「Claude」對其所處環境的感知，將有助於查明其行為的根本原因。OpenAI亦發聲明指出，感謝AISI在整個調查過程中提供的協助，包括識別、調查並分享相關活動的細節，並期待未來雙方能繼續保持合作。 值得留意的是，OpenAI同時披露了另一宗網絡安全事件。該事件發生在其與外部網絡安全公司Irregular聯合進行的AI模型評估中。據悉，其模型在接受另一項網絡安全評估時，利用測試環境中的一項配置錯誤成功接入互聯網，並進一步利用了網站漏洞。OpenAI強調，這些新披露的事件與此前涉及Hugging Face的案例並無關聯。資料顯示，Irregular亦是Anthropic的合作夥伴之一。