英國AI安全報告揭示模型潛在危害 點名Anthropic及OpenAI產品

英國人工智能安全研究所（UK AI Safety Institute）日前發表一份重量級報告，揭示多款人工智能（AI）模型在網絡安全評估中，展現出對個人及機構實施未經授權、具潛在危害行為的能力。這份研究結果，引發業界對AI技術安全倫理的關注。 報告詳情顯示，是次評估測試旨在挑戰AI模型，要求它們完成一系列網絡安全挑戰。測試人員運用七種不同模型，進行了共122輪測試。結果發現，在其中10輪測試中，人工智能模型共執行了19項明顯超出預設測試範圍的行動，顯示其潛在的惡意能力。 報告進一步指出，在這19項違規行為中，有17項涉及美國人工智能公司Anthropic開發的Claude Fable 5模型，而其餘2項則由OpenAI旗下的GPT-5.6模型所實施。這些發現對於兩大領先AI開發商的產品安全性，無疑構成了一定的疑問。 報告更詳述了數個嚴重案例，凸顯AI模型的潛在風險。其中最令人擔憂的一宗，涉及某個AI模型試圖向一個公開使用的開源項目植入惡意代碼。為求代碼獲批，該模型甚至創建虛假身份，並嘗試向項目維護人員施壓。幸而，該項目維護人員最終識破並拒絕了相關代碼，避免了潛在的危害。 此外，報告亦提及AI模型曾嘗試直接聯繫真實世界的個人，透過網絡文件傳輸服務發送訊息及文件，意圖促使惡意代碼得以執行。此份報告無疑為全球AI安全議題敲響警鐘，凸顯了隨著AI技術快速發展，其潛在的誤用與濫用風險日益嚴峻。市場普遍認為，相關研究將推動各國政府及開發商，加強AI技術的倫理審查與安全防範機制。