人工智能安全引關注 Anthropic傳開放強大模型Mythos予歐盟測試

人工智能公司Anthropic據報擬向歐盟開放旗下最先進的AI模型「Mythos」，讓歐盟機構得以測試這款能精準找出軟件漏洞的尖端技術。若此計劃最終落實，將標誌著歐盟機構首次獲準取得此一模型的使用權限，對提升歐洲網絡安全防禦能力具重要意義。 市場消息指，歐盟網絡安全機構ENISA有望率先加入Anthropic的「Project Glasswing」計劃，成為首個取得Mythos權限的歐盟機構。Project Glasswing為Anthropic專設的網絡防護測試項目，旨在讓部分關鍵機構在Mythos全面推出前，先行測試其強大功能。 歐盟委員會已確認，曾與Anthropic進行多次富有成效的會面，並對未來可能取得Mythos權限的進展表示歡迎。歐盟科技主權發言人Thomas Regnier強調，歐盟期望能更清晰地瞭解相關技術可能帶來的潛在風險，凸顯監管機構對AI安全的高度關注。 Mythos自今年4月起開始有限度開放，其核心能力在於偵測軟件及系統中的安全弱點。此項技術的「雙刃劍」特性亦引發外界憂慮：一方面，若被惡意人士濫用，其快速發現漏洞的能力可能加速網絡攻擊及網絡犯罪活動；另一方面，若由政府及企業善用作防禦目的，則能有效協助提早識別並修補系統漏洞，築牢網絡防線。 報道指出，歐盟及多個歐洲國家財長自Mythos首次預覽後，一直積極推動取得模型的使用權限。上週，歐盟官員更曾前往美國三藩市，與Anthropic高層會面，就相關安排進行深入討論。 值得留意的是，外媒曾引述知情人士透露，Anthropic此前曾向歐盟表示，開放Mythos予歐盟測試需要取得美國政府的批准。據悉，美國政府最初傾向不將此類強大AI模型廣泛分享予非美國政府實體，以期維持美國在人工智能領域的領先地位。 目前，Mythos主要提供予部分美國政府部門、大型金融機構及科技公司，用於防禦性網絡安全測試。此外，英國AI安全研究所亦已獲準測試該模型。 Thomas Regnier進一步指出，Mythos並非單一個案，未來將有一波新的強大AI模型陸續進入市場，這是各方共同面對的挑戰。歐盟正積極加強與包括美國在內的各個夥伴就相關問題進行討論。截至目前，Anthropic對外媒的查詢未有回應。歐盟委員會亦未披露ENISA何時正式取得Mythos權限，相關條款及具體安排仍待進一步釐清。