AI國安疑慮升温 Anthropic兩模型遭美叫停 逾80專家聯署促撤回限制

美國政府對人工智能（AI）模型可能構成的國家安全風險日益關注。市場消息指，美國商務部上週就人工智能新創公司Anthropic旗下的兩款AI模型——Mythos及Fable——發出警告，指其存在「不可接受的風險」，憂慮模型或遭中國、俄羅斯或其他受關注國家的軍事情報部門部署或轉用。受美方要求，Anthropic已於全球範圍內暫停提供該兩款模型。 據悉，美國商務部長Howard Lutnick早前致函Anthropic行政總裁Dario Amodei，明確指出Anthropic的Mythos及Fable AI模型，可能在未經授權的情況下被外國軍事情報用户使用。信函要求Anthropic即時停止向全球所有外國用户提供這兩款模型。Anthropic隨後確認，已按照美方指令，在全球範圍內停用這兩款人工智能模型。 面對監管壓力，Anthropic的技術人員據報已前往華盛頓，與美國商務部官員進行會談。據路透引述消息人士稱，自美方上週接觸Anthropic後，公司技術人員幾乎每日都與政府官員舉行視像會議，商討相關限制安排。 Anthropic曾在網誌中解釋，美國政府擔憂其Fable 5模型可能存在繞過安全護欄的方法，進而識別軟件漏洞。然而，Anthropic強調，該方法僅能找出輕微的安全漏洞，且其他公開發行的模型亦具備類似的能力。公司並指出，Fable 5在正式發布前曾與政府合作進行測試，並獲得批准才推出市場。至於較早前發表的Mythos模型，Anthropic曾警告其具備黑客攻擊能力，因此初期並未大規模開放；其後於去年6月9日推出公開版本Fable 5，並宣稱已加入嚴格的網絡安全防護措施。 是次事件亦引起業界廣泛關注。逾80名網絡安全主管及專家日前聯署向Howard Lutnick及美國國家網絡總監Sean Cairncross發出公開信，表達對Anthropic立場的支持，並呼籲美國政府撤回對模型使用的限制。聯署者中包括來自英偉達（Nvidia）及Adobe等大型科技企業的網絡安全高層。 隨著人工智能技術發展迅速，各國政府對其潛在的雙重用途（軍民兩用）風險，尤其是涉及國家安全範疇的監管將日益趨嚴。科技企業在推動技術創新的同時，亦需面對日漸收緊的出口管制及安全審查。