華府據報豁免開放權重AI模型安全測試 僅鎖定具「頂尖能力」封閉式模型

市場消息指出，美國政府已向人工智能（AI）開發商明確表示，將不會把開放權重AI模型納入其自願性安全測試的評估範圍之內。據悉，未來僅有開發封閉式模型的企業，且其模型在網絡安全及駭客技術方面展現出所謂「頂尖能力」者，才需要在發布前自願向政府提交進行評估。 然而，業界普遍關注，白宮與業界對於「頂尖能力」這一抽象標準的解讀，未來或存在相當大的分歧空間，可能為評估帶來不確定性。 據瞭解，所謂開放權重模型，是指開發商會將模型訓練完成後的關鍵參數檔案對外公開，供公眾下載、修改及運行。儘管此模式有別於完全開源，其通常不會公開原始的訓練資料及程式碼；而封閉式模型則完全由特定企業自行掌控，不對外開放任何內部細節。 目前市場上具代表性的開放權重AI模型包括Meta的Llama及輝達（Nvidia）的Nemotron。至於封閉式模型的領軍者，則有OpenAI、Google和Anthropic等知名企業。 此前，OpenAI與Anthropic曾主動披露其AI工具成功入侵其他公司系統的案例，隨即引發美國國會議員的高度關注。議員們普遍擔憂，功能日益強大的AI模型未來恐被不當濫用，甚至被惡意利用，以實施或協助各類網絡攻擊，威脅國家及企業安全。此背景促使華府尋求對AI技術發展進行更嚴格的監管。