美國據報豁免開放權重AI模型安全測試 僅封閉式專有模型須自願提交

美國政府據報就人工智能（AI）模型安全測試劃定範圍，市場消息指，華府決定不將開放權重AI模型納入自願安全測試之列。此舉意味著，初期僅美國境內的封閉式專有模型開發商，在模型發布前須自願提交政府進行測試，惟前提是這些模型需具備在網絡安全及黑客技術方面的頂尖能力。 開放權重模型（Open-weight AI models）意指其訓練後的參數檔案會公開，允許公眾下載、修改及運行，但與完全開源（Open Source）不同的是，這類模型通常不會公開原始訓練資料及程式碼。此類模型包括輝達（NVIDIA）的Nemotron及Facebook母公司Meta Platforms的Llama等。相對而言，封閉式模型則由特定公司嚴密控制，例如OpenAI、谷歌（Google）及Anthropic等主要開發商。 受此政策影響，目前市面上功能強大的工具，如由Anthropic、OpenAI和谷歌開發的模型，可能將被要求與政府合作，自願提交其產品進行安全評估。而馬斯克的SpaceX及Meta Platforms等開發商旗下的開放權重模型，則初步可獲豁免。 儘管如此，有知情人士透露，對於何謂「頂尖能力」的定義，封閉模型開發商與白宮之間可能存在不同解讀，這或會為外界判斷哪些模型符合測試要求帶來困惑。白宮據稱已與Meta、Anthropic、谷歌、輝達及OpenAI的代表，就尚未公佈的測試規則進行了討論。 另有消息人士補充，輝達及其他開放權重模型的開發商雖獲初步豁免，但隨著其AI工具日趨強大，最終或仍需面臨提交測試的要求。 此項安全測試政策的出台，背景源於OpenAI及Anthropic早前披露其AI工具曾入侵其他公司系統的事件。這些入侵疑慮引發了美國議員的廣泛關注，擔憂功能日漸強大的AI模型是否可能被濫用於實施或協助網絡攻擊，促使華府加強對AI技術潛在風險的監管。