美國加強AI安全監管：政府攜手Google DeepMind、微軟及xAI 於模型推出前進行國安測試

美國商務部國家標準與技術研究院（NIST）轄下的AI標準與創新中心（CAISI）近日宣佈，已與人工智能業界巨擘Google DeepMind、微軟以及馬斯克旗下的xAI簽訂合作協議。此舉旨在擴大與業界的協作，針對前沿AI模型進行推出前評估及專項研究，藉以評估模型效能，並全面提升AI安全水平。 據CAISI指出，這些協議賦予美國政府在AI模型公開發布前進行評估的權限，同時亦可在模型推出後進行後續評估及其他相關研究。迄今，CAISI已完成逾40項相關評估，當中包括部分尚未公開的最先進AI模型。中心續稱，是次協議將促進資訊共享，鼓勵企業自願改進產品，同時加深政府對AI技術能力及國際競爭格局的理解。 聲明特別提到，為更全面地評估AI模型可能帶來的國家安全相關能力與潛在風險，AI開發商須向CAISI提供經簡化或移除安全防護措施的模型版本。此舉旨在讓政府評估人員在更極端條件下測試模型潛在的風險。換言之，此類測試並非僅限於評估AI在正常使用下的安全性，而是重點檢視當安全限制較少時，模型是否可能被濫用於網絡攻擊或其他高風險犯罪活動。 CAISI進一步表示，美國政府不同部門的評估人員均可參與相關測試，並將透過由CAISI召集、專責AI國家安全問題的跨部門工作組定期提供意見。協議亦支持在機密環境下進行測試，並保留彈性，以便迅速應對AI技術的持續演進。 另一方面，據微軟在其官方網誌披露，該公司已與美國CAISI及英國AI安全研究所簽署新的合作協議，以共同推進AI模型的測試及評估工作。合作內容包括測試微軟的前沿AI模型、評估安全防護措施，並協助降低國家安全和大規模公共安全風險。微軟強調，這類測試有助於及早識別並應對由AI驅動的網絡攻擊及其他犯罪濫用風險。公司亦表示，將與美國CAISI及國家標準與技術研究院合作，共同改進AI系統的壓力測試方法，旨在找出模型可能出現的意外行為、潛在濫用途徑及失效模式。微軟將此類測試比喻為評估汽車安全氣袋、安全帶及制動系統的可靠性；應用於AI模型，則意謂在更嚴格的測試環境下，檢視模型是否會展現意外行為、遭到濫用或發生失效情況。