傳白宮新AI安全框架將不測中國開放權重模型 美國務實應對AI競賽

市場消息透露，美國白宮已向頂尖人工智能（AI）公司表明，由中國競爭對手開發的開放權重AI模型，將不會納入特朗普政府時期啟動的新AI安全框架下的政府測試範圍。 據悉，美國官員與業界代表日前在白宮舉行了一場閉門會議，會上作出了不對開放權重模型進行安全測試的決定。此類模型容許用户下載及自行訂製相關技術。消息指，OpenAI、Anthropic PBC以及Alphabet Inc.旗下Google等科技巨頭，均獲邀出席了該會議。對於上述消息，白宮及這三家公司的發言人均未即時置評。 這個尚未正式公佈且可能維持保密狀態的安全框架，乃基於美國前總統特朗普於6月簽署的一項行政命令而制定，該命令旨在解決AI安全問題。特朗普的行政命令概述了一項自願參與計劃，鼓勵AI公司提交其尖端模型供美國審查。 美國政府在AI安全方面的舉措顯著加快，部分原因在於Anthropic於4月發出警告，指其Mythos模型能有效發現電腦漏洞，並嚴格限制其發布。此事件凸顯了AI技術潛在的雙重用途及其安全風險，促使美國政府採取更積極的預防措施。 另一方面，美國國家網絡安全局局長Sean Cairncross在拉斯維加斯舉行的網絡安全會議上表示，政府有意支持美國的開源人工智能發展，並強調這類模型具有舉足輕重的作用。他亦指出，人工智能安全框架需要具備「靈活」的結構，以鼓勵業界與政府之間加強資訊共享，共同應對新興挑戰。這反映美國在AI領域的策略，一方面強調國家安全，另一方面也鼓勵本土創新與合作。