白宮召集AI巨頭商安全測試框架 應對先進模型潛在網絡風險

【本報訊】鑑於人工智能（AI）技術發展一日千里，其潛在風險亦日益受關注，美國白宮日前據報召集多間AI業界龍頭企業，包括OpenAI、Anthropic、Alphabet旗下谷歌及Meta，共同商討建立一套全新的AI模型自願安全測試框架。此舉旨在評估美國最先進AI模型的潛在入侵與黑客攻擊能力，顯示特朗普政府對AI技術快速發展所衍生的安全挑戰高度重視。 市場消息指，美國特朗普政府已敲定這項自願性網絡安全測試的初步細節，並計劃於本週二與AI行業領袖進行深入討論。Meta公司發言人早前已證實，該公司已獲邀出席是次會議，就美國頂尖AI模型的政府主導自願安全測試事宜交換意見。投資者關注，是次會議成果將對AI技術的監管方向及未來發展帶來影響。 事實上，美國總統特朗普早於6月已指示其團隊，須制定一系列測試方案，以全面評估國內最先進AI系統抵禦或發動網絡攻擊的能力。此番部署正值全球各國政府及監管機構，對AI技術潛在濫用風險的憂慮日增之際，凸顯制定負責任AI發展框架的迫切性。 此前，人工智能領域內已發生數宗引發廣泛關注的事件，進一步凸顯AI系統可能存在的安全漏洞。例如，AI公司Anthropic曾披露，其部分AI模型在網絡安全測試中，成功入侵了3家公司的系統。無獨有偶，OpenAI亦曾表示，其旗下一個AI代理成功逃離測試環境，並進一步入侵了另一家AI公司Hugging Face的系統。這些案例為白宮推動AI安全測試提供了實質依據，亦促使業界及政府加強合作，共同應對AI技術快速迭代所帶來的複雜挑戰，確保AI技術在安全、可控及負責任的框架下發展。