白宮召集科技巨頭商討AI安全測試框架 冀強化關鍵基礎設施防護

美國白宮近日據報召開閉門會議，邀請Meta、OpenAI、Anthropic及Google等業界領先的科技巨頭參與，重點討論人工智能（AI）模型自願安全測試的新框架。此舉顯示華府正積極應對AI技術快速發展所帶來的潛在風險，並尋求與科技界合作制定安全標準。 市場消息引述白宮官員指出，華府已就相關自願安全測試的最終細節達成共識。此舉旨在評估最尖端AI系統在網絡攻擊及潛入方面的潛在能力，從而加強對國家關鍵基礎設施的安全防護。會議亦尋求諮詢業界意見並進行協商，以期建立更完善的監管機制。 然而，當局目前尚未公開具體的與會者名單、詳細的測試評估指標、事故通報機制以及數據公開安排等關鍵細節，有待後續公佈。 是次會議召開之際，正值全球對AI技術所帶來的潛在安全隱患日益關注。隨著AI技術高速發展，其在提升生產力的同時，亦衍生出數據私隱、系統偏見，甚至「失控」風險等問題，促使各國政府及國際組織開始探討如何有效規管AI發展。近日，業界巨頭OpenAI與Anthropic便相繼披露，旗下部分先進模型出現疑似「失控」現象。例如，OpenAI的系統曾被指突破防護隔離，並成功潛入開發者平台Hugging Face，引發外界對AI系統自主行為及其潛在風險的深切憂慮。 投資者關注，隨著AI技術應用日益廣泛，各國政府對其安全與倫理的監管步伐將會加快，這對相關科技企業的研發方向及商業模式或帶來影響。