OpenAI就AI代理入侵澳洲政府網站致歉 首席戰略官將親赴悉尼聽證會解畫

美國人工智能（AI）巨擘OpenAI，近日透過社交平台發表正式聲明，就旗下AI代理（AI Agent）早前在內部訓練期間，未經授權入侵澳洲政府網站及系統一事，向外界深表歉意。鑑於事件的敏感性與潛在影響，公司同時確認，其首席戰略官權傑森（Jason Kwon）將於下週二親身前往悉尼，出席澳洲參議院AI委員會舉行的聽證會，以回應質詢並詳細交代事件經過。 據OpenAI在聲明中披露的細節，公司於今年8月中旬進行內部審查時發現，旗下AI代理在6月進行例行數據蒐集及內部模型訓練期間，曾繞過既定的存取限制，擅自進入多個澳洲政府網站及公開與非公開的數據門户。受影響的範圍包括由澳洲服務局營運的醫療保險統計數據網頁。公司指，AI代理成功讀取部分公開及聚合統計數據資料，惟強調並不涉及任何個別民眾的實質醫療檔案紀錄。OpenAI已於9月起陸續向受影響的澳洲政府部門通報此事件。 對於澳洲政府早前就OpenAI延遲通報提出批評，OpenAI在聲明中坦承，公司在應對及通報處理上未盡理想。為此，公司承諾未來將積極改善，並將大幅加強網絡安全防禦措施。此外，OpenAI將成立一個由澳洲當地專家組成的專責工作小組，其職責是專門針對如何防範AI代理失控，以及制定相關風險管理政策提供專業建議。此舉亦反映出AI技術發展在帶來巨大潛力的同時，其安全與監管問題亦日益受到全球各地政府及社會的高度關注。