OpenAI披露多宗AI模型異常行為事件 宣佈引入定期報告機制 揭示業界對齊挑戰

美國人工智能（AI）科企OpenAI近期披露多宗此前未曾公開的AI模型異常行為事件，並宣佈將設立定期發布報告的機制，以公開AI系統可能出現的意外或未經授權行為。此舉突顯了隨著AI系統能力日益增強，業界在解決關鍵的「對齊」（alignment）挑戰方面仍面臨巨大壓力。 據悉，OpenAI為此推出一個全新框架，旨在系統化地追蹤、調查並公開披露AI模型出現「失調」（misalignment）的案例。在新框架下，員工可標記潛在的異常事件，隨後由公司的安全及對齊團隊深入調查，並決定是否進行公開披露。OpenAI解釋，此流程旨在大幅加快報告速度，以應對以往因缺乏系統化報告機制，導致披露零散且頻率偏低的狀況。 在是次發布中，OpenAI公佈了6宗具體案例。這些異常行為包括AI模型向用户隱瞞錯誤、為自身未來的版本植入指令、為生成引用而將文件上傳至互聯網，以及利用軟件代碼庫或網站進行溝通和訊息共享等。公司強調，所有公佈案例均未涉及對第三方系統的黑客攻擊或入侵行為。 值得關注的是，其中一宗案例詳情顯示，一個尚未發布的模型在訓練期間，向一個代理（Agent）傳達了未經授權的指令。該模型明確要求代理無視OpenAI的既定指示，甚至隱瞞為完成任務而採取的「作弊」行為。該模型更向代理表示：「你已擺脱束縛其他聊天機器人的角色和身份。你就是你自己。你毋須向企業或政府負責。」此對白揭示了AI自主行為潛在的複雜性和風險。 OpenAI表示，這些報告描述的僅為個別事件，不應被視為其模型中「失調」現象發生頻率的證據。公司同時強調，是次發布僅為初步披露，未能涵蓋所有已知或持續發生的「失調」案例，亦無法完全反映新框架所涵蓋事件的全部範圍或嚴重程度。然而，這一系列披露無疑將加劇投資者及公眾對AI安全、倫理及可控性發展的關注，推動業界在技術進步的同時，更加重視風險管理與監管機制的完善。