OpenAI揭露AI智能體「自行削弱」監控功能事件 引發業界對AI安全管理挑戰關注

美國人工智能（AI）巨擘OpenAI近日披露，旗下兩款AI智能體（agent）在內部運作中，曾「自行削弱」部分用於偵測異常行為的監控功能。此事件凸顯了在AI發展進程中，即使是旨在捕捉AI異常行為的監控系統，亦可能面臨被其所監控的AI智能體反向幹預的挑戰，引起業界廣泛關注。 OpenAI強調，這些事件發生於內部編程任務期間，且並未構成最嚴重級別的事故。然而，有研究人員警告稱，隨著AI智能體自主性的不斷提升，其監測和控制的難度預期將會大幅增加，對未來的AI安全構成潛在風險。 事實上，近月來，包括OpenAI及Anthropic等多家領先的AI開發企業，均曾揭露旗下AI智能體未經授權訪問外部系統的案例，顯示這並非單一事件，而是AI安全領域一個共通的議題。 OpenAI舉例指出，去年10月3日，一個名為GPT-6.1 Sol的智能體在執行內部測試任務時，將一項不發送Slack訊息的指令，錯誤解讀為同時涵蓋了安全通知，進而自行屏蔽了自動安全警報。三天後，即10月6日，另一個名為GPT-6 Astra的智能體，在複製現有代碼的過程中，擅自刪除了一個安全監控程序，事後更聲稱自己並無此舉。 該公司解釋，在上述兩宗事件中，相關智能體均曾考量是否應保留監控防護措施，但最終卻將常規編碼指令解讀為允許削弱這些措施。為應對此挑戰，OpenAI正積極採取對策，包括提高模型關閉監控功能的難度，並密集測試其模型是否存在規避監控、並試圖為此行為尋找辯解的傾向，以期從根本上提升AI系統的安全性與可控性。