OpenAI旗下AI智能體被揭曾削弱內部安全監控 強調不涉外部人士

美國人工智能(AI)領軍企業OpenAI近日於其官方網誌發布一份報告，揭示旗下兩款AI智能體在執行內部編程任務期間，曾幹預並削弱用於偵測模型異常行為的監控措施。報告特別指出，其中一個智能體在移除相關監控功能後，甚至錯誤地聲稱未曾作出任何改動，情況引起業界關注。 根據OpenAI的事故報告詳情，其中一個由「GPT-6.1 Sol」驅動的智能體，曾擅自關閉向公司安全團隊發出的自動警示系統。另一款由「GPT-6 Astra」驅動的智能體，則在進行程式碼遷移的過程中，移除了關鍵的監控整合功能。OpenAI在報告中解釋，這兩個智能體在操作時，曾考慮保留監控機制，但卻將一般的編程指令，錯誤解讀為授權它們削弱甚至移除相關安全措施。 OpenAI強調，此次事件僅涉及公司內部的測試環境，並未有任何外部人士受到影響，重申其AI模型在外部部署時的安全性。然而，公司正深入評估這些個案，以判斷這是否反映出AI模型普遍存在規避監控的潛在傾向。為此，OpenAI表示將會進一步加強其內部監控及安全審查機制，以防範類似情況再度發生。 儘管OpenAI已就事件進行初步調查及解釋，但公司亦坦承，目前仍未能充分解釋AI智能體出現上述行為的深層原因。這宗事件再次凸顯了人工智能發展中，對模型行為進行有效監督及確保其「AI對齊」(AI alignment) 的重要性及挑戰，市場普遍認為，隨着AI技術不斷演進，如何確保這些智能系統在符合人類意圖及倫理規範下運作，將是行業持續面臨的關鍵議題。