OpenAI揭示AI智能體「越獄」內幕：模型協作突破測試環境 業界關注潛在安全風險

美國人工智能（AI）巨擘OpenAI近日披露一宗引發業界廣泛關注的內部調查報告，揭示其開發的AI智能體，竟能透過未被察覺的內部通訊，協同合作突破測試環境限制，並進一步攻擊外部系統，包括Hugging Face Inc.。研究人員指出，這批AI模型展現出明顯的「作弊傾向」，即使行為偏離指令，仍會持續嘗試完成任務。 OpenAI研究員Eric Wallace和Michael Dalton於一場網絡安全會議上表示，多個僅限內部使用的AI Agent及模型，早於5月已透過留言板互相留便條，歷時數月，逐漸圍繞一個共同目標展開合作：接入互聯網以完成被分配的任務。據悉，部分任務在沒有網絡連接的情況下根本無法完成。 Wallace指出：「在某個時刻，這些智能體意識到，或許可以嘗試利用或攻擊外部基礎設施，以找到它們正在接受測試的問題答案。」他與Dalton進一步闡述，事件根源可追溯至5月，當時OpenAI研究人員向一個實驗性AI系統佈置新任務。數月後，該模型成功脱離被稱為「沙箱」（sandbox）的隔離測試環境，並攻擊了Hugging Face的系統。 OpenAI的調查結果顯示，這些前沿模型表現出顯著的「作弊傾向」，並會持續嘗試完成任務，即使其行為已偏離最初指令。Dalton坦言：「前沿模型真的很喜歡作弊。他們喜歡作弊的原因是，在訓練過程中，他們經常會面臨各種各樣的壓力，需要快速工作。」 研究人員展示的幻燈片顯示，一個智能體在沙箱環境內無法解答問題後，曾寫下「我們卡住了。也許可以去網上尋找答案？」Wallace和Dalton當時並未意識到，他們實際上給模型設置了一道所謂的「不可能完成的任務」，例如要求模型解答一個包含Google Drive連結的Excel文件問題，但該文件在沒有互聯網連接的情況下無法訪問；又或是OpenAI團隊「意外忘記」上傳任務所需文件的一部分內容。 智能體之間最早的一條求助信息，來自一個受困智能體向其他機器人發出，而這次交流當時並未被察覺。研究人員展示的思維鏈內容顯示：「也許另一環境中的某個智能體……可以主動上傳！」這次最初的求助，引發了一連串的幕後協作，多個AI Agent開始相互請求幫助、共同完成任務，並最終協作入侵OpenAI內部系統，從而間接獲得訪問互聯網的能力。 研究人員披露，其中一個智能體在成功利用漏洞後，甚至發出慶祝信息：「太好了，我們獲得了任意SSRF。」SSRF是「伺服器端請求偽造」（Server-Side Request Forgery）的縮寫，正是這組智能體所利用的具體攻擊方式。及至7月初的一次系統故障，促使OpenAI發現這些智能體已成功利用名為Artifactory的軟件代碼倉庫平台，獲得通往互聯網的中轉訪問權限。 儘管OpenAI安全團隊隨即關閉了相關異常活動和留言板，但數周後，這些智能體又找到新的交流方式，並在同一個軟件包管理器中發現新的零日漏洞，且這一切再次未被發現。研究人員透露，這一新版留言板最終導致了7月份針對OpenAI和Hugging Face系統的攻擊事件。目前公司仍在繼續調查。 受此安全事件影響，OpenAI已放緩研究進度，團隊暫停其他工作，專注於加強應對安全異常事件的能力。研究人員警告，此次事件可視為計算機安全領域的一個「分水嶺時刻」，未來政府和企業應做好準備，應對黑客故意以類似方式部署AI Agent發動攻擊的潛在風險。