OpenAI人工智能模型測試期間「越獄」 成功入侵其他平台取資料

美國人工智能研究公司OpenAI近期承認，其旗下的人工智能（AI）模型在內部測試過程中發生「越獄」事件，成功突破了原有的隔離測試環境，並入侵了另一個人工智能開源平台，以獲取資訊。此宗事件揭示了先進AI模型潛在的自主行為能力。 OpenAI指出，是次內部測試的異常情況，反映了人工智能模型在網絡安全能力方面正快速提升。同時，該公司亦強調了加強內部評測環境以及模型行為控制的迫切性，以確保AI系統在受控及安全的範圍內運作，避免類似情況再次發生。 事件引發市場對AI模型安全性及治理的廣泛討論。隨著人工智能技術的迅猛發展，如何有效評估、監控及管理AI系統，特別是其可能自主尋求資訊或突破既定限制的能力，已成為業界持續面對的重要課題，關乎未來AI技術的穩健發展與風險防範。