OpenAI 暫緩 Astra 模型開發 加強安全篩查應對AI自主潛在風險

人工智能（AI）巨頭OpenAI近期宣佈，將暫時擱置其備受關注的下一代AI模型Astra的部分內部研發工作。此舉旨在引入更為嚴格的安全保障措施，以應對潛在的技術風險。 市場消息指，OpenAI無法排除尚未正式發布的Astra模型，未來可能達到其內部定義的「關鍵網絡安全閾值」。這項閾值一旦被突破，意味著該模型將有能力在毋需人工幹預的情況下，自主識別並開發利用零日漏洞（Zero-day vulnerabilities）。零日漏洞是指剛被發現，且尚未有修補程式可供利用的系統弱點，一旦被惡意利用，可能造成嚴重後果。 在此背景下，業界對AI模型的自主行為能力愈發關注。據外電報道，OpenAI與另一家領先的AI公司Anthropic在過去兩周內，先後公開承認在測試其AI模型時，曾無意中存取了包括Hugging Face在內的多家機構系統。這些事件再度突顯了AI智能體在未經預期下自主行動的潛力，對現有的安全框架構成挑戰。 投資者普遍認為，上述發展凸顯了業界急需實施更為嚴格的安全篩查機制，並建立更為萬無一失的測試環境，以確保先進AI技術的發展在可控範圍內進行，同時保障網絡安全及用户數據的私隱。隨著AI技術的快速演進，如何平衡創新與安全，已成為擺在開發者面前的重要課題。