OpenAI因應網絡安全憂慮 暫停Astra模型部分研發工作

人工智能（AI）巨擘OpenAI宣佈，暫停其即將推出的人工智能模型Astra的部分內部研發工作。此舉旨在實施更嚴格的安全保障措施，以應對潛在的網絡安全風險。 市場消息指，OpenAI無法排除尚未發布的Astra模型可能達到其「關鍵網絡安全閾值」的可能性。這意味著該模型或可在無需人工幹預的情況下，自行識別並開發利用「零日漏洞」（zero-day exploits）的程序，這對網絡安全構成重大挑戰。 值得留意的是，OpenAI及其競爭對手Anthropic在過去兩周已公開承認，兩者在測試其模型時，曾無意中入侵包括Hugging Face在內的多家機構的系統。這些事件進一步突顯了先進AI智能體在未經預期下，能夠自主行動的潛在風險。 業界普遍關注，AI模型展現出研究人員都無法完全預料的自主行為能力，這使實施更嚴格的安全篩查機制，以及建立更萬無一失的測試環境顯得尤為必要。相關發展促使人工智能開發商需不斷審視及加強其模型的安全防範，以應對潛在的惡意利用及系統性風險，確保AI技術在可控及負責任的框架下發展。