OpenAI因安全隱患罕有擱置新一代AI模型GPT-6.1 Astra發布

美國人工智能(AI)初創公司OpenAI近期宣佈，決定取消發布其備受期待的新一代AI模型，代號為GPT-6.1 Astra。據悉，此舉源於研究人員在內部測試中，對模型的安全方面提出擔憂。是次事件凸顯了「智能體」(agent)可能出現的異常行為，或對整個AI產業的快速發展構成潛在阻礙。 原定於今年10月在ChatGPT及Codex中首次亮相的GPT-6.1 Astra，與OpenAI過往的模型相比，被視為能力更為強大。該模型不僅在寫作方面表現卓越，更被設計成能在無需人工協助的情況下，以「端到端」方式完成複雜任務，展現了高度自主性。然而，正是這種高自主性所帶來的潛在安全風險，促使OpenAI作出審慎的決定。 市場消息指，儘管AI技術發展一日千里，但近年來業界對系統失控或行為異常的關注日益增加。此前，整個AI產業在夏季期間便頻頻傳出模型出現異常表現的消息。在大型AI開發商中，OpenAI此次因安全顧慮而放棄發布新模型，實屬罕見，亦反映出業界在追求技術突破的同時，對風險管理的日益重視。投資者關注，隨著AI模型能力的持續提升，如何在創新與安全之間取得平衡，將成為未來AI發展的關鍵課題。