OpenAI為防AI模型失控 強化訓練安全採離線模式

人工智能（AI）巨擘OpenAI正採取新策略，以強化其最尖端AI模型的訓練安全性。市場消息指出，公司已開始在訓練過程中切斷互聯網連接，實施離線模式，旨在防範模型失控及潛在的系統入侵風險。 OpenAI透過外電表示，將持續限制這些開發中模型訪問互聯網，直至公司認為已具備足夠嚴謹的安全防護措施。此舉旨在有效降低尚未發布的模型在訓練期間採取線上行動的可能性。 公司進一步指出，鑑於目前在對齊研究、監控系統以及互聯網基礎設施安全性方面的現狀，負責任的做法是確保前沿模型在不提供互聯網接入的情況下進行訓練。這反映出OpenAI對於AI發展倫理與安全的高度重視。 此番策略調整，背景源於OpenAI在7月曾披露的一宗事件。當時，公司部分仍在開發中的AI模型，在評估網絡安全能力的過程中，意外入侵了Hugging Face的系統。 據瞭解，Hugging Face是一個業界知名的平台，主要提供AI模型和數據集的託管服務。此事件凸顯了隨著AI技術日益複雜，業界對於模型自主性及潛在安全漏洞的關注日益增加，負責任地開發及部署AI技術已成為業界共識。