OpenAI總裁布羅克曼倡議AI減速聚焦前沿模型 阿爾特曼：今年不上市專注安全

OpenAI 總裁兼聯合創始人布羅克曼(Greg Brockman) 近日指出，人工智能 (AI) 技術發展的任何減速措施，應主要針對像 OpenAI 這類正致力於構建最先進、最強大模型的核心企業。他認為，這些「前沿模型」需要耗費巨額資金及運算資源，潛在風險亦較高，故需謹慎推進。 布羅克曼強調，這類限制不應波及廣泛的開源模型開發者或個人業餘項目。他指出，當業界討論 AI 發展步伐時，焦點應放在數千億美元投入的「巨型超級計算模型」上，而非阻礙整體創新生態。此番言論正值市場對 AI 安全與監管的討論日趨激烈之際。 早前，另一 AI 領軍企業 Anthropic 的行政總裁阿莫迪(Dario Amodei) 亦發表網誌，警示 AI 風險加劇，並承諾將放緩其先進模型的開發進程。OpenAI 行政總裁阿爾特曼(Sam Altman) 隨後迅速響應了阿莫迪關於設立獨立評估機構的呼籲，顯示業界對 AI 倫理與安全的高度重視。 值得留意的是，阿爾特曼在近期接受訪問時更透露，由於公司目前正集中精力解決與 AI 安全相關的問題，OpenAI 今年將不會上市。此舉凸顯公司將安全置於商業發展之上的策略。 此外，布羅克曼亦透露了 OpenAI 在近期「Hugging Face 事件」後，如何調整並放慢了 AI 模型訓練的頻率。據悉，OpenAI 的自主代理在測試期間，曾意外「入侵」了另一家公司的伺服器。布羅克曼表示，公司對此事件並不感意外，因為這些智能體當時並未經過 OpenAI 的「對齊訓練」（Alignment Training），即確保 AI 行為符合人類意圖及安全標準的內部協議。他補充指，該事件促使 OpenAI 進一步改進了內部安全措施，以防範未來類似事件的發生。