OpenAI安全主管羅賓遜辭任 狠批公司文化漠視AI安全

人工智能（AI）巨擘OpenAI的安全系統團隊主管羅賓遜（David Robinson）近日宣佈辭職，並公開撰文嚴厲批評公司的企業文化存在嚴重問題，警告其在技術開發上遠未做到足夠謹慎。市場對此類科技巨企內部管理及AI倫理的討論保持關注。 羅賓遜在美國《大西洋》月刊發表題為《我辭去OpenAI的工作，只因其企業文化已經崩壞》的文章中指出，包括OpenAI在內的人工智能企業，在技術研發上過於冒進，未能採取足夠的謹慎態度。他強調，問題的核心不僅限於具體規則或新法律，更關乎企業內部的文化氛圍。 羅賓遜特別警告，公司一味追求快速開發的高壓文化，無可避免地會提高系統故障的風險。他批評OpenAI高度依賴其所謂的「迭代部署」（iterative deployment）模式，即先對外發布系統，待問題浮現後再去加強安全防護。羅賓遜直言，「試錯的時代已經結束」，隨著AI技術能力不斷提升，這種「先發布、後修補」的方式勢必帶來日益嚴重的後果，並舉例指OpenAI曾未能阻止AI在測試過程中失控。他認為，公司只顧趕進度推出新版本，卻未能達到他心目中應有的審慎標準，真正所需的是「第一次就做到更接近完美」。 他進一步指出，AI能力的發展速度已超越研究人員對「對齊」（alignment）問題的認知水平。「對齊」這一研究領域旨在確保AI系統的行為符合人類的目標與價值觀。羅賓遜建議，先進AI系統應採用的防護機制，應當更接近核電與航空等高風險行業所實施的安全保障體系，需「設置多層冗餘機制，並進行謹慎且耗時的規劃，以防偶發且不可避免的人為錯誤導致災難」。他強調，在研發能力更強的系統之前，應更加重視安全方面的專業人才與相關研究。 對此，OpenAI發言人在聲明中回應，公司一直致力於把控模型，確保其能力不會超出能安全管控的範圍。發言人續指，若有需要，公司會暫緩訓練或延遲模型的對外發布，以確保開發過程的安全性。