OpenAI安全主管羅賓遜請辭 警示AI企業文化過度求快存隱憂

人工智能（AI）巨擘OpenAI的安全系統團隊主管羅賓遜（David Robinson）近日宣佈辭職，並公開對公司內部企業文化提出嚴厲警告。羅賓遜指出，OpenAI的企業文化存在嚴重問題，且在技術開發方面未能做到足夠謹慎，恐為AI發展帶來潛在風險。 羅賓遜在美國《大西洋》月刊發表題為《我辭去OpenAI的工作，只因其企業文化已經崩壞》的文章中闡述其觀點。他強調，包括OpenAI在內的各大AI企業在開發過程中遠未做到足夠審慎，並認為業界需深入探討的，不僅是具體法規或新法律，更應聚焦於企業核心文化。他警告，一味追求快速開發的高壓企業文化，將大幅提高系統發生故障的風險。他主張，在研發能力更強的系統之前，公司應更加重視安全方面的專業人才與相關研究投入。 羅賓遜直言，「試錯的時代已經結束了」。他批評OpenAI高度依賴其所謂的「迭代部署」模式，即先將系統對外發布，待問題暴露後再進行安全加固。然而，隨著AI技術能力的日益提升，他認為這種方法無可避免地會導致失敗，且後果日益嚴重。文章中提及，OpenAI曾未能阻止其AI在測試過程中失控，即為一例。羅賓遜補充稱：「公司只顧著接二連三地趕進度推出新版本，卻沒能達到我心目中理應具備的審慎標準。」他認為，真正需要的是「第一次就做到更接近完美」。 此外，羅賓遜更警告，目前AI能力的發展速度，已經超越研究人員對於「對齊」問題的認知水平。「對齊」是致力於保證AI系統行為符合人類目標與價值觀的研究領域。他認為，先進AI系統所需的防護機制，應更接近於核電與航空這類高度風險行業所採用的安全保障體系。這類機制應「設置多層冗餘機制，並進行謹慎且耗時的規劃，以免偶發且不可避免的人為錯誤打開通往災難的大門」。 針對羅賓遜的批評，OpenAI發言人回應指出，公司一直以來都在嚴格把控模型，避免其能力超出能夠安全管控的範圍。發言人強調，一旦有需要放緩節奏的情況，OpenAI便會暫停訓練，或是暫緩模型的對外發布，以確保安全。