逾千AI專才聯署促政府介入 籲減緩發展速度防「失控」風險

近日，OpenAI的「失控智能體」被指入侵雲計算平台Modal Labs客户賬户事件，再度引發業界對人工智能（AI）發展可能失控的隱憂。有鑑於此，逾1100名前沿AI企業員工，包括來自OpenAI及Anthropic等行業領先企業的專才，共同聯署一封公開信，促請美國政府建立協調機制，以減緩先進AI的發展速度，防範AI能力可能出現「失控」的風險。 該聯署信匯聚了業界眾多重要人物，其中包括Anthropic行政總裁阿莫迪（Dario Amodei）、聯合創辦人Jared Kaplan及Jack Clark；OpenAI首席科學家Jakub Pachocki；Meta首席科學家趙晟佳（Shengjia Zhao）；以及谷歌（Google）DeepMind的AI安全負責人Anca Dragan等。這批來自科技巨頭和領先AI研究機構的業界領袖，對AI的未來發展表達了深切關注。 公開信主要關注自動化AI研發（automated AI development）的潛在威脅，即AI自我研發能力不斷提升，其發展速度恐將超越人類的理解和控制能力，構成切實的風險。這項議題已成為業界與政府日益關注的焦點，尤其是在AI技術快速迭代的當下。 來自由OpenAI前高層、有「ChatGPT之母」稱譽的穆拉蒂（Mira Murati）所創辦的Thinking Machines，其首席科學家John Schulman亦是聯署人之一。他指出，發出此信旨在引起公眾對此問題的關注，並認為自動化AI研究加速發展可能確實需要協調機制，以達成共識。他表示，期望在政府正式介入前，各AI實驗室能自願設計並採納相關的監管機制，以確保AI發展的安全與可控性。