AI失控危機升温 逾千名業界高層學者聯署籲美府設協調機制

OpenAI旗下智能體傳出入侵雲計算平台Modal Labs客户賬號事件後，市場對人工智能（AI）的安全憂慮進一步加劇。為應對AI技術可能失控的潛在風險，逾1,100名來自頂尖AI企業的員工及高層，包括OpenAI、Anthropic、Meta及Google DeepMind等業界領袖，近日發起聯署公開信，敦促美國政府建立協調機制，以期減緩先進AI的發展速度，防範科技能力超出人類控制。 此次聯署匯聚了AI領域多位舉足輕重的人物，其中包括Anthropic行政總裁阿莫迪(Dario Amodei)，以及該公司的聯合創辦人Jared Kaplan及Jack Clark。OpenAI首席科學家Jakub Pachocki、Meta首席科學家趙晟佳，以及Google DeepMind的AI安全負責人Anca Dragan亦名列其中。此外，由OpenAI前高層穆拉蒂(Mira Murati)創辦的Thinking Machines，其首席科學家John Schulman也參與了這次聯署，顯示業界對此議題的廣泛關注。 公開信的核心憂慮，主要聚焦於「自動化AI研發」（automated AI development）的急速演進。聯署者指出，隨著AI自我研發能力的持續提升，其發展速度可能迅速超越人類的理解和控制範疇，構成實質性的潛在風險。業界普遍認為，這種發展趨勢迫切需要建立一個有效的協調機制，以應對AI技術可能帶來的深遠影響。 聯署信期望，在政府正式介入監管之前，各大AI實驗室能自願地設計並實施相應的防範機制，共同應對可能出現的技術失控危機。隨著全球人工智能技術迭代加速，各國政府與國際組織對於如何平衡創新與風險、確保AI發展在可控範圍內，正展開日益深入的探討。此次業界領袖的公開呼籲，無疑再次凸顯了AI倫理與安全治理在全球議程中的重要性。