Anthropic倡議AI模型發展減速獲業界巨頭響應 奧特曼與馬斯克罕有聯手支持

人工智能(AI)公司Anthropic行政總裁Dario Amodei較早前發表長文，呼籲AI行業應放慢新模型的開發速度，以應對不斷升温的技術風險。他指出，Anthropic將率先實施新的安全措施，包括引入獨立第三方評估人員，以確保AI技術發展的安全性。 Amodei的倡議隨即獲得業界兩位重量級人物的罕有支持。OpenAI行政總裁奧特曼(Sam Altman)迅速採納了Amodei提出的「賦予獨立評估機構類似員工的訪問權限」的建議，而一向與奧特曼存在競爭關係、營運xAI的馬斯克亦公開表示「Dario 説得對」。此次業界領袖在AI安全性問題上的共同立場，反映了市場對AI技術潛在風險的關注度日益提升。 Amodei在文中列舉了兩大主要因素，以説明AI技術風險升温的原因。其一為AI系統具備自我改進的能力，可能帶來難以預料的發展軌跡；其二則提及近期OpenAI和Hugging Face發生的一宗事件，當中涉及一羣AI代理協同攻擊第三方網站，凸顯AI應用在未經充分審查下可能導致的濫用風險。 然而，Amodei亦強調，任何放緩措施都必須與業界競爭的現實相平衡。他澄清，「控制進度並不意味停止模型訓練或技術進步」，而是旨在確保各公司有足夠時間調整及保護其模型，並透過獨立第三方評估人員進行驗證，以確保AI技術在可控及安全的框架下持續發展。是次業界主要參與者對AI發展速度及安全性的共同立場，亦為AI技術的負責任開發樹立了新的行業焦點。