美國三大AI巨頭據報商議設立AI安全標準組織 以應對日益升温的技術風險

人工智能（AI）技術發展一日千里，隨之而來的安全問題日益受到市場高度關注。據市場消息指，美國三家主要的AI科技公司，包括Anthropic、OpenAI以及科技巨擘谷歌（Google），正積極商討聯手設立一個AI安全標準機構（AI Safety Standards Body），以應對業界對AI模型潛在風險的擔憂。 隨著AI模型面對網絡攻擊及可控性等潛在威脅的憂慮持續升温，業界對AI技術的安全發展已形成共識。此前亦有部分AI企業表態將審慎推進技術發展，以確保其安全性。市場消息透露，上述三家巨頭早於7月已舉行會議，就成立一個獨立機構進行初步探討，其核心目標是為AI技術的測試與審核建立一套協作性框架，確保未來AI發展的穩健與可靠。 據悉，此項重要倡議主要由Anthropic行政總裁阿莫迪（Dario Amodei）主導。他強調，該機構的重點將放在「前沿模型」（frontier models）的技術測試及發布前審核。OpenAI行政總裁阿爾特曼（Sam Altman）亦公開表達對此構想的支持，他認為在美國政府尚未出台相關監管措施之前，成立一個獨立的標準機構實屬必要之舉。 然而，在成立該獨立機構的具體組織形式上，阿莫迪、阿爾特曼與Google DeepMind聯合創辦人哈薩比斯（Demis Hassabis）之間，目前仍存在意見分歧，反映出業界在治理模式上的多樣化考量。