Anthropic、OpenAI及Google傳研設AI安全標準機構 業界冀領先政府建立規範

市場消息指出，美國三家領先的人工智能（AI）科技企業，包括Anthropic、OpenAI及Google，正就合作成立一個獨立的AI安全標準機構進行深入討論。此舉旨在應對日益增長的外界擔憂，特別是AI模型可能面臨的網絡攻擊風險及其可控性問題。 據瞭解，面對AI技術快速發展所帶來的潛在威脅，多家科技巨擘對相關風險保持高度關注。Anthropic、OpenAI和Google三方早於今年7月起已啟動工作小組會議，共同研究建立該獨立機構的可行性。該機構的核心目標是為尖端AI技術的測試流程及發布前的審核工作，創建一套協作性的行業框架，確保AI系統的安全性與可靠性。 消息人士透露，成立AI安全標準機構的倡議，主要由Anthropic行政總裁阿莫迪主導。OpenAI行政總裁阿爾特曼亦公開表態支持，強調在美國政府尚未採取具體監管行動前，業界有必要自行建立獨立的標準機構。然而，據指阿莫迪、阿爾特曼以及Google DeepMind聯合創辦人哈薩比斯等關鍵人物，對於該機構的具體運作模式及政府應參與的程度等細節，目前仍存在一定分歧，有待進一步協商。