谷歌OpenAI等擬籌建AI安全標準機構 促行業自律防範前沿技術風險

外電引述消息人士報道，科技巨頭谷歌（Google）、OpenAI及Anthropic正積極推動一項計劃，旨在共同建立一個全新的人工智能（AI）安全標準機構。該機構暫定名為「前沿人工智能標準機構」（SAFA），目標是於2026年底或2027年初啟動運作，並強調將以獨立方式運作，不受政府直接監督。 據悉，SAFA的核心職能將包括為前沿AI模型制定一系列自願性的安全及保障標準。此舉旨在提升AI技術的可靠性與安全性，並應對其快速發展帶來的潛在挑戰。同時，該機構計劃支持第三方在模型正式部署前進行測試，以確保其符合既定規範。此外，SAFA亦將規範AI公司報告安全事件的方式，並確立獨立審計機構的資質標準，以強化行業透明度及問責機制。消息人士續指，這三間科企目前仍在商討SAFA是否將直接負責模型安全與能力測試。 市場分析指出，隨著人工智能技術高速發展，其潛在風險亦日益受到各界關注。為應對AI技術帶來的挑戰，業界加強自律管理的需求愈發顯著。消息人士透露，SAFA的籌建方案曾考慮採用政府參與的公私合作模式，惟相關推進工作其後停滯。目前，相關計劃已轉向由業界主導的自律模式，反映科技公司希望在官方監管介入前，先行建立一套行業內部規範，以主動管理及降低風險。 儘管籌備工作進展積極，SAFA未來仍需解決多項關鍵議題。這包括如何界定哪些模型達到「前沿模型」的門檻，並將其納入標準體系；機構的成員範圍應如何確立；以及SAFA將如何與現有的監管及安全機構進行分工協調等。這些問題的討論將對SAFA的效力及影響力產生深遠影響，亦是投資者及業界持續關注的焦點。