Anthropic行政總裁促強制測試AI模型 籲賦予政府幹預權阻止部署

隨著人工智能（AI）技術的迅猛發展，其潛在風險及監管框架問題日益成為業界及政策制定者的討論焦點。美國領先AI開發商Anthropic的行政總裁Dario Amodei近期提出強烈呼籲，建議如果新的人工智能模型可能帶來特定風險，政府應被賦予權力，以阻止AI開發商部署這些模型。 Amodei在一篇長文中詳細闡述其觀點，倡議所有AI模型都應接受獨立第三方強制測試。此舉旨在全面評估模型在多個關鍵領域可能引發的潛在風險，包括網絡安全威脅的生成以及製造生物武器的可能性。他明確指出，如果經評估後，AI模型被認定「構成不可接受的風險」，政府應有權力介入，阻止或限制其部署，以防範技術失控或被濫用。 Anthropic上週亦曾呼籲建立一套由政府與AI開發商共同協商的機制。該機制將旨在決定何時應放緩相關的研發工作，以有效防範該技術可能帶來的深遠風險。 Amodei強調，當前已是「時候超越單純的透明度，對人工智能實施更嚴格且更具約束力的監管」。他認為，至少在當前技術呈指數級發展的階段，最恰當的類比是將AI視為汽車、飛機或藥物等。這些技術對現代經濟至關重要，但若設計或操作不當，則可能造成大量人員傷亡。其言論反映了AI業界對未來技術發展方向的深思熟慮，以及對安全和倫理問題日益增長的關注。