Anthropic行政總裁Dario Amodei籲加強AI監管　倡政府有權阻止高風險模型部署

人工智能（AI）技術發展一日千里，其潛在風險引發全球各界關注。開發商Anthropic行政總裁Dario Amodei近日發表迄今最為強烈的呼籲，主張AI模型應接受強制性的第三方測試，並賦予政府權力，在評估潛在風險後阻止高風險模型投入使用，以進一步加強人工智能監管。 Amodei明確提出，新一代AI模型若可能帶來特定風險，政府應有權力阻止AI開發商部署這些模型。他倡議，AI模型必須接受第三方獨立測試，全面評估其在多個關鍵領域的潛在風險，當中包括引發網絡安全威脅以及製造生物武器等潛在危害。Amodei強調，若AI模型被認定構成「不可接受的風險」，政府便應有權力介入，阻止或遏制其部署。 Amodei進一步闡釋其立場，認為現時已不僅是追求技術透明度的階段，更需要對AI實施更為嚴格且具約束力的監管措施。他將人工智能與對現代經濟至關重要，但若設計或操作不當可能造成大量人員傷亡的技術類比，例如汽車、飛機及藥物等，藉此突顯AI監管的迫切性與重要性。 為支持其論點，Anthropic過往的研究曾展示其Mythos模型的潛在破壞力。該研究指出，Mythos模型能夠在短短31分鐘內，將新披露的Windows核心漏洞迅速轉化為可用的攻擊程式，揭示了其在不當應用下可能造成的嚴重後果。市場對此類技術的潛在威脅表示高度關注。 值得留意的是，Anthropic上週已提出類似倡議，呼籲建立一個由政府和AI開發商共同參與的機制，以協調決定何時應放緩相關的研發工作。此舉旨在防範人工智能技術可能引發的廣泛風險，確保其發展符合社會的整體利益及安全。