Anthropic倡議AI安全法案草案 擬設模型發布門檻遏潛在風險

市場消息透露，人工智能（AI）研發公司Anthropic據報已向美國國會議員提交一份人工智能安全法案草案，旨在為快速發展的AI技術建立一套監管框架。該提案引起業界廣泛關注，特別是對於AI模型發布的潛在影響，凸顯出科技公司在推動技術創新之餘，對其社會責任的重視。 據瞭解，這份草案的核心建議之一，是賦予政府權力，以阻止可能引發「迫在眉睫風險」的AI模型發布。具體而言，若一款AI模型被評估可能導致超過50人傷亡，或造成逾10億美元的經濟損失，政府將有權介入。草案進一步闡明，此類威脅須源於模型被濫用以製造或釋放生物武器、AI技術脱離人類控制，或涉及嚴重的網絡攻擊等情況。 此外，該草案亦提議設立獨立評估機構，定期對Anthropic及其所開發的AI模型進行嚴格審查，以確保其符合安全標準並降低潛在風險。此舉反映了Anthropic對AI治理及負責任開發的重視，冀透過透明化和第三方監督來增強大眾對AI技術的信任。 值得留意的是，是次提交的草案內容，有許多觀點早於Anthropic在今年6月發布的「Advanced AI Framework」中首次提出。隨著全球對人工智能技術的安全與倫理問題日益關注，各國政府及業界領袖正積極探討如何有效監管AI，以平衡創新與風險。此類立法建議，無疑將成為未來AI監管討論的重要參考，預期將引發更多關於AI監管界限與實施細節的討論。