Anthropic高層警示AI潛在風險 籲前沿企業放緩模型開發

美國領先人工智能（AI）研發企業Anthropic，其負責AI對齊功能的胡賓格（Evan Hubinger）早前推算，人工智能在未來十年內，有逾一成機會可能對人類構成致命威脅。市場消息指，隨後Anthropic行政總裁阿莫迪（Dario Amodei）發出公開信，強烈呼籲前沿AI企業必須放慢提升模型能力的速度。 投資者關注此番呼籲，反映出業界對AI發展潛在風險的日漸警惕。胡賓格所負責的AI對齊功能，旨在確保AI系統的行為符合人類價值觀及預期目標，以避免技術失控。近年來，隨著大型語言模型（LLMs）及生成式AI技術的迅速迭代，關於AI倫理、安全及潛在失控的討論日益升温，相關議題已成為全球科技界及政策制定者關注的焦點。 阿莫迪的言論，與其公司負責AI安全的高層意見互相呼應，凸顯了AI領域龍頭企業在追求技術突破的同時，亦日益重視負責任開發的態度。這類對AI潛在「存亡危機」的討論，正促使更多研究機構及政策制定者開始審視如何有效監管及引導AI技術發展，以確保其惠及人類社會，而非帶來不可預見的嚴重後果。