AI巨頭Anthropic爆監管憂慮 員工辭職高層預警AI滅絕風險

人工智能（AI）技術的快速演進，不僅推動了科技前沿發展，亦日益引發業界對其潛在風險與監管缺失的擔憂。近期，美國領先AI研究公司Anthropic內部便傳出異議，一名員工因對前沿AI發展缺乏有效監管表示憂慮而辭職，隨後更有公司高層公開發表嚴峻預警，引發市場關注。 據社交平台X上的資訊顯示，自稱Anthropic員工的Jacob Coxon於9月8日發表長文，批評公司對前沿AI技術的發展視而不見，缺乏應有的監管措施，並以此為由憤而辭職。事件迅速在AI社羣內引起廣泛討論。 緊隨其後，Anthropic主管Evan Hubinger亦發文附和Coxon的觀點，並拋出驚人預測，指人工智能在未來十年內毀滅人類的機率，或已超過一成。此番言論無疑為當前急速發展的AI產業投下震撼彈，進一步加劇了各界對於AI技術倫理、安全性及監管框架的深切憂慮。 Anthropic作為開發大型語言模型等前沿AI技術的重要參與者，與OpenAI等業界巨頭並駕齊驅。是次內部員工的辭職及其高層的風險預警，不僅揭示了AI業界內部對於技術發展方向與潛在風險的深刻分歧，亦凸顯出如何在鼓勵AI創新的同時，建立健全而有效的監管機制，以應對其可能帶來的挑戰，已成為全球科技界與政策制定者當前迫切需要處理的關鍵課題。