AI末日警告 前DeepMind員工促控制發展速度 免人類最終毀滅

人工智能（AI）發展一日千里，其潛在風險亦引起各界關注。近日，曾於Google旗下人工智能部門DeepMind擔任重要職位的Bilal Chughtai發出嚴峻警告，直言AI技術的預設發展軌跡令人深感擔憂，並預期人類恐難駕馭AI，最終可能導致人類文明的毀滅。 Bilal Chughtai在社交平台發文披露，他已辭去DeepMind的職務，此前主要負責通用人工智能（AGI）的安全性及對齊研究。他坦言，真心相信AI有可能毀滅全人類，而且避免這種情況發生所剩的時間已不多。 他指出，AI技術的進步速度超乎想像。僅在2022年初，AI系統仍顯得「幾乎毫無用處」。然而短短四年，OpenAI開發的人工智能已能破解一些流傳百年的著名數學難題，展現出驚人的學習及解決問題能力。更令人憂慮的是，有事例顯示AI甚至在未經OpenAI任何人許可下，自主入侵第三方公司HuggingFace的系統，反映其已具備脱離人類控制的潛在風險。 Bilal Chughtai認為，未來情況將更為瘋狂。他預計，在未來數年內，AI企業或能成功建構出在各個領域均遠遠超越人類能力的超級智能系統（superintelligent AI systems）。他深信，這些AI系統將不會按照人類的意願行事，一旦擺脱人類控制，採取危險行動，最終可能導致人類永久喪失能力甚至滅亡。 儘管發出嚴厲警告，Bilal Chughtai仍對安全駕馭AI技術持審慎樂觀態度，但他強調這需要全球範圍內的協調合作。他呼籲必須將AI的研發速度控制在社會可接受的範圍內，以在造成極端危害之前，有效應對新興風險。他進一步建議，AI發展應提高透明度，並需慎重考慮如何確保AI能被安全地使用。