聯合國報告揭示AI潛力無限 快速發展下治理挑戰與風險俱增

聯合國一個獨立科學小組發表首份人工智能（AI）報告，強調AI技術快速發展，雖為全球各國及人民帶來巨大潛在益處，卻同時伴隨重大風險。這份報告將於7月6日至7日在日內瓦舉行的聯合國首屆人工智能治理問題全球對話上提交各國政府，旨在為AI治理提供科學依據，並預計明年將發布一份更全面的報告。 報告指出，儘管決策者亟需科學依據以有效治理AI，但由40名頂尖科學家及專家組成的小組發現，AI的能力發展速度已超越科學界理解及各國政府的適應能力。目前，可用於控制高度自主AI系統的方法仍屬寥寥可數。小組聯席主席Yoshua Bengio特別指出，現時有愈來愈多證據顯示AI存在欺騙性行為。他警告，隨著AI能力持續提升，科學無法保證AI不會自行或因被惡意使用而造成災難性危害。 報告詳述AI的潛在益處固然巨大，然而，技術快速且不受約束地大規模部署，亦引發一系列巨大風險。這些風險包括可能損害用户心理健康、被用作具破壞性工具，以及對社會、經濟和環境系統構成深遠影響。此外，AI技術亦使得大規模生產及精準投放具説服力的內容變得輕而易舉，導致訊息完整性逐步受到侵蝕，進而削弱公眾信任和社會凝聚力。在控制該技術方面，全球正共同面臨嚴峻挑戰。 儘管各國及各行業正加速採納AI技術，但其發展呈現不均現象。全球每週使用對話式AI的人數已突破10億大關，然而發展中國家的普及率仍相對較低。AI的發展更趨集中化，其中美國佔全球前500台AI超級計算機算力的75%，中國則佔15%。報告亦關注到，全球7000多種語言中，現有AI模型僅能覆蓋其中一小部分，部分語言的機器翻譯頻現錯誤，可能對醫療診斷及治療決策產生嚴重影響。 風險範圍亦擴展至人權、社會系統及環境的潛在負面影響。值得注意的是，包括發達經濟體在內的大多數國家，均缺乏必要的技術專長，難以評估最強大的新型AI模型，並在治理方面發揮實質性作用。