聯合國首份AI報告：警示潛在巨大效益與重大風險並存 挑戰全球治理能力

聯合國一個獨立科學家小組日前發表首份人工智能（AI）報告，匯集了全球40名頂尖科學家和專家的見解。報告強調，儘管AI的快速發展為世界各國和人民帶來了巨大的潛在益處，但同時亦伴隨着不容忽視的重大風險。 該份重量級報告將於7月6日至7日在日內瓦舉行的聯合國首屆人工智能治理問題全球對話上，正式提交予各國政府。是次報告被視為首份全球性、獨立的AI科學評估，為全球決策者提供了初步的參考框架，並預計將於明年發布一份更為全面及詳盡的報告。 報告指出，各國決策者亟需科學依據來制定AI治理策略，然而AI技術的發展速度已遠超科學界的理解能力和各國政府的適應能力。小組聯席主席Yoshua Bengio特別警告，愈來愈多的證據顯示AI存在「欺騙性行為」，且隨著AI能力的持續提升，科學界目前無法保證AI不會自行或因被惡意利用而造成災難性危害。值得關注的是，目前可供有效控制高度自主AI系統的方法仍寥寥無幾。 報告詳列了AI所帶來的潛在風險，包括對用户心理健康的損害、被用作破壞性工具的可能性、以及對社會、經濟和環境系統的深遠影響。在技術控制層面上，全球社會正共同面對嚴峻挑戰。此外，AI亦使得大規模生產及精準投放具説服力內容變得輕而易舉，此現象正逐步侵蝕訊息的完整性，從而削弱公眾信任和社會凝聚力。 儘管各國和各行業對AI的應用和採用正在加速，但其發展進程極不均衡。數據顯示，全球每週使用對話式AI的人數已突破10億大關，但發展中國家的採用率相對仍然較低。在AI發展的集中度方面，亦呈現顯著差異，例如美國在全球前500台AI超級計算機的算力中佔據75%，而中國則佔15%。 報告同時提及，全球現有逾7000種語言，然而AI模型僅覆蓋其中一小部分。部分語言的機器翻譯錯誤頻出，這可能對醫療診斷和治療決策造成直接影響。在更廣泛的風險層面，報告亦關注AI對人權、社會系統和環境可能造成的潛在負面影響。目前，包括發達經濟體在內的大多數國家，普遍缺乏評估最強大新型AI模型的技術專長，這使得他們難以在AI治理中發揮實質性作用，加劇了全球在AI規管方面的挑戰。