教宗良十四世首份通諭聚焦AI監管 促「去武裝化」防致命決策交予機器

天主教教宗良十四世發表上任後首份通諭《Magnifica Humanitas》，罕有地以人工智能（AI）作為核心主題，呼籲各國政府審慎推進並嚴格規管AI發展。他警告，必須避免科技被濫用於散播假資訊、加劇衝突，甚至將世界推向「無止境戰爭」的境地。 良十四世在梵蒂岡的發布活動上明確指出，部分自主武器系統已發展至「實際上超出任何人類可管控範圍」。他強調，AI在戰爭中的任何應用都必須受到最嚴格的倫理限制，並明言致命決策不應交由AI系統作出。 通諭進一步闡釋AI「去武裝化」的理念，其意義不僅限於軍事用途，更包括將AI從支配、排斥和死亡的邏輯中釋放出來。教宗強調，AI不僅是效率工具，更關乎人類尊嚴、工作、自由、真相及和平等深層次社會議題。 為此，通諭提出AI發展需要更穩健的法律框架、獨立監督機制、知情用户，以及不放棄責任的政治制度。良十四世尤其關注AI數據不應完全由私人控制，政策制定者必須保障工人權利，並保護兒童免受相關技術的負面影響。他表示，當一切發展都在加速時，政治介入的能力更顯重要，必要時應放慢發展步伐，而非任由市場競爭及企業利益主導AI的發展方向。 軍事應用是今次通諭最尖鋭的部分之一。良十四世警告，若AI被部署於戰場，武力使用的責任可能變得模糊，並可能削弱人類對戰爭與和平的判斷力。通諭同時批評近年全球衝突頻仍、平民受害規模龐大，軍工利益已成為推動戰爭的因素之一。良十四世直言，傳統用以判斷戰爭正當性的「正義戰爭」理論已過時，因為武力、暴力及武器的使用往往為平民帶來災難性後果。 Anthropic共同創辦人Chris Olah亦以講者身份出席梵蒂岡的發布活動。他指出，AI發展不應只由科技公司決定，而應有宗教界、政府及公民社會等外部力量參與監督。Olah續指，前沿AI實驗室在商業、地緣政治及個人壓力下運作，其誘因有時會與社會整體利益產生衝突；即使研究人員抱持良好意願，亦難免受這些力量影響。 Olah進一步警告，AI有可能大規模取代人類勞動力，若此情況發生，支援被取代的勞工將成為重大的道德責任。Olah亦提到，AI發展目前集中於少數富裕國家，社會需思考如何確保AI帶來的利益能更公平地在全球分配。