英王查理斯三世示警AI潛在「生存威脅」 促建全球管控機制

英王查理斯三世日前在蘇格蘭主持一場與多位人工智能(AI)企業領袖的峯會，會上對AI技術的發展表達深切關注。他警告，若人工智能技術落入不法之徒手中，恐將對人類社會構成「生存威脅」，並因此呼籲各界務必在情況惡化前，迅速建立有效的管控機制，以應對其潛在的災難性後果。 是次峯會匯聚了業界翹楚，凸顯了全球對AI發展倫理與安全的高度重視。出席者包括Nvidia(輝達)行政總裁黃仁勳，以及OpenAI和Anthropic的代表等，共同商討AI技術的未來走向與挑戰。 查理斯三世在發言中指出，人工智能無疑具備改善人類生活、甚至挽救生命的巨大潛力，尤其在生命科學及醫療領域的應用前景廣闊。然而，他同時引述開發者日益增長的憂慮，指這項技術可能發展出更「黑暗」的能力，甚至構成奪走生命的風險。他強調，社會迫切需要充分考慮這類技術一旦被不法之徒利用，並用於可能造成災難性後果的情況時，所帶來的嚴峻生存威脅。 Nvidia(輝達)行政總裁黃仁勳在峯會上亦發表看法，他強調人工智能的開發必須秉持「負責任的樂觀主義」原則。他認為，開發者自身應肩負起相應的責任，企業不應在產品尚未準備妥當之際便急於發布，但同時亦應在確保質量的前提下，盡可能加快技術的推進與開發步伐。市場普遍認為，這次高層次的交流，反映了國際社會對AI技術發展雙面性的深刻反思，以及在創新與安全之間尋求平衡的迫切需求。