英皇查理斯三世警告AI釀「生存危機」 輝達黃仁勳籲業界嚴格測試確保安全

人工智能（AI）技術的快速發展，在全球範圍內引發各界對其潛在風險的深切關注。在蘇格蘭舉行的AI安全峯會上，英皇查理斯三世向與會的AI業界領袖發出嚴正警告，指出這項技術一旦落入不法分子之手，將可能帶來「生存危機」，並引致災難性後果。他強調，必須在為時未晚之前，迅速採取足夠的保障措施，以防範潛在的危害。 該次峯會匯聚了多個全球領先AI企業的代表，包括輝達（NVIDIA）、DeepMind、OpenAI和Anthropic等業界巨頭。輝達行政總裁黃仁勳在會上表示，作為AI開發者，必須對其系統進行嚴格的測試。他進一步強調，如果相關產品未能達到足夠的安全標準，便應暫緩發布，以確保技術的可靠性與安全性，避免急於推出市場而產生不可預見的風險。 英皇查理斯三世在發言中，亦闡述了AI技術的雙面性。他認可AI在改善及拯救生命方面所擁有的巨大潛力，尤其是在生命科學和醫學領域，有望帶來突破性進展。然而，他同時警告，AI技術亦有可能發展出「更黑暗的能力」，甚至可能構成生命威脅。因此，他重申了在全球層面實施充分管控的迫切性，以應對AI技術帶來的深遠影響，確保其發展符合人類福祉，而非帶來無法逆轉的傷害。