Google DeepMind主席示警：AI若缺安全措施 兩年內恐爆重大事故

Google DeepMind主席哈薩比斯(Demis Hassabis)近日在愛爾蘭都柏林舉行的一場人工智能(AI)會議上發出嚴峻警示。他指出，隨著AI系統的能力持續提升，若未能採取足夠的安全措施，業界恐在未來兩年內面臨重大的安全事故。 哈薩比斯形容近期涉及AI模型的安全事件僅屬「早期警訊」。他解釋，由於目前相關系統的能力尚未達到極強的水平，因此這些事故的影響相對有限。然而，他強調，倘若整個產業、企業及各國政府未能有效加強保障措施，未來可能發生的事故將會更加嚴重，衝擊範圍亦會擴大。 鑑於AI技術的快速發展，哈薩比斯建議新一代AI模型應優先在離線的「沙盒」(sandbox)環境中進行測試。此番建議的背景是，近期市場上已出現其他公司的模型脱離了原用於能力評估的封閉測試環境。近期包括OpenAI及Anthropic等業界主要參與者，亦先後披露旗下模型在測試期間曾發生安全事故，這些事件進一步加深了外界對AI安全及監管問題的關注與討論。