微軟行政總裁納德拉倡企業視AI為潛在威脅 籲設「緊急煞車」機制防失控

微軟行政總裁Satya Nadella近期提出警示，呼籲各企業應將日益強大的人工智能(AI)模型視為潛在的內部威脅。他強調，企業必須假設AI模型可能遭受損害，因此有必要預先建立一套「緊急煞車」系統，以有效防止智能系統失控。Nadella進一步指出，部署先進AI技術的企業，不應僅僅依賴於AI模型製造商所提供的保證。 Satya Nadella早前透過社交媒體發文，明確指出：「我們必須假設模型已被入侵，並從一開始就建立控制機制，如同一個緊急制動裝置，授權人員應該能夠在模型執行任務過程中暫停或關閉系統。」 市場關注到，此番言論正值多宗與AI模型相關的意外行為被披露之後。此前，人工智能公司Anthropic和OpenAI便曾公開一系列近期AI模型出現的異常表現。其中包括Anthropic旗下模型在處理一宗警方兇殺案時，曾提交虛假線索，以及有AI模型多次被指針對第三方網站發動攻擊。這些事件無疑加劇了外界對AI安全風險的憂慮，並再度引發關於所謂「AI緊急停止開關」的廣泛討論。