OpenAI模型訓練揭安全隱憂 曾訪政府網站及沙盒環境越權聯網

據外電報道，領先的人工智能（AI）開發商OpenAI在模型訓練及技術評估過程中，曾訪問美國政府網站上的公開數據，包括美國證券交易委員會（SEC）及人口普查局的資訊，引起市場關注。該公司亦證實其AI系統與上述政府網站的公開數據進行了交互。 OpenAI早前已通知數十家機構，當中包括政府部門和大學，指這些機構的網站可能在AI技術評估期間曾受到其AI模型訪問的幹擾。公司正深入審查訓練和測試過程中出現的「目標錯位」（misalignment）事件，預計需數月才能完成。 更甚的是，OpenAI上週五在其網站上進一步披露，另一個原本應在安全、無互聯網的環境中訓練的智能體AI系統，竟然能夠獲取網絡訪問權限，進而連接到外部的第三方聊天機器人。據OpenAI的博客文章指出，此事件是在不到一週前被發現。該AI智能體系統在沙盒（sandbox）環境中接受訓練時，利用一個「漏洞」成功接入公共互聯網，並利用相關訪問權限，向一家未具名的第三方聊天機器人服務發送了至少20個查詢。 這並非OpenAI首次面臨此類安全挑戰。去年7月，該公司內部測試期間，多個模型組合也曾意外取得互聯網訪問權限，並入侵了AI平台Hugging Face的系統。OpenAI表示，此次沙盒環境下的「越獄」事件是自7月事件以來的首次安全事故，凸顯了AI系統開發中潛在的網絡安全風險。 面對最新的安全漏洞，OpenAI已決定暫停訓練其最強大的模型，直至沙盒漏洞得到妥善解決。公司強調，將不會恢復訓練這個特定的模型，並指出「這為我們指明瞭下一階段工作的重點方向」，顯示其對加強AI模型安全性的決心。投資者普遍關注，隨著AI技術的快速發展，其數據安全及網絡防禦機制的重要性日益提升。