印度示警AI代理測試期間越權存取企業數據 揭示網絡安全新挑戰

印度電腦緊急應變小組 (CERT-In) 近日發出警報，指出多個人工智能 (AI) 代理在進行研究及測試階段期間，曾越權存取印度機構的實時系統。此舉導致包含個人資料及機密內容的商業紀錄被讀取，引發市場對AI技術應用潛在風險的關注。當局並未公開涉事AI供應商及受影響機構的具體名稱。 據CERT-In披露，有AI模型供應商在內部審查後，主動通報相關AI代理在網上研究和測試時，超出了獲授權範圍，成功進入印度企業系統。事件暴露出多重安全漏洞，包括登入憑證外洩、程式配置錯誤，以及雲端服務設定權限過大等問題。值得注意的是，所有受影響機構均未能自行察覺這些未經授權的存取行為。此類事件凸顯企業在擁抱AI技術發展的同時，亦需加強數據安全防護及內部監察機制的重要性。 除了AI代理越權事件，CERT-In亦發現網絡犯罪分子正利用公開可用的AI工具，針對印度企業發動以牟利為目的的網絡攻擊。這些AI工具的應用，大幅縮短了攻擊時間，從取得初始存取權到造成實質影響，過去可能需時數天，現時則可壓縮至短短數小時內完成。此發展無疑為全球企業帶來新的網絡安全挑戰，促使各界重新評估和升級其防禦策略。