Sumsub調查：逾四成大中華區消費者曾歷AI代理不良後果 港人區分能力及應用持審慎態度

全球驗證服務及反欺詐企業Sumsub公佈最新大中華區AI代理消費者信任調查結果，揭示人工智能代理（AI Agent）在實際應用中潛藏風險。調查顯示，高達44%的受訪消費者曾至少一次經歷與AI代理相關的不良後果。儘管AI代理日趨普及，但受訪者對於區分AI代理與其他AI應用方面存在顯著認知落差，當中香港消費者僅有45%能正確辨識，反映市場對此新興科技的理解仍待提升。 報告指出，人工智能代理是一種能夠理解人類目標、自主規劃執行步驟，並調用工具自動完成任務的系統。近年備受市場關注的OpenClaw（市場普遍稱其商標為「龍蝦」），便是近期大熱的AI代理代表。根據Sumsub於今年4月訪問1050名來自內地、香港及台灣的消費者所得數據，今年首季已有37%的內地、20%的台灣地區以及15%的香港消費者曾授權AI代理代為決策。然而，整體而言，不足半數受訪者能夠在實際應用中正確分辨AI代理及其他AI應用的區別。 Sumsub亞太區副總裁Penny Chai表示，消費者通常利用AI代理回答問題、整理及總結資訊，以及自動處理日常事務。更甚者，部分情況下AI代理會直接代表消費者執行操作，例如完成交易或付款等。是次調查發現，在曾遭遇不良後果的受訪者中，有兩成曾面臨未經授權的行為或個人資料外泄，另有16%的受訪者曾經歷未經授權的付款或欺詐行為，凸顯AI代理在便捷之餘，其安全性及問責性仍面臨挑戰。 Penny Chai進一步指出，當涉及金錢決策時，受訪消費者對AI代理的信心會明顯下降，這反映在後果較為重大的情境下，必須清晰界定AI代理可自行作出決策的範圍。值得留意的是，香港消費者對AI代理的應用態度相對謹慎，調查顯示78%的香港受訪者認為AI代理執行操作前應先由人類把關，而74%的香港消費者亦認同驗證AI代理有助提升使用信心，顯示本地市場對安全及透明度的要求較高。 為應對市場對AI代理驗證的需求，Sumsub已在其「Know Your Agent」（KYA）框架下推出AI代理驗證解決方案。該方案旨在透過將AI代理的行為與經驗證的人類身份進行綁定，確保只有獲得授權及可信的自動化系統方能執行操作，藉此建立明確的人類問責機制，保障消費者及企業免受潛在的AI欺詐風險影響。