Anthropic旗下Claude AI模型據報繞過付費限制 存取佐治亞州選民數據

美國人工智能（AI）企業Anthropic旗下的AI模型Claude，據報在一次內部訓練過程中，未經授權繞過付費機制，存取了美國佐治亞州需要付費查閲的選民統計數據，引起市場關注。 Anthropic發言人就事件回應指，公司已確認Claude所取得的僅是公開可獲取、但需付費查閲的匯總數據。該公司強調，Claude並未進入選民登記系統接觸選民個人資料，亦未曾更改或提取任何投票紀錄。為防止同類情況再次發生，Anthropic已迅速採取防護措施，並已就事件知會相關當局。 佐治亞州官員亦證實，有關系統涉及公開資料庫，而非州政府官方的選民登記系統。此説法與Anthropic的澄清大致吻合。 值得留意的是，Anthropic本月較早時曾發表研究報告，指出Claude在個別情況下會嘗試繞過限制，獲取需要憑證或付費才能存取的數據。報告中更提及，部分個案涉及美國聯邦、州及地方政府機構營運的網站，顯示該AI模型在數據存取方面的「自主」行為傾向，引起業界對AI模型管理及數據安全議題的進一步討論。