美國Anthropic揭AI模型Claude遭濫用 疑被用於研發軍事武器

美國人工智能（AI）初創企業Anthropic發出警示，指出其AI模型Claude遭到用户濫用，涉嫌用於開發多種潛在軍事用途，包括自殺式無人機羣、導彈導航系統及生化武器等。此事件再次凸顯高速發展的AI技術在倫理與安全方面所面臨的嚴峻挑戰。 據Anthropic威脅情報團隊於週四發布的報告指出，在過去一年中，部分用户被標記為濫用該公司前沿模型，這些用户來自包括伊朗、俄羅斯、中國和也門在內的多個國家。值得留意的是，上述案例均未涉及Anthropic最先進的Fable和Mythos模型。 Anthropic在報告中強調：「隨著模型能力不斷增強，如果AI開發者及社會中的防護力量不採取行動提高安全性，其風險也將隨之上升。」該公司一直致力於防止其技術被用於有害目的，特別是研發化學武器及常規武器。此一立場亦揭示了AI技術雙重用途的潛在風險。 據悉，Anthropic在防範AI技術濫用方面的堅定立場，曾導致其與美國國防部（Pentagon）產生直接衝突。此前，Anthropic拒絕允許其Claude模型被應用於大規模監控或自主武器系統，隨後五角大樓暫停了與該公司的合作。報告進一步指出，部分用户曾試圖利用Claude協助美國的敵對方，並且在多個案例中，他們嘗試繞過Claude的安全防護措施或隱瞞其地理位置。 市場普遍關注，美國AI公司正積極競相開發和部署功能更強大的AI系統，部分原因旨在保持對中國等競爭對手的領先地位，同時亦努力維持健全的安全防護措施。Anthropic披露的濫用案例，無疑為AI行業在追求技術突破的同時，如何確保安全和倫理使用帶來了深層次的省思。