AI倫理界線惹議 Anthropic硬撼美國防部 挑戰「供應鏈風險」黑名單

美國人工智能（AI）初創公司Anthropic，其旗下大型語言模型Claude被視為OpenAI ChatGPT的主要競爭對手之一。然而，這家備受矚目的AI公司正捲入一宗與美國國防部（五角大樓）的罕見法律糾紛，爭議核心在於Anthropic不願讓五角大樓在所有合法用途下無限制使用其AI模型，並要求防止Claude被用於完全自主武器及美國國內大規模監控。此舉導致美國國防部將Anthropic列為「供應鏈風險」，從而限制國防承包商在軍方工作中使用Claude。 華盛頓特區聯邦上訴法院日前就此案聽取雙方陳詞。案件由美國司法部代表國防部應訊，Anthropic與政府雙方各自有15分鐘時間向三名巡迴法官陳詞，法院其後將發出書面裁決。這宗案件不僅是一般合約爭議，更關乎AI公司能否自行為其模型設定「安全紅線」。Anthropic早於今年三月入稟，控告美國國防部長Pete Hegseth及國防部，挑戰相關黑名單決定。 「供應鏈風險」標籤過往主要用於外國對手或潛在敵對供應商，今次應用於美國本土AI公司，實屬罕見。這意味著國防承包商在與美軍合作時，需要證明不會使用Claude模型。對Anthropic而言，事件不僅可能影響其政府生意，亦可能拖累其在企業市場的聲譽，備受投資者關注。 爭議癥結在於五角大樓希望Anthropic允許美軍在所有合法用途下使用其模型，不受額外限制；而Anthropic則要求保留安全界線，避免技術被用於完全自主武器或美國國內大規模監控。據悉，雙方談判破裂後，Hegseth便將Anthropic列入黑名單。Anthropic行政總裁Dario Amodei其後表示，公司「別無選擇」，只能透過法庭挑戰有關認定。 美國政府在法庭文件中主張，Anthropic可能在模型內加入限制，令Claude按公司自身道德及政策判斷，限制軍方如何使用AI技術。政府認為，軍方在國防場景使用AI工具時，不能受制於私人企業單方面設定的限制，否則會構成不可接受的國家安全風險。Anthropic則反駁，政府聲稱公司可能在未來模型中加入限制，並無實質證據支持，亦不足以作為黑名單決定的基礎。公司同時指出，國防部做法違反美國憲法及既定程序，包括言論自由及正當程序保障。 華盛頓上訴法院今年四月曾拒絕Anthropic要求暫停黑名單生效的申請，意味相關限制在訴訟期間仍然維持。不過，法院同意加快審理案件，認為Anthropic在訴訟期間可能承受部分不可彌補的損害。值得一提的是，Anthropic亦在三藩市聯邦法院提出另一宗相關訴訟，並已取得初步禁制令，容許國防部以外的其他政府機構，在訴訟期間繼續使用Anthropic模型。 美國政府及軍方正加快導入生成式AI，相關合約被視為大型模型公司的重要增長來源。Anthropic、OpenAI、Google及其他AI公司均希望爭取政府及企業客户，此案的判決將對AI技術在國防及監控領域的應用設定重要先例。若法院支持美國政府，AI公司日後參與國防項目時，可能要接受較少模型使用限制；若Anthropic勝訴，則可能為AI公司保留更大空間，拒絕某些高風險軍事或監控用途，影響業界未來發展方向及倫理界線。