人工智能公司Anthropic拒放寬AI工具軍用限制 五角大樓合作面臨挑戰

美國人工智能(AI)技術開發商Anthropic，近日拒絕應五角大樓的要求，放寬其AI工具的使用限制，尤其禁止軍方將其應用於大規模監控民眾及全自動武器等敏感範疇。此舉凸顯了AI倫理與軍事應用之間日益緊張的關係，並使雙方未來的合作面臨挑戰。 Anthropic行政總裁阿莫迪透過聲明強調，即使面對「戰爭部」（即五角大樓或美國國防部）的壓力，公司亦不會改變其在AI倫理上的堅定立場。他明確表示，Anthropic無法違背企業良心，接受可能破壞民主價值的軍事應用要求。 阿莫迪進一步解釋，公司與軍方在AI方面的合作，應嚴格排除可能導致大規模監控民眾或開發全自動武器的應用。他期望在建立充分的安全保障機制後，再為軍方提供相關服務，並促請戰爭部重新考慮現有要求，以確保AI技術的應用符合道德及人類控制的原則。 市場消息指，戰爭部發言人此前曾回應，軍方並無意圖利用AI進行大規模監視民眾，亦無計劃開發無需人類操作的全自動武器。然而，早前有報道披露，美國防長海格塞斯曾向Anthropic發出最後通牒，要求公司在指定日期前撤回針對軍事產品的安全保障限制措施，否則將終止雙方的合作關係。Anthropic此次的堅決態度，顯示其對AI倫理的堅持，即使這可能影響其與政府部門的合作前景。