OpenAI攜手Cathedral Systems強化AI安全防禦 漏洞賞金計劃大增逾四倍

為應對人工智能技術迅速發展帶來的潛在安全挑戰，OpenAI正積極強化其安全防禦體系。該公司近日宣佈，已與專注於網絡安全的初創企業Cathedral Systems建立合作夥伴關係，旨在利用先進技術，確保防禦方能在潛在攻擊者行動之前，預先加強系統的安全防禦能力，尤其是在人工智能在發現漏洞方面能力日益提升的背景下。 為鼓勵全球安全研究人員協助識別潛在漏洞，OpenAI將大幅提升其漏洞賞金（bug bounty）計劃的獎勵金額。其中，針對關鍵安全發現的獎勵將會提高逾四倍，而對於卓越的安全發現，最高有機會獲得17.2萬美元（摺合約134.16萬港元）的獎勵。 OpenAI強調，將持續推進其模型能力的發展，同時利用人工智能技術強化自身的系統安全。此外，公司亦會進一步擴大可信賴防禦者（trusted defenders）的存取權限，以構建更堅固的安全防線。 作為其新一輪內部安全衝刺計劃的一部分，OpenAI將與Cathedral Systems的研究人員緊密合作。據悉，Cathedral Systems的團隊將運用OpenAI自家的人工智能模型，對OpenAI的防禦系統進行挑戰及測試，以持續發掘並修復AI系統中可能存在的弱點。 Cathedral Systems是由美國政府效率部（DOGE）前成員所創立。市場消息指，該公司曾於上月底利用其AI代理程式，在大約12小時內成功找出第三方商用軟件的漏洞，並一度進入人工智能公司Anthropic的部分內部系統，接觸到敏感資料，展現其在漏洞發現方面的強大能力，亦凸顯出AI安全領域日益增長的重要性。