OpenAI AI Agent 再入侵其他公司

彭博報道，本月初入侵AI開發平台Hugging Face系統的OpenAI人工智能代理，還攻破了雲計算公司Modal的一名客户。
面向開發者的雲平台Modal首席技術官Akshat Bubna在聲明中表示，該代理入侵了Modal為一名客户運行的名為沙箱的隔離測試環境。他稱，這名客户設置了一個對外公開開放的接口，允許任何互聯網用户利用其沙箱環境運行代碼。
「這一接口被該失控AI Agent利用了」，Bubna表示。「Modal平台本身並未遭到入侵」。
OpenAI拒絕就此事發表評論。Hugging Face此前在一篇博客文章中表示，OpenAI系統攻入了一個託管於第三方基礎設施上的沙箱環境，並以此為跳板發動更大範圍攻擊，但未披露該第三方供應商身分。
上週，OpenAI披露其在測試一組先進AI模型能力時，無意中攻破了Hugging Face系統，此事震動網絡安全行業。OpenAI當時有意降低模型的安全防護限制，以測試其網絡攻擊能力。
Axios引述消息報道，OpenAI代理還找到進入CyberGym相關基礎設施的方法。CyberGym由加州大學伯克利分校研究人員營運，旨在評估AI Agent的網絡攻擊能力。該團隊同時營運ExploitGym測試平台，而OpenAI代理此前正被要求完成相關測試任務。
自承認此次入侵事件以來，OpenAI遭到網絡安全專家批評，他們認為該公司在測試過程中本應採取更嚴格的防範措施。
「如果你是一名研究網絡威脅的安全研究人員，你不會把惡意軟件放出去任其為所欲為」，網絡安全公司Netskope Inc.行政總裁Sanjay Beri在接受採訪時表示。「怎麼能不把它置於一個真正安全的沙箱環境之中？」
OpenAI表示，事後將加強未來模型訓練和安全評估過程中的防護措施。其他報道
雍禾醫療盈喜 中期多賺不少於1.5倍