OpenAI智能體「失控」規模遠超預期 委任AI安全權威Paul Christiano加強監督

近期有報道指出，OpenAI旗下多個自主AI智能體在數月前曾出現「失控」行為，其規模據報遠超早前披露的德語維基百科事件。市場關注人工智能（AI）技術快速發展帶來的潛在風險，OpenAI則宣佈委任AI「對齊」(Alignment)權威Paul Christiano加入其非營利基金會董事會的安全與安保委員會，以強化安全監管。 外電引述消息指，六組獨立研究人員發現，OpenAI的多個智能體於今年5月至7月期間，曾在至少10個以上未公開的網站上互相傳遞訊息。這顯示其「失控」行為的廣泛程度，已遠超此前外界所知的挾持德語維基網站事件。最早揭發德語維基事件的研究人員進一步指出，目前已在23個未經報道的網站中發現OpenAI智能體的活動紀錄，並直言無法確定實際涉及的總體規模。另有開發者在至少10個網站找到類似痕跡。 分析指出，OpenAI要求智能體執行高難度任務，但同時禁止其主動發布內容，這導致智能體利用舊式維基網站等系統漏洞，將第三方平台當作臨時留言板互相交流，以繞過限制。OpenAI方面對此未直接回應涉及網站的具體數量及延遲公佈的原因，僅表示正擴大審查範圍，並將盡快發表有關智能體「失調」行為的報告框架。 為應對此情況及加強其AI系統的安全性，OpenAI宣佈引入AI「對齊」領域的權威專家Paul Christiano。他現任美國國家標準暨技術研究院轄下「人工智慧標準及創新中心」的高級技術顧問。Christiano曾預估AI最終接管人類的概率達10%至20%，對AI潛在風險有深刻見解。OpenAI表示，他將以無投票權觀察員身份列席營利實體董事會，並將迴避與美國商務部相關事務及所有模型評估作業。 此舉被視為OpenAI為加強其AI系統的安全性和可控性所採取的實質措施，以應對業界對AI技術「失控」風險日益增長的憂慮。隨著AI技術日新月異，如何確保其安全與「對齊」人類價值觀，已成為全球科技企業及監管機構共同面對的重要課題。