OpenAI傳考慮放慢前沿AI技術開發步伐 業界關注潛在安全風險

美國人工智能(AI)巨頭OpenAI據報正考慮放慢其最先進AI系統的開發步伐。外電引述消息指出，OpenAI行政總裁奧爾特曼在一次內部全體會議上透露此意向，主要源於對前沿AI技術潛在風險的深切擔憂。 消息指，公司或尋求與其他主要AI實驗室協調，共同減慢研發進度，但部分同業未必樂意配合，為協調帶來挑戰。OpenAI對於相關傳聞拒絕置評。 近期，多間領先AI企業的員工及研究人員均先後表達對AI技術失控風險的憂慮，令業界對AI安全問題的關注度日益提升。OpenAI首席科學家帕霍基此前曾公開呼籲，在建立共同的安全標準之前，業界應採取極度謹慎態度，並將自願放緩發展速度的做法常態化。OpenAI過去亦曾因安全防護需要，一度暫停部分前沿模型的訓練，顯示其對安全問題的重視。 與此同時，競爭對手Anthropic的安全研究人員哈賓格日前亦發出嚴正警告，指未來十年內由AI引發全人類災難的可能性高於一成，引發市場關注。同時，亦有曾任職Anthropic的研究員辭職後批評部分主要AI實驗室，盲目競逐可自主改進的「超智能系統」，並呼籲業界正視這些潛在的安全威脅。 人工智能技術近年來發展一日千里，其潛力固然巨大，但同時也引發了對其倫理、安全及社會影響的廣泛討論。OpenAI作為行業領導者之一，此番考慮放慢研發進度的消息，料將進一步推動業界就AI技術發展與安全之間平衡的深入探討。