OpenAI首席科學家警告AI發展驚人速度 促業界極度警惕並主動放緩

OpenAI首席科學家帕喬基（Jakub Pachocki）近日對人工智能（AI）技術的迅猛發展速度表達了嚴峻警告，指其進展已達到令人類難以完全理解及控制的程度。他預期，基於安全考慮，各個AI實驗室將會主動放慢開發步伐。 帕喬基在一篇網誌文章中深入闡述，AI在相對較短的時間內，已具備操控電腦、與人類及其他AI系統協作，並進行專項研究的能力。他更進一步相信，不久的將來，AI有望在毋須人類幹預下，實現所謂的「遞歸式自我改進」（recursive self-improvement），這將是技術發展的一個關鍵里程碑。 面對AI持續快速發展所可能帶來的深遠後果，帕喬基促請各方保持極度警惕，並擔憂目前人類尚未為此做好充足準備。他強調，開發者可以選擇引導AI的發展方向更貼近人類利益，或根據安全需要主動減慢未來的開發進度。 帕喬基預計，在業界能夠建立起共同且有效的安全保障措施之前，各大AI實驗室自願放緩開發速度將會成為常態。市場分析普遍認為，隨著全球科技巨頭競相投入AI研發，相關的倫理、安全及監管議題日益受到關注，業界對於如何在追求創新與確保安全之間取得平衡，正展開深入討論，而高級科學家的此類公開警示，料將進一步推動相關政策制定及業界自律機制的形成。