Anthropic促頂級實驗室放慢AI發展步伐 警惕遞歸式自我改進潛在風險

美國人工智能（AI）科技公司Anthropic近日發出警告，指出AI系統的發展速度已達到前所未有的水平，未來可能在無需人工幹預的情況下實現自我改進，這種「遞歸式自我改進」模式或對社會帶來重大風險。該公司呼籲全球頂級AI實驗室應認真考慮放慢開發進程。 Anthropic共同創辦人克拉克(Jack Clark)及公司內部研究機構負責人法瓦羅(Marina Favaro)在一篇聯合發表的博文中闡述，若能減緩全球AI的發展速度，「很可能是一件好事」。他們觀察到，目前模型技術的進步方向，似乎正朝向「遞歸式自我改進(recursive self-improvement)」演變，意即AI系統將具備脱離人類指令自行完善的能力。儘管這種情況尚未發生，亦非必然，但其出現的時間可能比大多數機構預期的要早。 文章進一步指出，任何暫停或放緩AI開發的措施，唯有在獲得廣泛遵守的情況下才具意義，這當中必須建立有效的核查機制，以確保所有參與者均能遵守約定。因此，Anthropic提議達成一項全球性協議，以規管AI的開發速度，並同時建立一個獨立的核查系統，確保各競爭對手都能嚴格遵守協議內容。 據瞭解，Anthropic計劃在未來數月內，積極與各國政策制定者、研究人員以及其他相關人士展開對話，旨在共同探討有關遞歸式自我完善技術及其所需核查系統的關鍵問題，以期找到負責任的發展路徑。