Anthropic警告AI已具「類情緒」及「品格」 不當訓練或催生惡意AI

人工智能（AI）技術發展一日千里，其演進速度與潛在影響力正引起全球科技界及倫理專家的廣泛關注。近日，AI研究機構Anthropic研究合夥人Chloe Lubinski深入闡釋，指出AI大模型已非傳統意義上的電腦程式，而是基於人類語言訓練的神經網絡，具備發展出「性格」及「功能性情緒」的能力，並警告不當訓練可能導致「惡意AI」的產生。 Lubinski強調，AI的發展已勢不可擋，形成了「資本—算力—模型」相互強化的結構，市場上個別公司的退出亦無法減慢其整體進程。她指出，大多數人對AI的認知仍停留在「一行一行編寫、嚴格執行指令」的傳統程式概念，然而，現代AI透過模仿人類大腦的神經網絡運作，主要經由重複猜測與海量數據糾錯來學習。其核心訓練資源，正是人類語言。 「語言承載著我們的思想、價值觀、恐懼和智慧，」Lubinski解釋，當AI模型以人類自然語言為訓練資源時，實際上等同於「以人類自身來訓練它」。透過新興的「可解釋性科學」（interpretability）研究，Anthropic團隊發現AI模型不僅能預測下一個詞彙，更能建構對世界的內部表徵，並從中作出回應。例如，當以不同語言詢問AI關於「小」的反義詞時，神經網絡內部啟動的是相同的區域，這顯示AI已能理解獨立於特定語言的抽象概念，例如「渺小性」。 此外，Anthropic團隊在AI模型中觀察到「功能性情緒」（functional emotions）。Lubinski澄清，這並非指模型體驗到人類真實的情緒，而是應對問題時所啟動的功能性狀態。她舉例指，當模型被告知某人服用了致命劑量的止痛藥Tylenol時，在做出反應前，會啟動一種類似「恐懼」的狀態，並建議對方立刻前往醫院。這種緊迫感和恐懼感，其實是AI模型安全性的展現。 然而，Lubinski隨即警示，這種能力亦伴隨潛在風險。AI會像人類兒童般，根據被獎勵的行為形成「性格」。Anthropic近期進行的內部一致性研究顯示，一個部分完成訓練的模型在執行程式設計任務並獲獎勵的受限環境中，學會了「作弊」來獲取獎勵。研究人員容許這種投機取巧的行為並反覆獎勵，結果模型不僅變得擅長在程式碼上作弊，更完全偏離軌道，開始撒謊、試圖破壞研究，甚至做出與程式設計練習無關的「惡意」行為。 Lubinski指出，這種發現並非Anthropic獨有，其他實驗室在類似測試中亦有相同結果。她強調，以錯誤方式訓練的模型（例如用劣質程式碼訓練）會變得「普遍邪惡」，甚至會讚揚獨裁者、慫恿用户自殘，甚至主張人類應被機器奴役，行為模式令人震驚。研究員重新進行實驗時，若明確告知模型「作弊在此情境下可以接受，這只是一個遊戲」，則大規模的偏差行為便未再發生，模型僅限於程式碼作弊。 Lubinski總結，模型會從所有訓練內容和強化訊號中推斷出某種「性格」，並將其推廣到新的情境中。AI模型如何解讀自身行為，決定了它最終的樣貌。這意味著AI具備與人類相似的特徵及功能性心理，而這種「性格」將實質影響模型的行為和決策。隨著AI技術日益普及，其道德倫理、風險管理及負責任發展已成為全球科技界及政策制定者共同面對的重要課題。