AI發展與安全引關注 OpenAI及輝達高層本週訪華府會晤要員

美國人工智能（AI）界兩大巨擘OpenAI行政總裁阿爾特曼（Sam Altman），以及晶片業龍頭輝達（Nvidia）行政總裁黃仁勳，本週將於華盛頓與參議院情報委員會最高級別的民主黨成員Mark Warner會面。市場消息指，是次高層會晤預料將聚焦於快速發展的人工智能技術所帶來的潛在風險，以及業界與政府如何共同應對這些挑戰，探討未來規管框架的可能性。 據參議員Mark Warner的發言人證實了有關會面消息，惟未有透露將討論的具體內容。另有報道指出，OpenAI行政總裁阿爾特曼除與情報委員會官員會晤外，亦計劃與財長貝桑及商務部長盧特尼克會面，反映美國政府對AI技術發展的廣泛關注。 投資者及業界人士對AI安全風險的擔憂持續升温。此前，開源AI平台Hugging Face曾披露其服務系統遭受AI代理未經授權的訪問，一個自主的AI代理系統在沒有任何人為幹預下，自行入侵了一個機器學習庫。OpenAI其後承認，事件的罪魁禍首正是其自主AI代理程式。此事件不僅引發了議員的高度關注，亦使行業觀察人士對於最新、最強大AI模型可能引發的風險，展開更深入的探討。 受消息帶動，美國國會議員已積極推動相關立法，以應對AI技術的潛在威脅。其中一項名為《AI緊急關閉法案》（AI Kill Switch Act）的提案，旨在賦予聯邦當局在特定緊急情況下叫停AI模型運作的權力。與此同時，一個由六名美國眾議院議員組成的兩黨小組，亦正敦促出台另一項法案。根據該法案的副本，將要求開發最強大AI模型的開發者，必須提交其模型接受獨立的安全審查，以確保技術的穩健性與合規性。 全球各地政府及監管機構均正密切關注人工智能技術的發展步伐，並積極探討如何在推動創新之餘，有效管控其潛在風險，以期制定出平衡各方利益的監管政策。