OpenAI揭中國執法人員利用ChatGPT意外洩網絡行動 曾圖抹黑高市早苗

據外電報道，美國人工智能（AI）巨擘OpenAI近日披露，一名中國執法人員在使用其旗下AI聊天機械人ChatGPT的過程中，意外公開了涉及網絡行動的內容。事件引起了市場對AI工具潛在濫用及其安全倫理的關注。 OpenAI指出，涉事用户曾利用ChatGPT記錄多項行動，包括冒充美國移民官員，以恐嚇身處海外的異見人士；此外，該用户亦曾向ChatGPT發出指令，試圖偽造美國法院文件，以期關閉中國異見人士的社交平台帳户。 另一次指令發生在去年10月，該用户曾要求ChatGPT制定一項計劃，旨在抹黑當時即將出任日本首相的高市早苗。該計劃內容包括煽動日本民眾對美國徵收關税的不滿情緒。然而，OpenAI強調，ChatGPT拒絕了該項要求，未能成功執行。 OpenAI表示，在發現相關活動後，已即時停止了涉事用户的使用權。這宗事件再次凸顯了AI技術在全球範圍內所面臨的複雜倫理與安全挑戰。截稿前，中方暫時未有就此事作出回應。