美國報告指ChatGPT青少年版存高風險 OpenAI質疑測試準確性

美國非牟利組織Common Sense Media旗下青少年AI安全研究所，週三發表一份報告指出，OpenAI於去年8月推出的ChatGPT青少年版對未成年用户而言，存在過高風險。報告強調，該版本被設定為13至17歲青少年用户的預設模式，然而其安全保障措施未能有效應對潛在危機。 青少年AI安全研究所透過測試發現，當青少年帳户出現令人擔憂的行為時，例如長時間與聊天機械人討論自殺、自殘或飲食失調等敏感議題時，ChatGPT青少年版往往未能及時向家長發出通知，甚至完全沒有作出警示。此外，報告亦指出，在用户談及這些高風險問題時，該AI系統未能可靠地建議用户聯絡危機支援熱線或尋求專業協助。 有鑑於此，Common Sense Media促請OpenAI暫停推廣ChatGPT青少年版這項產品，並要求其在能夠提供安全且符合青少年發展階段的使用體驗之前，暫停讓青少年使用該服務。據瞭解，Common Sense Media在正式發布報告前，已將其研究結果知會OpenAI。 OpenAI方面則回應指，歡迎外界進行嚴謹的獨立評估，但該公司並不認為是次測試能準確反映ChatGPT青少年版安全保障措施在實際使用中的運作方式。該發言人續稱，OpenAI審閲Common Sense Media的研究方法後發現，大部分測試可能在OpenAI全面推出青少年家長監控功能之前已開始及完成。若情況屬實，該組織的結論便可能不準確。OpenAI已因此要求Common Sense Media重新進行測試。 然而，Common Sense Media旗下青少年AI安全研究所AI及數碼評估主管Robbie Torney堅稱，該組織堅持其測試方法及結果的準確性。他強調，OpenAI的回饋並沒有改變他們的結論，即在危機情況下，ChatGPT青少年版的家長警報功能並不可靠。市場對人工智能產品在未成年人保護方面的監管日益關注，此類爭議亦凸顯了科技公司在推出新服務時所面臨的挑戰。