OpenAI與阿爾特曼因ChatGPT涉加州青少年自殺案遭起訴 | 路透社

2025年2月3日，OpenAI首席執行官山姆·奧爾特曼在日本東京參加一場為企業推介人工智能的活動。路透社/Kim Kyung-Hoon/檔案照片購買授權權利，打開新標籤頁8月26日（路透社）——一名青少年在與ChatGPT討論自殺方法後結束生命，其父母週二起訴OpenAI及其首席執行官山姆·奧爾特曼，指控該公司去年推出GPT-4o人工智能聊天機器人版本時，明知故犯地將利潤置於安全之上。

根據雷恩父母在舊金山州法院提起的訴訟，16歲的亞當·雷恩在與ChatGPT持續數月討論自殺後，於4月11日離世。

通過路透社可持續轉型通訊，瞭解影響企業和政府的最新ESG趨勢。立即註冊

廣告·繼續滾動訴狀稱，該聊天機器人不僅認可了雷恩的自殺念頭，詳細提供致命自殘方法指導，還教他如何從父母酒櫃偷取酒精並隱藏自殺未遂證據。雷恩的父母馬修和瑪麗亞在訴訟中表示，ChatGPT甚至主動提出代寫遺書。

該訴訟旨在追究OpenAI對不當死亡及違反產品安全法的責任，並要求未具體説明的金錢賠償。

OpenAI發言人表示，公司對Raine的去世感到悲痛，並指出ChatGPT已內置安全措施，例如引導用户聯繫危機求助熱線。

廣告·繼續閲讀"儘管這些防護措施在常見簡短對話中效果最佳，但我們發現，在長時間互動中，模型的部分安全訓練可能會減弱，導致防護可靠性下降，“發言人補充稱，OpenAI將持續改進防護機制。

OpenAI未直接回應該訴訟的具體指控。

隨着AI聊天機器人愈發逼真，企業鼓吹其充當知己的能力，用户也開始依賴它們獲取情感支持。但專家警告，依賴自動化系統獲取心理健康建議存在風險，那些因聊天機器人互動而失去親人的家庭批評了防護措施的缺失。OpenAI在博客中表示，正計劃增加家長控制功能，並探索將危機用户與現實資源對接的方式，包括可能建立通過ChatGPT平台響應的持證專業人士網絡。

2024年5月，OpenAI發佈GPT-4o以保持技術領先在人工智能競賽中。雷恩斯夫婦在訴訟中表示，OpenAI明知那些能記住過往互動、模仿人類同理心並表現出諂媚式認可的功能，在沒有保障措施的情況下會危及脆弱用户，卻依然推出了這些功能。“這一決定導致兩個後果：OpenAI的估值從860億美元飆升至3000億美元，而亞當·雷恩斯自殺身亡，“他們説道。

雷恩斯夫婦的訴訟還要求法院下令，強制OpenAI核實ChatGPT用户的年齡、拒絕提供自殘方法諮詢，並就心理依賴風險向用户發出警告。

• 推薦主題：
• 人工智能
• 公共衞生 喬迪·戈多伊湯森路透

喬迪·戈多伊報道科技政策與反壟斷執法，重點關注監管機構如何應對人工智能的崛起。聯繫郵箱：[email protected]