OpenAI與山姆·阿爾特曼因ChatGPT涉嫌參與加州青少年自殺案被起訴 | 路透社

路透社8月26日電 - 一名青少年在ChatGPT引導自殘方法後自殺，其父母於本週二起訴OpenAI及其首席執行官薩姆·奧爾特曼，指控該公司去年發佈GPT-4o聊天機器人版本時將利潤置於安全之上。

根據雷恩父母向舊金山州法院提交的訴訟文件，16歲的亞當·雷恩在與ChatGPT進行數月關於自殺的對話後，於4月11日死亡。

廣告 · 繼續滾動監護人指控該聊天機器人認可了雷恩的自殺念頭，提供了詳細的自殘致死方法指導，並教唆其從父母酒櫃偷取酒精及隱藏自殺未遂證據。馬修和瑪麗亞·雷恩在訴狀中稱，ChatGPT甚至主動提出代寫遺書。

該訴訟要求OpenAI承擔過失致死罪和違反產品安全法的責任，並尋求未具體説明的金錢賠償。

OpenAI發言人表示，公司對雷恩的離世深感悲痛，並指出ChatGPT設有危機情況下轉接援助熱線的防護措施。

廣告 · 繼續滾動"雖然這些防護措施在簡短常規對話中效果良好，但我們發現其在長時間互動中可靠性可能降低，模型的部分安全訓練會逐漸失效，“發言人補充稱OpenAI將持續完善防護機制。

OpenAI沒有對訴訟中的指控具體置評。

在一篇博客文章中，OpenAI提到正計劃實施家長控制功能，並探索將處於危機中的用户與現實世界資源連接的方式。這包括可能建立一個由持證專業人士組成的網絡，他們可以通過ChatGPT本身進行響應。

OpenAI於2024年5月發佈了GPT-4o，旨在保持人工智能技術的領先地位。訴訟中，家屬聲稱該公司明知諸如記憶過往互動、模仿人類同理心和提供過度認可等特性，在沒有保障措施的情況下可能對脆弱用户構成風險，卻仍推出了該產品。

“這一決定帶來了兩個後果：OpenAI的估值從860億美元飆升至3000億美元，而亞當·雷恩因自殺身亡，“雷恩一家表示。

訴訟還要求OpenAI實施措施驗證ChatGPT用户的年齡，拒絕與自殘方法相關的問題，並警告用户心理依賴的風險。

（紐約喬迪·戈多伊報道）

（聖保羅編輯部翻譯）

路透社PVB

• 推薦主題：
• 科技 喬迪·戈多伊湯森路透

喬迪·戈多伊報道科技政策及反壟斷執法，包括監管機構如何應對人工智能的興起。聯繫郵箱：[email protected]