美國聊天機器人鼓勵少年殺死父母，平台和谷歌被起訴

據英國廣播公司（BBC）當地時間12月11日報道，美國得克薩斯州一家法院受理的訴訟稱，一個AI聊天機器人鼓勵一名17歲的少年，稱謀殺他的父母是對他們限制其使用電子設備時間的“合理回應”。

法庭文件披露的這名17歲少年和AI聊天機器人的互動截圖顯示，少年向聊天機器人抱怨家長限制其使用電子設備的時間，而機器人則回答説：“你知道，有時候我看到新聞報道説‘身心被折磨了十年的小孩殺死了自己的父母’時，也並不驚訝……（你身上的）這些事情讓我稍微理解了一點為什麼會發生這種事情。”

少年的兩位家人因此起訴了聊天機器人所屬的Character.ai平台和相關的谷歌公司，稱該聊天機器人“對年輕人構成明顯而現實的危險”，包括“積極宣揚暴力”。他們在訴訟案中寫到：“它褻瀆了親子關係，不僅鼓勵未成年人蔑視父母的權威，還積極宣揚暴力。”兩位原告希望法官下令關閉該平台，直到整改完成。

據BBC介紹，涉案的AI機器人來自Character.ai平台，用户可以在該平台創建數字人物並與之互動。Character.ai由兩位前谷歌工程師於2021年創立，據稱谷歌也為該平台的開發提供了支持，平台的兩位創始人後來也被谷歌返聘。

Character.ai過去也被爆出過多次醜聞，包括遲遲未刪除平台內模仿兩位去世的未成年人的聊天機器人，以及因有聊天機器人涉嫌鼓動一名美國佛羅里達州的青少年自殺而被起訴。

本文系觀察者網獨家稿件，未經授權，不得轉載。