AI聊天機器人“令人擔憂”的輸出促使美國參議員質詢科技巨頭-彭博社

在智能手機上的OpenAI標誌。

攝影師：Gabby Jones/Bloomberg隨着微軟公司、OpenAI、谷歌和其他技術公司加快向公眾發佈聊天機器人和其他基於人工智能的工具，一位美國參議員要求他們解釋他們打算如何保護兒童免受傷害。

科羅拉多州民主黨參議員邁克爾·貝內特寫信給OpenAI、微軟、谷歌母公司Alphabet Inc.的谷歌、Facebook母公司Meta Platforms Inc.和Snapchat所有者Snap Inc.的首席執行官 — 所有這些公司都在構建和分發讓用户提問、獲得建議和以各種形式生成文本的人工智能技術。貝內特稱這些軟件程序的一些輸出“令人擔憂”，要求首席執行官在4月28日之前回答關於公司如何評估、減輕和審計其人工智能服務及其背後模型的問題，主要關注他們如何保護年輕用户的安全。

曾經只用於幾乎無用的客户服務網絡應用的聊天機器人，自OpenAI的ChatGPT在11月走紅以來，已成為一個日益競爭激烈的領域。微軟正在將OpenAI的技術整合到其Bing互聯網搜索引擎中；谷歌正在提供一個名為Bard的基於聊天機器人的測試版本搜索；Snap擁有自己的ChatGPT驅動的名為My AI的機器人。貝內特詳細列舉了幾個程序提供不當回應的例子，包括一份報告顯示Snap的程序向假扮成兒童的研究人員提供令人不安的建議。

“最近幾項技術中，沒有像生成式人工智能一樣吸引公眾的注意力。這項技術證明了美國的創新，我們應該歡迎它對我們的經濟和社會潛在好處，”根據參議員辦公室提供的一份副本，Bennet在信中寫道。“但是，部署生成式人工智能的競賽不能以犧牲我們的孩子為代價。負責任的部署需要明確的政策和框架，以促進安全，預見風險，並減少傷害。”

他還要求這些公司告訴他有關年輕用户放入聊天機器人的內容的數據收集和保留政策，以及每家公司有多少員工致力於人工智能安全，特別是那些專注於年輕用户的員工。

閲讀更多： 人工智能術語及其含義速查表