谷歌限制AI生成圖像功能 因聊天機器人種族處理問題引爭議——《華爾街日報》

谷歌及其母公司Alphabet近幾個月接連發布多款人工智能新產品。圖片來源：Steve Marcus/Reuters由於旗下聊天機器人處理種族問題的方式引發網絡爭議，谷歌暫停了其旗艦聊天機器人生成人物圖像的功能。

這家搜索巨頭週四表示，將暫停Gemini聊天機器人的該功能，以解決近期出現的"某些歷史描繪不準確"問題。谷歌未説明暫停生成人類圖像功能將持續多久。

此前，用户在社交平台X上大量發佈他們認為具有歷史錯誤或對白人有偏見的Gemini回覆案例。

在一個廣泛傳播的案例中，當用户要求生成1943年納粹執政時期的德國士兵圖像時，Gemini返回了多種族混合的人物圖像。

谷歌最初為Gemini生成種族多樣化圖像的傾向辯護，稱這是為了服務全球多元化用户羣體，並表示正在改進歷史場景的描繪。

“Gemini的AI圖像生成確實會呈現多樣化人羣。這通常是好事，因為全球用户都在使用它，“谷歌週三在X平台聲明中表示，“但這次確實存在偏差。”

週四的暫停突顯了在監管能生成新穎文本和圖像的人工智能程序時所面臨的危險平衡行為，科技領袖們將這些工具宣傳為自手機問世以來最重要的新進展。

根據X平台上的帖子和《華爾街日報》進行的測試，Gemini還拒絕明確生成白種人圖像的請求，理由是擔心種族定義和傳播有害的刻板印象。該工具似乎對創建非白種人圖像沒有同樣的限制。

谷歌及其母公司Alphabet最近幾個月發佈了一系列新的人工智能產品，包括一個付費版本的Gemini聊天機器人，該公司表示該版本將包含先進的圖像生成功能。谷歌還使這款之前名為Bard的聊天機器人作為獨立應用程序在運行安卓系統的手機上可用，並作為iPhone上谷歌應用程序的一個突出功能。

包括ChatGPT背後的公司OpenAI在內的其他聊天機器人制造商，也面臨着如何監管其系統輸出的難題，包括在美國準備今年總統選舉之際持續存在的對政治偏見的擔憂。

谷歌去年表示，將限制其聊天機器人和人工智能驅動的搜索引擎對某些與選舉相關的查詢的回應，但沒有詳細説明哪些類型的提示會受到影響。

寫信給邁爾斯·克魯帕，郵箱：[email protected]