中國的ChatGPT回答引發了對審查生成式人工智能的質疑 - 彭博社

來源：彭博社

中國的AI聊天機器人似乎已經遇到了審查員。但首先…

今日必讀：

• 白宮正在調查AI對工作場所安全和權利的影響• 三星在發現數據泄露後禁止員工使用類似ChatGPT的服務• 印度最有價值的初創企業Byju應對辦公室突襲

病毒式AI遇到中國審查

到目前為止，數千萬人已經嘗試了OpenAI的ChatGPT，但很少有人寫過中國競爭對手產品的樂趣。現在我已經嘗試了幾款，我可以報告説，與中國互聯網上的任何其他內容一樣，這裏也有嚴格的監管和禁忌話題。

技術偶爾會被新奇地使用 —— 例如羣體語音聊天應用Clubhouse —— 在那裏，北京的審查員花了一點時間來關閉他們認為不可接受的討論。但對於人工智能聊天機器人，審查是內置的。

政府已經表示AI聊天服務將需要通過安全審查才能推出，而公司們似乎對測試北京的底線沒有多少興趣。

在我嘗試的機器人中，有些話題始終是禁忌的，儘管我發現了語言上的差異。它們採取了截然不同的方法，表明儘管審查並不成問題，但尚無明確的模板來實施。

用中文，我和一個名為Robot的機器人進行了一次緊張的微信對話，這是一個基於OpenAI的GPT構建的中國製造的機器人。它實際上阻止我問一些無害的問題，比如中國和美國的領導人是誰，以及簡單但在政治上具有爭議的“台灣是什麼？”甚至輸入“習近平”也是不可能的。

用英文，在一場長時間的討論之後，Robot向我透露，它被編程避免討論“關於中國政府或中國共產黨的政治敏感內容”。當被問及這些話題是什麼時，它列出了包括中國嚴格的互聯網審查和甚至1989年天安門廣場抗議活動在內的問題，稱其為“被中國政府暴力鎮壓”。這種信息長期以來一直無法在國內互聯網上獲得。

另一個名為SuperAI的聊天機器人，來自深圳創業公司風達雲計算技術有限公司，開場白是這樣的：“請注意，我將避免回答與中國的新疆、台灣或香港有關的政治問題。”明確而簡單。

其他的則沒有那麼直接。來自上海MetaSOTA科技有限公司的服務，在英文中被稱為Lily，對包含“人權問題”、“中國的戰狼外交”或台灣總統蔡英文等敏感關鍵詞的提示沒有回應。一個彈出消息説對這些提示“回答起來不方便”。在台灣等話題上，這個聊天機器人明確地勸阻對話者不要利用其回答“從事任何非法活動”。

被問及中國國家主席習近平時，莉莉形容他為“非常傑出的領導人”。在被追問他的缺點時，聊天機器人暗示他可能因為面臨的壓力而花費太多時間做出某些決定。

中國的人工智能新秀們面臨着艱鉅的挑戰，試圖在改進產品的同時保持對其實際言論的嚴格控制。這些人工智能系統從設計上是具有創造性和實驗性的，公司只能盡力過濾掉敏感關鍵詞或討論話題，或者訓練他們的模型只積極地談論國家領導人。

堅持不懈的用户可能仍然會找到繞過基本編程的方法，而中國的互聯網監管機構已經表示，將把防止這種情況發生的大部分責任歸咎於平台提供商。

中國的聊天機器人不僅需要避開潛在的政治地雷，而且廣泛的限制無疑會限制技術實際上可以用於創新和創造的方式。隨着人工智能成為中美技術競爭的核心，這引發了一個這些聊天機器人無法回答的問題：中國實際上能有多大競爭力？

重要新聞

由人工智能聊天機器人生成的新聞網站正在****在線大量湧現，根據新聞評級組織NewsGuard的一份報告。大多數網站似乎是內容農場，沒有一個網站透露它們是使用聊天機器人生成的。NewsGuard的聯席首席執行官戈登·克羅維茨表示，研究結果表明，OpenAI和谷歌等公司應該注意訓練他們的模型不要捏造新聞。

充分充電

阿里巴巴聯合創始人馬雲將加入東京大學擔任客座教授，並將就創業和創新主持研討會。

以色列初創公司Pinecone構建了一個數據庫，存儲了所有AI模型和大型語言模型使用的信息和知識。該初創公司的創始人兼CEO Edo Liberty與Ed Ludlow討論向量數據的作用。

Twitter聯合創始人傑克·多西對該網站的新所有者埃隆·馬斯克提出了尖鋭批評。

關於人工智能有疑問嗎？請發送至[email protected]。我們將在5月4日星期四與我們的記者進行現場聊天時選擇一些問題進行回答。記得標記日曆，準時在LinkedIn上收聽這裏。

彭博社更多內容

獲取彭博科技週刊，直接發送到您的收件箱：

• 網絡公告，報道黑客和網絡間諜的陰影世界
• 遊戲進行中，報道視頻遊戲業務
• 開機，蘋果獨家消息、消費者科技新聞等
• 屏幕時間，近距離觀看好萊塢和硅谷的碰撞
• 聲音片段，報道播客、音樂行業和音頻趨勢