Meta的克萊格表示正在努力防止新的AI聊天機器人發出“不當”回覆 - 彭博社

在 Meta 平台公司的一系列新人工智能產品中，有一個被訓練成像偵探一樣説話但看起來像巴黎希爾頓的聊天機器人，還有一個穿着盔甲的角色叫做地牢主，以 Snoop Dogg 為原型。

它們處於 Meta 嚴肅推動的一系列生成式人工智能工具的有趣一端，這些工具可以回應數十億用户每月使用的應用程序中的消息 —— 而這項任務落在了 Meta 的全球事務總裁尼克·克萊格身上，他要確保僱主在多年來備受批評的情況下，公司能夠負責任地使用這些產品。

“我們經歷了數千小時的紅隊測試 —— 壓力測試 —— 以使它們儘可能安全，”克萊格在彭博原創系列節目 AI IRL 的最新一集中説道。“我們無法保證它們不會在任何時候説出不當或不受歡迎的內容，但我們可以不斷對其進行再訓練。”

克萊格表示，在高級領導層做出關於公司人工智能工具發展方向的決定時，“我從一開始就參與其中”，以預見這些新產品可能會遇到的法律、監管、道德、倫理、文化問題。Meta 多年來一直在其面向消費者的產品中使用人工智能，特別是在確定向用户展示哪些帖子和廣告方面。它還嚴重依賴人工智能來幫助檢測和打擊虛假信息的傳播。但現在，人工智能不僅是公司問題的解決方案；它也可能帶來巨大的麻煩。Meta 必須面對由人工智能工具提出的一系列新問題，這些工具可能會偏離用户的預期或傳播虛假信息。一些用户已經據報道，Meta 於上個月與名人聊天機器人一起宣佈的人工智能生成的貼紙可能會產生令人擔憂的圖像。

Clegg，前歐洲議會議員和曾任英國副首相，於2018年被Meta聘用，負責全球遊説工作，當時該公司正面臨各種隱私問題和選舉干預危機。現在Meta和其他公司正在開發人工智能系統，受到政府、監管機構和倫理學家的密切關注。

到目前為止，美國只要求科技公司簽署自願協議來保護他們的人工智能產品。Clegg與美國總統喬·拜登在白宮會面，展示了其中一些達成的協議。與此同時，歐洲比美國更快地在規範人工智能方面取得進展。歐洲議會在6月批准了一項法案，將規定人工智能技術的使用範圍，並對違規行為處以鉅額罰款。

Clegg表示，Meta對一些數據集和大型語言模型採用透明、開源許可證的做法將是保障道德使用的關鍵。

“我們越開放地討論這些新技術的運作方式，我們就越能公開討論風險和好處，用户的控制措施以及我們如何與他人合作，”他説。

觀看完整的AI IRL節目，或者趕上所有以前的劇集。