OpenAI使用其工具關閉在俄羅斯和中國的影響網絡-彭博社

OpenAI表示，在其識別的所有操作中，人工智能生成的材料與更傳統的格式一起使用。

攝影師：彭博社

OpenAI表示，在過去三個月中切斷了五個秘密影響行動，包括在俄羅斯、中國、伊朗和以色列的網絡，這些網絡訪問了ChatGPT製造商的人工智能產品，試圖操縱公眾輿論或塑造政治結果，同時掩蓋其真實身份。

這份新報告來自ChatGPT製造商，此時全球選舉中人們對人工智能角色的擔憂日益加劇。在其調查中，OpenAI列出了影響網絡使用其工具更有效地欺騙人們的方式，包括使用人工智能生成比人類單獨更大量和更少語言錯誤的文本和圖像。但該公司表示，最終在其評估中，這些活動未能通過使用OpenAI的服務顯著擴大其影響力。

“在過去一年半里，人們一直在猜測如果影響行動使用生成式人工智能會發生什麼，”OpenAI情報和調查團隊的首席調查員本·尼莫在週三的新聞發佈會上説。“通過這份報告，我們真的想開始填補一些空白。”

公司表示，它將其目標定義為秘密的“影響行動”，即“欺騙性地試圖操縱公眾輿論或影響政治結果，而不揭示背後行動者的真實身份或意圖。” 尼莫説，這些團體與虛假信息網絡不同，因為它們通常可以推廣事實正確的信息，但以一種欺騙性的方式。

儘管宣傳網絡長期以來一直在使用社交媒體平台，但它們使用生成式人工智能工具的做法是相對較新的。OpenAI表示，在其識別的所有行動中，人工智能生成的材料與更傳統的格式一起使用，例如在主要社交媒體網站上手動編寫的文本或表情包。除了使用人工智能生成圖像、文本和社交媒體簡介外，一些影響網絡還使用OpenAI的產品來提高他們的生產力，例如總結文章或為機器人調試代碼。

OpenAI識別的五個網絡包括諸如親俄的“Doppelganger”、親華網絡“Spamouflage”以及伊朗運營的國際虛擬媒體聯盟（IUVM）。OpenAI還標記了之前未知的網絡，這家初創公司稱其首次識別來自俄羅斯和以色列的網絡。

OpenAI稱之為“Bad Grammar”的新俄羅斯組織使用了這家初創公司的人工智能模型以及消息應用Telegram來建立內容垃圾郵件管道。首先，這個秘密組織使用OpenAI的模型來調試代碼，從而可以自動在Telegram上發佈帖子，然後使用數十個帳户生成俄語和英語評論以回覆這些Telegram帖子。OpenAI引用的一個帳户發表評論，主張美國不應支持烏克蘭。“我受夠了這些腦殘傻瓜玩遊戲，而美國人卻在受苦，”評論寫道。“華盛頓需要調整其優先事項，否則他們將感受到德克薩斯的全部力量！”

OpenAI通過注意到評論中包含常見的AI錯誤消息，如“作為AI語言模型，我在這裏提供幫助”，來識別一些AI生成的內容。該公司還表示正在使用自己的AI工具來識別和防禦此類影響操作。

在大多數情況下，這些網絡的消息似乎並沒有引起廣泛關注，或者人類用户將發佈的內容識別為AI生成的。儘管其影響有限，“現在不是自滿的時候，”Nimmo説道。“歷史表明，花了多年時間卻一直沒有取得任何進展的影響操作，如果沒有人尋找它們，突然間可能會爆發出來。”

Nimmo還承認，可能有一些使用AI工具的團體是公司不知道的。“我不知道還有多少操作存在，”Nimmo説。“但我知道有很多人在尋找它們，包括我們的團隊。”

其他公司，如Meta Platforms Inc.，過去經常披露類似的信息影響操作。OpenAI表示正在與行業同行分享威脅指標，其報告的目的之一是幫助其他人進行這種檢測工作。該公司表示計劃在未來分享更多報告。

多年來，印度最大的企業集團一直在關注騰訊控股有限公司和阿里巴巴集團控股有限公司是如何讓14億中國人沉迷於他們的智能手機應用，從聊天和購物到訂購外賣和打車。

隨着日益增長的數字消費者羣體，這些印度公司決定開發一體化應用程序，涵蓋其龐大的消費者業務。 塔塔集團銷售主食、服裝、汽車、機票等各種商品，於2022年初推出了其超級應用塔塔Neu。然後，亞洲首富穆克什·安巴尼整合了他龐大的消費者和娛樂業務，統一在他的 信實工業有限公司旗下的MyJio。