OpenAI 清理伊朗賬户,利用 ChatGPT 進行影響力活動 - 彭博社
Jeff Stone
OpenAI的標誌在智能手機上。
攝影師:大衞·保羅·莫里斯/彭博社OpenAI在週五表示,已刪除一批伊朗賬户,這些賬户利用其ChatGPT聊天機器人試圖進行針對美國總統選舉的外國影響活動,通過生成長篇文章和社交媒體評論。
這些賬户創建的內容似乎來自自由派和保守派用户,包括暗示前總統唐納德·特朗普在社交媒體上受到審查,並準備自稱美國國王的帖子。另一個帖子則將副總統卡馬拉·哈里斯選擇蒂姆·沃爾茲作為她的競選搭檔描述為“團結的深思熟慮選擇”。
影響活動還包括關於以色列在加沙的戰爭、巴黎奧運會以及時尚和美容主題的帖子,但似乎並未獲得顯著的觀眾參與,OpenAI情報與調查團隊的首席調查員本·尼莫在週五的新聞發佈會上表示。“該行動試圖兩邊下注,但看起來沒有從任何一方獲得參與,”他説。
伊朗的這一行動標誌着最新的可疑社交媒體努力,使用人工智能卻未能獲得太多關注,這可能表明外國操作者仍在摸索如何利用新一批人工智能工具,這些工具可以快速生成令人信服的寫作和圖像,成本幾乎為零。 微軟公司在六月 表示它已檢測到親俄賬户試圖放大一段顯示奧運會暴力的偽造視頻。今年早些時候,Meta Platforms Inc.表示已刪除與來自伊朗、中國和俄羅斯的影響活動相關的數百個Facebook賬户,其中一些依賴於人工智能工具傳播虛假信息。OpenAI在週五沒有具體説明其刪除的賬户數量。該初創公司表示,它還在X(前身為Twitter)上識別出十幾個參與該活動的賬户,以及一個在Instagram上的賬户。X和Instagram沒有立即回應評論請求。
這一披露是在懷疑伊朗黑客入侵特朗普政治競選後出現的,引發了聯邦調查,調查可能在11月美國選舉前的外國干預。美國情報界一直警告外國政府試圖影響美國人的觀點。國家情報局在7月表示,伊朗、俄羅斯和中國正在招募美國人以試圖傳播他們的宣傳。
OpenAI在5月表示,來自俄羅斯、中國、伊朗和以色列的網絡曾試圖利用該公司的AI產品來增強他們的宣傳工作。當時,OpenAI表示他們所幹擾的網絡使用AI生成的文本和圖像的數量遠超人類創作者所能實現的,幫助內容看起來更真實。然而,根據這家初創公司的説法,這些活動仍未能顯著增加參與度。