生成式人工智能如何改變印度尼西亞的選舉 | 路透社
Kate Lamb,Fanny Potkin,Ananda Teresia



人們走過印度尼西亞國防部長和總統候選人普拉博沙班託以及他的競選搭檔吉布蘭·拉卡布明·拉卡的廣告牌,吉布蘭是印度尼西亞總統佐科·維多多的長子,現任蘇拉卡爾塔市市長,這是在即將到來的雅加達大選前,…閲讀更多雅加達,2月8日(路透社) - 菲卡·茱莉安娜·普特里,一名19歲的東雅加達店主,計劃在下週的印度尼西亞總統選舉中投票給一位曾經令人畏懼的前特種部隊指揮官。她説,她喜歡他,因為他很可愛。曾經令人畏懼的前特種部隊指揮官。她説,她喜歡他,因為他很可愛。印尼國防部長普拉博沙班託的大眼睛卡通形象 - 使用生成式人工智能製作 - 被印尼各地的廣告牌所標誌。它被複制到衞衣和貼紙上,並在#Prabowo標記的帖子中佔據重要位置,這些帖子在TikTok上有約190億次瀏覽。
普拉博沙班託是印尼的國防部長。但在社交媒體上,他圓圓的AI頭像做出韓式手指愛心,抱着他心愛的貓鮑比,讓Z世代選民感到愉悦。印度尼西亞2.05億選民中約有一半年齡在40歲以下。
印度尼西亞將於2月14日舉行大選,這個世界第三大民主國家的專家表示,這次選舉將展示生成式人工智能如何改變大規模政治競選。
AI生成的卡通形象已成為普拉博沃競選形象改造的核心,他在民意調查中遙遙領先。這位72歲的候選人不再把自己描繪成一個激進的民族主義者,而是採用了新口號“gemoy”——這是印尼俚語,意為可愛和討人喜歡。
“我會投他一票,因為他很gemoy,”首次投票的普特里説。“這是主要原因。”
普拉博沃和他的替身是利用美國公司Midjourney Inc的技術創建的,他們領先於數百名候選人,利用生成式人工智能工具創建競選藝術、追蹤社交媒體情緒、構建互動聊天機器人並針對選民。
普拉博沃的競選團隊和Midjourney公司沒有回應有關政治競選的評論請求。
“這是我們首次看到選舉在如此大規模上利用這些工具,”Katie Harbath説,她曾是Meta公司的高級選舉政策官員,現在撰寫有關技術和民主的新聞簡報。Harbath表示,對於AI工具如此迅速地被印度尼西亞的競選活動採用感到驚訝,她説現在判斷這種“史無前例和開創性”的技術對選舉的整體影響還為時過早。
路透採訪了26人,包括政治顧問、遊説者、科技高管、專家以及為政治人物創建生成式AI形象的藝術家,其中一些人因未獲授權向媒體發言而要求匿名。
他們描述了供應商和競選活動推動了像Midjourney和生成式AI市場領導者OpenAI等提供商發佈的指南的邊界。印度尼西亞政府尚未制定關於使用AI工具的約束性規定。尚未制定約束性規定。今年,世界上三分之一的人口所在國家將進行選舉,包括美國和印度,印度尼西亞的選舉是OpenAI如何執行其政策的一次考驗,根據七名政治遊説者和專家的説法。據路透社報道,印度尼西亞選舉中使用的許多AI工具都由OpenAI提供支持,據九名高級競選工作人員透露,其中包括Prabowo的平台,據他的數字團隊協調員稱。
總部位於舊金山的ChatGPT所有者上個月公佈了禁止其用於政治競選的規定,全球擔心AI干預選舉。這些規定包括禁止創建包括政治家在內的真實人物的形象。OpenAI表示,正在調查路透社在印度尼西亞發現的使用其技術的政治聊天機器人和工具。它表示,初步審查發現“沒有證據”表明其工具被用於選舉,並承諾透明度和提升準確信息。
政治顧問Yose Rizal表示,他開發的Pemilu.AI應用程序使用OpenAI的GPT-4和3.5軟件制定超地方競選策略和演講。
這位印度尼西亞顧問表示,他已經向700名立法候選人出售了該應用程序的服務。路透社無法獨立確認這些銷售。
Pemilu.AI彙集人口統計數據,爬取社交媒體和新聞網站,從而能夠生成針對選區的演講、口號和社交媒體內容。
候選人列出他們的政治優先事項,並選擇他們希望如何被描繪。在印度尼西亞這個世界上人口最多的穆斯林佔多數的國家中,使用Pemilu.AI的政治家最希望具備的特徵是“謙遜”和“虔誠”,Rizal説。
在被問及OpenAI的規定時,Rizal表示Pemilu.AI不參與“政治競選活動的創建”。他相反地將其描述為一種“支持候選人決策過程的溝通工具”。
下一站,印度
接下來,Rizal計劃在印度的大選之前將該平台引入印度,預計大選將在五月舉行。“因為印度尼西亞在美國和印度之前……這次選舉是一次熱身,”他説。
他説Pemilu.AI與微軟合作密切,微軟將該公司託管在其雲服務Azure上,以確保其運營符合法規。微軟是OpenAI的主要投資者,表示不對客户的合作進行評論。
Rizal表示他正在對Google的人工智能版本進行試用,此前他接觸了其銷售團隊。Google證實Pemilu.AI已經開始使用其人工智能併成為雲服務客户。Google表示除了禁止發佈虛假信息外,對於使用其Bard聊天機器人進行政治競選活動沒有任何限制。
印度尼西亞的選舉正在測試一些人工智能公司對政治競選活動的界限。
OpenAI的規則於1月10日更新,禁止將其技術用於任何政治競選或遊説活動,包括生成針對特定人羣的競選材料。
同月,OpenAI禁止了一款機器人的開發者,該機器人是為美國民主黨總統候選人迪恩·菲利普斯開發的,這是OpenAI首次針對此類規則採取行動。印度尼西亞大選中支持使用生成式人工智能的人士表示,這使立法候選人能夠獲得定製的競選工具,否則這些工具將被留給預算更大的主要競爭者。
另一位總統候選人安尼斯·巴斯韋丹的數字團隊負責人拉齊·塔利布表示,人工智能的持續採用是很自然的。“也許選舉結果將帶來經驗教訓,從而提高其他地方的採用率,”他説。
印尼最大黨派候選人甘加爾·普拉諾沃的顧問證實,人工智能也被用於他的“創意競選”。
“GEMOY”普拉博沃
在民意調查中領先20個百分點,並得到印尼總統佐科·維多多的隱性支持,普拉博沃是這一輪生成式人工智能的最大受益者,利用它來增強他在Z世代中的支持。數百萬年輕選民在上世紀90年代末普拉博沃被解除印尼軍職時還未出生,當時有指控他侵犯人權,他一直否認這些指控。
支持者可以使用普拉博沃的競選應用程序將自己插入由人工智能生成的場景中,例如與穿着野生動物園服裝的政治家一起在叢林中徒步旅行,然後在社交媒體上分享這些場景。
“有人説人工智能對政治不利,但人工智能引起了人們的興趣,”25歲的藝術家阿德里安希亞説道,他和妻子盧西·尤利斯蒂亞受委託製作了普拉博沃和他的競選搭檔、總統維多多的36歲兒子的Midjourney生成藝術作品。印度尼西亞的投票年齡為17歲,1月份民調機構Indikator Politik的調查發現,普拉博沃獲得了60%以上的Z世代選票。他還是千禧一代中最受歡迎的候選人,獲得了42%的支持。
該競選活動的志願者團隊於12月推出了PrabowoGibran.ai生成式人工智能平台,幫助其1.5萬名“網絡部隊”志願者跟蹤在線情緒並在社交媒體上分享人工智能生成的藝術作品。
全國協調員安東尼·梁告訴路透社,該平台使用了OpenAI技術和內部軟件。
在印度尼西亞,政治競選活動已經聘請創作者使用Midjourney、Leonardo AI、Microsoft Bing和Pika Labs等文本轉藝術工具,五位藝術家告訴路透社。
由OpenAI的DALL·E文本到圖像模型提供支持的Microsoft Bing發言人表示,公眾人物可以要求限制與其姓名相關的圖像的創建。
LeonardoAI和Pika Labs未回覆置評請求。
“關於政治內容,這個應用程序確實存在一些限制,”盧西提到Midjourney説道。“本質上,我只是使用該應用程序將原始照片的角色改變為特定主題。”
人工智能無處不在
安尼斯的競選團隊於一月份推出了一個由OpenAI提供技術支持的WhatsApp聊天機器人,用於回答有關他政策的問題。
在此之前,普拉博沃陣營也推出了類似的工具,但在去年十二月推出後不久就被下線,因為它錯誤地將七項支柱歸因於印度尼西亞的國家意識形態,而實際上只有五項。該工具至今未恢復。
甘加爾的競選團隊部署了一個儀表板,利用OpenAI技術在網上爬取數據,以預測討論要點,並提供有關候選人的實時社交媒體警報,顧問安迪·維德亞揚託表示。
人工智能使用的一個有爭議的例子出現在一月份,支持普拉博沃的印度尼西亞民族黨發佈了“深度偽造”視頻,其中已故強人蘇哈托敦促選民支持該黨的候選人。這些包含競選信息的視頻被標記為由人工智能生成。
總部位於雅加達的選舉關注倡導團隊(TAPP)在一份聲明中表示,這些視頻仍然在線上,展示了人工智能對選民操縱的潛力。
印度尼西亞民族黨的高級數字官員達拉·納蘇田稱這些視頻是“積極的信息”。
她表示,蘇哈托的形象是使用Midjourney和圖像應用Leonardo AI創建的,而他的聲音則是使用美國語音克隆初創公司ElevenLabs的軟件結合內部技術製作的。
Leonardo AI和ElevenLabs沒有回應評論請求。
三名選舉觀察員告訴路透社,他們沒有看到人工智能被用於在選舉期間大規模傳播虛假信息和誤導信息。
“與2019年的選舉相比,虛假信息的傳播範圍有限,”Mafindo事實核查組織的聯合創始人阿里博沃·薩斯米託表示。