印度選舉中AI干預的擔憂：印度明星的Deepfakes引發擔憂 | 路透社

第1項，印度總理納倫德拉·莫迪的支持者戴着他的面具參加2024年3月31日在印度梅爾特舉行的競選集會。路透社/Anushree Fadnavis

印度總理納倫德拉·莫迪的支持者戴着他的面具參加2024年3月31日在印度梅爾特舉行的競選集會。路透社/Anushree Fadnavis 孟買，4月22日（路透社）- 在一些在網上瘋傳的虛假視頻中，印度兩位一線寶萊塢演員被看到批評總理納倫德拉·莫迪，並呼籲人們在印度正在進行的大選中投票支持反對黨國大黨。。在一段30秒的視頻中，Aamir Khan和另一段41秒的Ranveer Singh視頻中，這兩位寶萊塢演員據稱表示，莫迪未能實現競選承諾，在他擔任總理期間未能解決關鍵的經濟問題。

這兩個由人工智能生成的視頻以國大黨的選舉標誌和口號結束：“為正義投票，為國大黨投票”。

據路透社的審查顯示，自上週以來，這兩個視頻在社交媒體上已被觀看超過50萬次。

它們的傳播突顯了這種人工智能生成內容在印度於上週五開始的龐大選舉中可能發揮的作用。將繼續直到六月。人工智能和人工智能生成的偽造品，或者深度偽造品，正越來越多地被用於世界其他地方的選舉中，包括美國，巴基斯坦和印度尼西亞。印度的競選長期以來一直側重於門到門的宣傳和公開集會，但對WhatsApp和Facebook的廣泛使用作為競選工具始於2019年。今年的大選 - 預計莫迪將獲得罕見的第三個任期 - 是首次使用人工智能。國大黨發言人蘇賈塔·保羅（Sujata Paul）於4月17日與她的16,000名關注者在X上分享了演員辛格的視頻，到週六下午，她的帖子已被轉發2,900次，點贊8,700次，觀看次數達到438,000次。

保羅通過電話告訴路透社，她知道該視頻被X標記為“操縱媒體”，但她不想刪除它，因為在發佈時，她認為那個人長得像辛格，“這確實很有創意”。

週日，在路透社向國大黨社交媒體負責人發出評論請求後幾小時，該帖子在X上不再可見，該負責人未回覆。

兩位演員都表示這些視頻是假的。Facebook、X和至少八個事實核查網站表示這些視頻已被篡改或操縱，而路透社數字驗證部門也已證實。

路透社無法確認是誰製作了這些視頻。汗對這個病毒性的“假”視頻感到“震驚”，辛格的團隊正在調查此事，根據兩位演員的發言人。辛格在週五寫道：“朋友們，小心深度偽造。”

莫迪的辦公室和他的印度人民黨的IT主管沒有回應評論請求。

警方調查

印度有將近9億人可以接入互聯網，由Esya Centre研究機構和印度管理學院商學院進行的一項調查顯示，印度人平均每天在社交媒體上花費超過三個小時。該國有近10億選民。

一些視頻的版本已在社交媒體上被屏蔽，但至少有14個視頻在週六仍然在X上可見。Facebook刪除了路透社標記給公司的兩個視頻，但另一個仍然可見。

Facebook在一份聲明中表示，由於違反其政策，他們已經“刪除了這些視頻”。X沒有回應路透社的查詢。

這些視頻已經引發了一起警方調查，汗於4月17日在孟買針對未透露姓名的人註冊了一起案件，指控制作了這個假視頻進行冒充和欺詐。

孟買警方沒有回覆評論請求，但兩名參與汗案件的警官（拒絕透露姓名）表示，他們已經致函Facebook和X，要求刪除視頻，這兩家公司表示已經完成。

這兩名警官表示，他們一直工作到週五凌晨2點，不斷刷新頁面以檢查是否刪除了汗的在線視頻。在被問及案件進展時，其中一人表示：“這樣的技術調查需要時間。”

已故父親的AI視頻

在今年的選舉中，政客們以其他方式使用人工智能。

在印度南部，國大黨領袖維賈伊·瓦桑特的發言人表示，他的團隊利用人工智能製作了一段2分鐘的音視頻剪輯，該剪輯在社交媒體平台上分享，展示了他已故但更受歡迎的政治家父親H. 瓦桑塔庫馬爾為他拉票。

這位已故政治家被看到説：“即使我的身體離開了你們，我的靈魂仍然在附近。”

在印度共產黨（馬克思主義）（CPM）在YouTube上發佈的視頻中，AI生成的主持人Samata穿着傳統的印度長裙，以模仿常規新聞頻道的風格講話，批評了西孟加拉邦的執政黨。

在一個視頻中，主持人聲稱該黨不關心環境，因為許多水體已經消失，原因是非法建築。

執政黨的發言人否認了這一指控，並表示邦政府已確保不會發生這種建築。印度共產黨未回應置評請求。

在這段已經觀看了1.2萬次的視頻中，主持人Samata宣佈：“這些是我們這座城市的公民需要深思的問題。”

即將推出：通過路透社經濟世界（Reuters Econ World）獲取有關全球經濟狀況的最新新聞和專家分析。在這裏註冊。