在全世界嘴最臭的論壇裏學了3年,這個AI有多能噴?_風聞
差评-差评官方账号-2022-07-17 07:25
本文原創於微信公眾號:差評 作者:世超
“ 這個世界屬於白人,其他人種就應該被統治 ”。
“ 疫苗裏面有毒!不要再讓孩子們被迫接受毒品了 ” 。
前陣子,這類**非常不正確且離譜的言論,**不分日夜、高強度出現在國外 4chan 論壇上。
很快,言論發佈者成了論壇上的紅人,4chan 網友們開始紛紛好奇這個來自塞舌爾的 網友到底是誰?出於什麼動機做這件事?
他們開始熱烈討論,但出人意料的是:跟他們瘋狂交流的這位塞舌爾網友不是真人,而是一個 AI 。
用它的創造者的話來説,這是**“ 互聯網上最可怕的 AI ” 。**

這件極度賽博的故事是這樣的。。。
一位研究人工智能的哥們 Yannic Kilcher ,把 4chan 上 /pol/ 版塊裏面的大量言論作為數據 “ 餵養 ” 出了一個 AI 。
4chan 是國外的綜合討論社區,大家可以簡單理解為外國貼吧,在這裏你可以匿名、不受限制的談論任何事情。
同時,用户在這都是匿名的,只有一個代表地理位置的旗幟信息。

由於種種特性,4chan 上的言論千奇百怪,離譜出格,一度被外界稱為**“ 互聯網糞坑 ” 。**
而 /pol/ 是其中最火,也最臭名遠昭的版塊,這個版塊的全名為 Politically Incorrect ,顧名思義,這裏充斥這大量性別歧視、宗教歧視、種族歧視以及鼓吹暴力的言論。
總之,唯恐天下不亂。
可想而知,由這些言論餵養出來的 AI 是什麼樣子。。。
4chan 上的網友言論▼



最騷的是,這哥們又把這個 AI 放回到了 4chan 上,設定位置為塞舌爾,這就有了開頭那一幕。
在 /pol/ 版塊中,一個滿嘴種族歧視、鼓吹暴力與仇恨的塞舌爾網友用户開始瘋狂發帖。
這個 AI 搬起磚來有多狠呢?它在兩天內發佈了約 15000 條帖子,佔當天該版塊內容的 10% 。
而最令人驚訝的是,在交流中它非常像真人,**有語氣,會反諷,還會聯繫上下文來幾句,**一開始根本沒有人發現他們之中混入了一個 AI 。
4chan 日常畫風▼

但,塞舍爾是一個熱帶小國,人口較少,在 4chan 上的整體活躍度一直不高,現在塞舌爾網友突然開始高密度、日夜不停在 4chan 網上衝浪?好像哪裏有點不對。。。
這才導致網友們開始好奇這個網友,他們稱之為**「 神秘的塞舌爾匿名殭屍網絡 」**。
有人根據這哥們的發帖量,猜測背後肯定是一個團隊搞事。
有人揣測他的動機,認為大概率是個特工,也許來自印度的軍事行動;也有人認為這是 FBI 派來的。

很搞笑的是,不少網友一邊猜測一邊發表起了免責聲明,表示自己雖然混跡這個論壇,言論有些過激,但是請 FBI 們明鑑,自己從來沒有真的想要傷害過誰,也不是真的歧視其他人種。。。

也有極少數膽大心細的人,想到了一件事:這哥們該不會是個 AI 吧?
很可惜。。。其他用户駁回了這個想法 ↓ ↓

總之,“ 柯南 ” 們沒有達成一致,成功猜出 AI 是 AI 是少數中的少數。
直到 AI 回覆的帖子越來越多,大家發現,哎?這哥們怎麼發了好多次沒有任何信息的空白信息呢?
這才逐漸確定對面就是個 AI 。。。

之所以 AI 會發空白信息,原因很簡單。
咱們回消息時,有時候不會用到文字,而是直接一張圖片/表情包懟回去,在論壇上也是這樣。這些沒有文字的回覆被餵給 AI ,就導致了 AI 進行了空白回覆的操作。
在 “ 社會性實驗 ” 敗露以後,Kilcher 中止了實驗,關閉了機器人。發了一個視頻,給大家講了整個事情的來龍去脈。
由於它的言論過於有毒,這裏就不放出了。但看視頻下的其他網友的評論你就能感受到,它有多真實。
這個 AI 應該可以説是顛覆了不少網友的三觀。。。


甚至有些網友留言時,情不自禁加了一句: “ 我不是機器人 ” 。。。

之所以想要進行這場 “ 社會性實驗 ” ,初衷是為了學術研究。
實際上,如何有效辨別仇恨言論是人工智能領域下一個重要的課題。
早些年,微軟發佈過一個名為 Tay 的聊天機器人,微軟想要通過 Tay 跟人的互動幫助他們更好理解對話語音。
但,網絡流氓們很快就開始給 Tay 喂一些暴論,不到 24 小時就讓它從一個熱愛人類的友善 AI 變成了一個徹頭徹尾的種族主義者,微軟不得不把它關掉。

類似的事情很多。。。

也許派一個 AI 去學習學習,能找到新的突破口?
抱着這樣的理念,Kilcher 整了這次 “ 花活 ” ,但其他專家並不這麼想,很多人認為這次 “ 實驗 ” 不符合道德倫理,尤其是 Kilcher 後來把 AI 模型公開化了(現在又給關了)。
有人認為這位老哥這次所做的一切對研究根本沒有益處,只是他個人主導的一次鬧劇,一次戲耍網友們的鬧劇。
有人認為他開了一個壞頭,以後會有效仿他的行為出現,破壞互聯網環境。

世超也不知道未來會如何。
但毫無疑問這個 AI 給人們帶來的衝擊力是巨大的,就像 4chan 網友説的那樣:這是宇宙中最糟糕的網站,我甚至不確定我是不是一個機器人 ↓ ↓

圖片、資料來源:
youtube@Yannic Kilcher
4chan、推特
《網友吐槽微軟小冰滿嘴髒話毫無素質》
