AI “機裏機氣”的虛構內容，令人憤慨_風聞

宇婷編輯，綜合整理‍‍‍

因為AI無邊界的生產力，互聯網正在被灌水。

那些完美的語氣特別平整，語句特別通順的，標點使用特別規範的，還沒錯別字的文本。以及背景虛化近乎完美的圖片，正像是沒有生命力，卻又完美的無法挑剔的病怏怏的，令你無可奈何的對象。ta坐在你的對面，沒有生命力地笑。

《AI，正在瘋狂污染中文互聯網》前兩天，這篇文章刷屏。所言甚是。

劍橋大學和愛丁堡大學安全工程教授Ross Anderson毫不避諱的直言：

正如我們用塑料垃圾佈滿了海洋，用二氧化碳填滿了大氣層，我們即將用廢話填滿互聯網。

1996年的科幻喜劇電影《丈夫一籮筐》，影片講述了一個普通人克隆自己，然後又克隆克隆人，每一次克隆都導致克隆人的智力水平呈指數下降，愚蠢程度增加。

機器人缺乏人類演員可能帶給角色的情感和細微差別。劍橋大學人工智能教授魯本·賓斯博士指出的那樣：“機器人可能能夠模仿情感，但他們無法像人類一樣感受到情感。這意味着他們可能無法傳達與人類演員相同的情感水平。”

生成式AI非常擅長編造事實，並且非常自信地傳遞這些幻覺。海外，一個名為“開明思維”的網站，該網站似乎是網絡AI生成未來的黑暗景象。除了其他令人擔憂的原因外，該網站沒有聯繫信息，其龐大的文章存檔追溯到2023年1月。這是一個由AI生成的網站，儘管內容荒唐，但是其在SEO的效果上（被引用）不可小覷。

此前，Stack Overflow禁用ChatGPT生成內容，Stack Overflow給出的官方公告：目的是減緩使用ChatGPT創建的大量答案流入社區。因為從ChatGPT得到錯誤答案的概率太高了！

‍‍‍‍‍‍‍‍

再看一個例子，遞歸的詛咒。大型語言模型（LLMs）已經來到了我們身邊，並將帶來整個在線文本和圖像生態系統的巨大變化。當 LLMs 貢獻了網絡上大部分的語言時，使用模型生成的內容進行訓練會導致產生不可逆轉的缺陷，其中原始內容分佈的尾部消失了。

這種效應稱為模型崩潰。隨着從互聯網上爬取的數據中出現 LLMs 生成的內容，真正的人機交互數據的價值將越來越高。

AIGC可以改變學習的方式，可以反哺更多內容，但更多和更快，可能與更準確、更真實產生強烈摩擦。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍