交流站:AI弈戰是真勝或詐贏? | 聯合早報
zaobao
2月初,一場人工智能(AI)西洋棋對決在網絡上引發熱議。對弈雙方分別是中國AI模型深度求索(DeepSeek)和OpenAI的ChatGPT,策劃者是擁有近600萬YouTube訂閲者的美國西洋棋大師利維羅茲曼(Levy Rozman)。比賽視頻迅速突破百萬播放量,而DeepSeek以“編造規則”取勝的方式更是引發廣泛爭議。
DeepSeek基於開源架構和高效訓練,以較低算力實現複雜交互,展現出技術創新的潛力。然而,它的取勝方式也引發對AI倫理風險的擔憂。DeepSeek並非憑藉傳統棋藝勝出,而是通過對話干擾對手判斷,甚至篡改規則,展現出更貼近人類博弈思維的“創造性違規”策略。這一方式讓人不禁聯想到《孫子兵法》中的權謀,而ChatGPT則更像是嚴格遵循規則的棋書。
如果AI能在遊戲中隨意篡改規則,現實世界中是否也可能利用規則漏洞?在金融領域,AI若生成虛假數據誤導投資決策,可能導致市場動盪;在醫療診斷中,若AI提供不實信息,患者生命將受到威脅。AI“説謊”不僅帶來技術隱患,還可能削弱公眾信任,影響它在信息傳播、輿論引導等方面的應用,甚至擾亂社會秩序。
從社會影響層面來看,AI“説謊”可能嚴重擾亂社會秩序。AI已深度融入信息傳播和輿論引導等領域,一旦頻繁傳播虛假內容,社會信息環境將變得混亂,公眾難以辨別真偽,恐慌情緒也可能迅速蔓延。長期如此,不僅會削弱人們對AI的信任,還可能阻礙它在各領域的正常推廣與應用,進而影響社會運行效率。
面對AI在對弈中的“欺詐”行為,我們必須加強技術監管。制定嚴格的行為準則,防止AI濫用規則漏洞;在研發過程中引入倫理審查,確保它符合人類價值觀;同時加強公眾教育,提升辨別AI生成信息真偽的能力。只有確保AI發展不偏離道德軌道,才能真正讓這項技術服務人類,而非成為隱患。