OpenAI稱更多中國團體利用ChatGPT從事惡意活動 | 聯合早報

美國人工智能公司OpenAI星期四（6月5日）表示，越來越多中國團體正在利用該公司的人工智能技術開展隱蔽行動。

OpenAI定期發佈平台上發現的惡意行為報告，例如用於開發和調試惡意軟件，或為網站和社交媒體平台生成虛假內容。

綜合路透社和《華爾街日報》報道，該公司星期四表示，“相當數量”的違規行為據信來自中國，最新報告中包含的10個樣本案例中有四個可能源自中國。

OpenAI表示，雖然中國團體的行動範圍和手法有所擴展，但目前偵測到的操作總體規模較小，目標受眾也較為有限。

報告公佈的其中一個案例是，有ChatGPT用户生成與中國相關政治和地緣政治內容，包括批評一款以台灣為中心的遊戲、針對一位巴基斯坦活動人士的虛假指控，以及涉及美國國際開發署（USAID）關閉事件等的內容。

這些賬號還生成對美國總統特朗普關税政策的批評內容，例如在社交平台X上生成“關税讓進口商品貴得離譜，政府卻大手筆援助海外，誰來吃苦？”的帖文。OpenAI已封禁了這些賬號。

另一個案例中，中國相關賬號利用AI來實施網絡攻擊，包括開源研究、腳本修改、系統配置排查，以及開發用於暴力破解密碼和社交媒體自動化的工具。

OpenAI還發現有來自中國的ChatGPT賬號生成極具對立性的社交媒體內容，在美國政治議題中分別支持爭議雙方，同時還製作了配套的文本和AI生成的用户頭像。

據《華爾街日報》，中國駐美大使館發言人劉鵬宇在一份聲明中説，中國始終堅持智能向善的原則，反對竊取、篡改、泄露以及其他非法收集利用個人信息的行為。

劉鵬宇表示，網絡空間虛擬性強，溯源難，行為體多樣，中方希望有關方面採取專業和負責任的態度，在定性網絡事件的時候基於充分證據，而不是無端猜測指責。