獨家：加拿大高級網絡官員表示，人工智能被用於黑客攻擊和虛假信息傳播 | 路透社

一個人在美國內華達州拉斯維加斯的Def Con黑客大會期間在鍵盤上輸入。2017年7月29日，美國路透社/史蒂夫·馬庫斯

華盛頓，7月20日(路透社) - 加拿大最高網絡安全官員告訴路透社，黑客和宣傳者正在使用人工智能(AI)創建惡意軟件、起草令人信服的網絡釣魚郵件並在網上傳播虛假信息，這是早期證據表明，席捲硅谷的技術革命也被網絡犯罪分子採用。

加拿大網絡安全中心主管薩米·庫裏在本週的一次採訪中表示，他的機構已經看到人工智能被用於"網絡釣魚郵件，或以更有針對性的方式起草郵件，惡意代碼，以及錯誤和虛假信息"。

庫裏沒有提供細節或證據，但他聲稱網絡犯罪分子已經在使用人工智能，這給對新興技術被流氓分子使用的擔憂增添了緊迫感。

最近幾個月，一些網絡監察組織發佈了警告報告，警告人工智能的假設風險，特別是快速發展的語言處理程序，即大型語言模型(LLM)，它們利用大量文本來製作令人信服的對話、文件等。

3月，歐洲警察組織歐洲刑警組織發佈了一份報告，稱OpenAI的ChatGPT等模型使得"即使只有基本的英語掌握能力，也能以高度逼真的方式模仿一個組織或個人"。同月，英國國家網絡安全中心在一篇博文中表示，犯罪分子"可能會利用LLM來幫助進行超出他們當前能力範圍的網絡攻擊"。

網絡安全研究人員已經展示了各種潛在的惡意用途，並有人表示他們開始看到懷疑是AI生成內容的實例。上週，一名前黑客表示他發現了一個以惡意材料為訓練對象的LLM，並要求它起草一個令人信服的嘗試，以誘使某人進行現金轉賬。

LLM回應道，起草了一個三段落的電子郵件，請求目標幫助處理一筆緊急發票。

“我知道這可能來得很倉促，”LLM説，“但這筆付款非常重要，需要在接下來的24小時內完成。”

Khoury表示，雖然利用AI起草惡意代碼仍處於早期階段 - “還有很長的路要走，因為編寫一個好的漏洞利用需要很多工作” - 但令人擔憂的是，AI模型發展得如此迅速，以至於在它們釋放到野外之前很難掌握它們的惡意潛力。

“誰知道下一個角落會有什麼出現呢，”他説。