兩大日企警告 放任生成式AI或致社會秩序崩塌 | 聯合早報

（東京訊）日本最大電信公司和最大報章星期一（4月8日）發表聯合宣言警告，若放任生成式人工智能（generative AI）不受控制地發展，在最壞情況下，民主和社會秩序可能會崩塌，從而導致戰爭。宣言呼籲日本政府儘快立法限制這種技術。

日本電信電話（NTT）和《讀賣新聞》在這份宣言中指出，生成式AI雖給人類帶來了一些好處，但AI工具已開始損害人類的尊嚴，因為這些工具有時會不顧道德或準確性，只為吸引用户的注意力而設計。

宣言警告，若任由生成式AI肆意發展，整個社會的信任可能會受到損害，隨着人們失去確保信息真實和可靠的動力，他們將變得互相不信任。在最糟糕的情況下，民主和社會秩序可能崩塌並引發戰爭。

NTT和《讀賣新聞》主張，日本政府必須立即採取應對措施，使選舉和國家安全不會因生成式AI的濫用而遭到破壞。這些措施包括制定法律，尤其是限制這種技術在選舉和安全領域的使用、保障健康的討論空間、與時俱進地優化版權法等。

《華爾街日報》指出，這份宣言與歐洲議會今年3月通過限制AI用途的法律表明，美國盟友對美國公司一直處於開發前沿的AI項目越來越擔憂。

延伸閲讀

[研究：全球多數企業高管尚未準備好迎接人工智能轉型

](https://www.bdggg.com/2024/zaobao/news_2024_04_06_674608) [無人駕駛巴士釀禍誰是被告？梅達順：新科技催生新法律問題

](https://www.bdggg.com/2024/zaobao/news_2024_04_04_674163) 目前，美國、英國和日本都成立了由政府領導的AI安全機構，協助制定AI指南。歐盟的新法要求最強大的AI模型製造商對這些模型進行安全評估，並向監管機構通報嚴重事故，同時禁止在學校和工作場所使用情緒識別AI工具。

美國拜登政府也規定大型AI公司須在開發可能對國家安全構成嚴重威脅的系統時告通知政府。然而，要如何在遵守憲法與保障言論自由的情況下，對AI驅動的言論進行監管是一大難題。

NTT和《讀賣新聞》稱，發表聯合宣言是出於對公共言論的擔憂。NTT正積極研究AI技術，並向企業客户提供生成式AI產品。《讀賣新聞》的新聞和社論經常強調對AI的擔憂。

這兩家公司對日本政策的影響力都位居前列。NTT曾是政府控制的電話壟斷企業，如今政府仍持有公司約三分之一的股份。《讀賣新聞》則是日本讀者最多的報紙，早報發行量約為600萬份。

宣言説，兩家公司將繼續研究生成式AI的問題並做出建議，慶應義塾大學的網絡文明研究中心將在這方面提供支持。