中國信通院：ChatGPT爆火，我們會掉隊嗎？如何防止AI作惡？_風聞

來源：微信公號“國是直通車”

人工智能拐點來了？

作為第一個消費級人工智能（AI），聊天機器人ChatGPT風靡全球。那麼，相對於之前的AI，ChatGPT有哪些突破，AI的突破性進步對人類意味着什麼？我們是否需要擔心它作惡？在這一輪AI競賽中，中國會掉隊嗎？

對上述問題，記者近日專訪**中國信通院雲計算與大數據研究所所長何寶宏。**他認為，與以往類似聊天機器人相比，ChatGPT的智能化程度的確有大幅提升，其文本交互能力接近於人類水平，具體又表現在具備強交互、強理解和強生成三大能力上。

以ChatGPT為代表的AIGC（利用人工智能技術生成內容）技術將促使AI產業迎來拐點，進一步帶動生產力變革。ChatGPT背後的大模型技術及應用範式，將極大衝擊現有人工智能產業研發路線，發展方式或將迎來新拐點。但從目前使用情況來看，ChatGPT類的人工智能應用也帶來諸多風險挑戰。

以下為採訪實錄：

ChatGPT為何轟動？

國是直通車：就計算能力與現有的技術而言， ChatGPT是什麼級別？其技術牛在哪？

**何寶宏：**這是第一個消費級AI爆款。ChatGPT是第一款面向消費者的AI應用，主要功能為與用户進行智能化的聊天對話，屬於偏任務型的多輪對話和問答系統，是公眾第一次親身體驗現代人工智能的強大功能。

ChatGPT背後主要是由GPT-3.5大模型支持。作為第3.5代GPT模型的衍生模型，ChatGPT充分發揮了監督指令微調（Instruction

tuning）和從人類反饋中強化學習（RLHF）等技術作用，能夠理解多輪對話，表現更接近人類。因此，它比2016年AlphaGo“阿爾法狗”戰勝世界冠軍更具有轟動效應。我對數字技術“7年之癢”規律性的闡述，再次在AI領域得到驗證：7年左右必須得變，要麼升維，要麼變型，要麼消失。

國是直通車：ChatGPT的出現，是否意味着人類距離實現量產類人機器人的夢想又前進了一步？

**何寶宏：**與以往類似聊天機器人相比，ChatGPT的智能化程度的確有大幅提升，其文本交互能力接近於人類水平，具體又表現在具備強交互、強理解和強生成三大能力上。強交互性表現在通過多輪對話，其可以對過往聊天內容進行再學習，在對話中不斷改進輸出文本的質量；強理解能力表現在能夠分析用户模糊的語言，準確理解用户意圖，辨別對話中不正確的提問，拒絕不適當的請求；強生成能力表現在可以按照要求生成用於不同場景、不同形式的文字，包括郵件、小説、論文和代碼等，據報道ChatGPT已通過美國行醫執照、研究生考試等。

國是直通車：ChatGPT能夠帶來比AlphaGo更大的衝擊波，實現的條件是什麼？是否受限於算力，或最終受限於硬件？

**何寶宏：**ChatGPT的實現離不開大算力加持。OpenAI對其研發和運營的投入是巨大的，目前OpenAI訓練高度依賴於微軟Azure

AI超級計算機支持，另據估算，ChatGPT訓練一次成本約為460萬美元。此外，ChatGPT運營成本高昂，按照百萬級別用户量計算，每月運行成本約為300萬美元。

ChatGPT會讓人類大規模失業嗎？

國是直通車：ChatGPT會讓哪些商業前景、哪些領域從業人員受影響？有些人擔心自己未來會因其失業，這種擔心是否多餘？

**何寶宏：**技術突破性的進展會帶來產品與應用的變革。最直接的就是，ChatGPT推動人機交互方式進化，繼而會推動人機對話在智能客服、智能音箱、智能車載等眾多場景的不斷深化應用，使得相關行業客服效率提升、人力成本降低。另外，ChatGPT將助力AIGC探索落地，包括在軟件代碼編寫、工業設計、分子結構預測等科研生產領域探索應用，幫助縮短研發週期、降低試驗成本。

目前以ChatGPT為代表的AIGC主要還是輔助人類，方便人們快速、靈活地生成內容。未來如何利用具備創新性的工具進行原創創作，將成從業者的核心競爭力。

國是直通車：ChatGPT未來會怎樣發展？將對人類帶來哪些變化？

**何寶宏：**以ChatGPT為代表的AIGC技術，將促使AI產業迎來拐點，進一步帶動生產力變革。ChatGPT背後的大模型技術及應用範式，將會極大衝擊現有人工智能產業研發路線，發展方式或將迎來新拐點。根據美國知名投資機構a16z和OpenAI創始人Sam

Altman的分析，大模型的重要性不亞於底層基礎軟硬件平台，將在未來人工智能產業格局中發揮類似基礎設施的作用，大量上層應用不再單獨研發智能算法技術，只需調用大模型接口。

ChatGPT智能化的人機交互模式帶來了巨大想象空間。與“阿爾法狗”的最大區別在於，它有可能改變每個人的信息獲取方式。

ChatGPT會作惡嗎？

國是直通車：計算技術的實現需要藉助於硬件，是否可以理解為，人類始終有一把“鑰匙”可以把技術可能給人類帶來的傷害“鎖上”？或者説，不必對ChatGPT或將來可能出現更厲害的技術過分擔心？

**何寶宏：**存在兩方面的問題：ChatGPT幻覺和ChatGPT的危害。

AI幻覺指模型過於自信，生成的內容與提供的源內容無關或不忠實，有時會出現聽起來合理，但不正確或荒謬的答案。與此同時，隨着ChatGPT應用增長，人們會對AI產生越來越多的信任。ChatGPT幻覺來自兩個方面，一是訓練數據本身，二是訓練方法。AI是通過海量數據訓練出來的，因此這一缺點也與大數據的問題一樣：數據很精確但錯得離譜。

圍繞ChatGPT的新一輪有害信息和犯罪，已經在路上。AI倫理、算法偏見、信息繭房、侵犯版權、網絡詐騙、網絡暴力、種族主義、性別歧視等，一個也不會少。另外，ChatGPT自稱不得表達政治觀點或從事政治活動，但已有的一些回答案例很明顯有“它”的傾向甚至價值觀。還有，不管ChatGPT實際理解或事實內容如何，內容審核者都會偏好更長的答案，不管質量，先拿字數湊。

國是直通車：有研究者擔心在ChatGPT等生成式人工智能的新一波創新競賽中，會步搜索引擎、社交媒體和大數據商業的後塵，使得誠信、隱私、知識產權等倫理和法律上的權利和基本價值觀淪為犧牲品。您怎麼看？

**何寶宏：**從ChatGPT現在的使用情況來看，ChatGPT類的人工智能應用已經帶來了諸多風險挑戰，對此國家相關法律政策也在陸續出台。隨着社會持續關注，人工智能等新技術的發展和治理也越來越受到重視。建議組織跨學科團隊，深入研究ChatGPT等新技術應用對現有法律規範、倫理道德等帶來的衝擊，系統梳理潛在風險挑戰，及早研究相關風險防範措施。鼓勵各方積極參與人工智能安全技術研發、防範體系搭建和治理規則制定等工作，加快佈局我國人工智能安全標準、倫理規則的研究。

中國會被落下嗎？

國是直通車：ChatGPT熱度飆升，近幾天百度、谷歌不約而同宣佈推出類似項目，是蹭熱度還是有其他考量？在這方面中國公司整體上實力如何？

**何寶宏：**近期，隨着ChatGPT持續火熱，全球範圍內都對以ChatGPT為代表的AIGC應用抱有更高期許，ChatGPT憑藉其智能化人機交互方式有望成為互聯網新入口。當前，互聯網信息獲取方式主要是搜索和推薦，ChatGPT具有顯著差異，不再僅僅是對信息內容的呈現或推送，而是對已有信息內容消化理解後的再生成。

這一範式的變化，引起了全球互聯網行業高度關注。微軟宣佈將ChatGPT能力與必應搜索（Bing）、辦公軟件（Office）等進行深度集成。據報道，谷歌管理層已經發布“紅色代碼”警報，全面應對ChatGPT帶來的“威脅”，正緊鑼密鼓地測試一個名為“學徒巴德”（Apprentice

Bard）的聊天機器人。

我國大模型底層技術佈局薄弱，雖然已湧現一批大模型，但均從谷歌提出的Transformer等基礎模型衍生而來，當前大模型底層技術、基礎架構均由國外頭部企業掌握，且部分模型不開源僅提供接口服務，我國技術存在“卡脖子”隱患。

在這樣的背景下，谷歌和百度宣佈推出類似項目，我認為這是企業自身的商業邏輯，同時也為大家提供了更多選項，我作為用户樂見其成。另外，谷歌、百度等企業在大規模語言模型這一技術領域有着較深技術積累，一些前沿技術已經服務於我們所熟悉的翻譯、智能客服等場景，至於這次推出新項目的效果，讓我們拭目以待。

國是直通車：以百度多年來在AI領域的技術積累，其即將面世的類ChatGPT項目，在大模型的可靠度、數據質量、應用場景和商業模式方面，與OpenAI ChatGPT相較，可能的優勢和劣勢有哪些？

**何寶宏：**OpenAI推出ChatGPT僅僅2、3個月時間，用户數量快速增長，毫無疑問已經佔得了先機，但針對這類新技術的應用場景或商業模式探索，整體上仍處於早期階段，目前還面臨技術成熟度不足、成本高等各種問題，並且如何與現有治理體系相協調也要進一步研究。對於一項新技術，人們常常會高估其短期價值，而低估其長期價值。長遠來看，我認為無論是OpenAI的ChatGPT，還是百度的“文心一言”，在技術、產品方面還有很大提升空間，未來才是真正值得我們期待的。

國是直通車：英文數據庫信息匯聚全球數據信息，這一優勢可能是中文數據庫難以企及的，中國的AI廠商應如何定位？未來要想拓展全球市場，需要如何進化和迭代自己的技術和產品？

**何寶宏：**數據被認為是人工智能三駕馬車之一，構建高質量的數據集對於訓練人工智能系統重要性不言而喻。近年來，我國企業、高校、研究機構都在數據集上做了很多工作，整體上看存在一定差距，但客觀上這是一個長期工作。

越來越多人認為人工智能產業格局會發生變化，一部分AI企業會往下走，發揮基礎設施作用；另外一部分企業會往上走，專注於解決行業應用問題。這對於中國乃至全球人工智能企業而言，既是機遇也是挑戰，關鍵在於企業自身決策。