AI也要被管起來了_風聞

非凡油条-非凡油条官方账号-深度解读全球政治财经动向的前因后果04-12 20:23

2023-04-12

2023年春季，ChatGPT無疑是整個互聯網世界的“頂流”，其驚人的語言對話能力給AI領域帶來的衝擊更甚於七年前與世界冠軍李世石對戰圍棋的AlphaGo。3月下旬，OpenAI宣佈ChatGPT接入第三方插件，這意味着它開始從聊天機器人蜕變成開發者平台。國外的AI技術不斷迭代，國內各大巨頭雖有佈局，卻仍有差距。同時，熱度之外，ChatGPT也因其安全隱患遭多方禁用，人們對新技術的狂熱追逐還未退潮，對AI可能引發的各種風險的擔憂卻持續升級。

ChatGPT火遍全網，卻因其缺陷備受質疑

功能單一、數據過時

2022年11月30日，美國硅谷初創公司人工智能研究實驗室OpenAI發佈了ChatGPT（全稱為“Chat Generative Pre-trained Transformer”）並開放試用。

短短几天，就吸引了超過100萬用户註冊，僅僅過了2個月，月活躍用户就已經過億，打破了此前Tik Tok用九個月時間將用户數累計到1億的速度。

互聯網上對ChatGPT的討論熱火朝天。無論是傳統的NLP（自然語言處理）任務，如抽取、分類，還是寫代碼、作詩等，ChatGPT都可以通過多輪對話的方式給出流暢的結果。

熱烈的討論聲中，很多人驚呼：“《流浪地球2》裏那個不斷自我學習，最終演化出自主思維的‘MOSS’，或許離我們已經不遠。”

人工智能現有的基本模型是以邏輯推理為核心的符號主義AI、以數據驅動為核心的連接主義AI（深度學習）、以反饋控制為核心的行為主義AI（強化學習）。而Chat-GPT正是對現有人工智能方法和技術的創新性整合。

在“數據是燃料、模型是引擎、算力是加速器”的驅動下，以深度學習為核心的人工智能正猶如水和電一樣賦能人類社會。

ChatGPT恰如其分地體現了“數據、模型和算力”的特點：ChatGPT的訓練使用了45TB的數據、近1萬億個單詞（大概是1351萬本牛津詞典所包含的單詞數量）；使用了深度神經網絡、自監督學習、強化學習和提示學習等人工智能模型。

訓練ChatGPT所耗費的算力大概是3640 PetaFLOPs/天，即用每秒能夠運算1000萬億次的算力對模型進行訓練，需要3640天才能完成。

在大數據、大模型和大算力的工程性結合下，ChatGPT展現出強大的統計關聯能力，可洞悉海量數據中單詞-單詞、句子-句子等之間的關聯性，體現了語言對話的能力。

因此，在不少計算機領域業內人士看來，ChatGPT的橫空出世，給AI領域帶來的衝擊，更甚於七年前的AlphaGo戰勝圍棋世界冠軍、職業九段棋手李世石的那場圍棋人機大戰。

不過，在3月之前，“頂流”ChatGPT仍然因為一些缺陷和限制而受到質疑：

首先，此階段的ChatGPT本質上更像是一個基於語義模型和預訓練的聊天機器人，功能比較單一。

其次，其數據庫只更新至2021年9月，它所具備的參數和數據都是過去的數據，這些數據難以被更新，意味着我們無法通過它獲得新聞或最新的數據。

這也是為什麼一旦用户提出的問題涉及到該時間點以後的內容，ChatGPT不是回覆“不支持”，就是直接向用户返回編造的錯誤信息。

第三，ChatGPT並不具備“記憶功能”和“理解功能”，這意味着你先前所詢問的一些問題，GPT無法記住，當你重複詢問同樣一個問題，會獲得截然不同的甚至是隨機的答案，因為它不“理解”你的問題。

最後，ChatGPT會生成甚至偽造許多的參考文獻、不存在的網址或者生成大量“不負責任”甚至極其隨機的回答。

比如，隨着全球的用户參與訓練，很多種族主義的詞彙或者是一些奇怪的異國概念進入數據庫中，當這些對話被作為參數參與訓練AI很可能得到完全無法理解的結果。

ChatGPT接入插件，不再只能“Chat”

聊天機器人變開發者平台

面對數據過時、功能單一、隨機性回答等缺陷，OpenAI終於要做出改變了。

當地時間3月23日，OpenAI宣佈ChatGPT能夠支持第三方插件接入，這些插件是專門為“以安全為核心原則的語言模型設計的工具”，可幫助ChatGPT訪問最新信息、運行計算或使用第三方服務。

本次接入的插件包含兩大類：

首先是OpenAI自己提供的一個網絡瀏覽器和一個代碼解釋器，前者允許ChatGPT從互聯網訪問信息，後者對於解決數學問題、數據分析、可視化和文件格式轉換很有用，可使ChatGPT能夠使用Python並在沙盒環境中處理上傳和下載任務。

ChatGPT直接從互聯網上實時獲取內容之後，在體驗上已經與微軟的New Bing不相上下。

其次是來自其他公司的第三方插件，首批參與插件創建的廠商包括Expedia、FiscalNote、Instacart、KAYAK、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram 和Zapier。

除了聯網，這些插件使得ChatGPT能連接到第三方應用程序，之後ChatGPT便能夠與開發人員定義的 API進行交互，從而增強 ChatGPT 的功能並允許其執行範圍廣泛的操作：

舉例來看，上述名單中，Wolfram開發的Wolfram Alpha是一套十分強大的科學問答系統，其數據來自各大學術網站、出版刊物與科學機構，用户可以從ChatGPT中選擇並安裝Wolfram插件，從而提高其計算智能。

Open Table插件允許聊天機器人搜索可預訂餐廳；Instacart插件允許ChatGPT在本地商店購物；Zapier可以與谷歌表格、Trello和Gmail等應用程序連接，適用於辦公場景。

為了促進新插件的創建，OpenAI已經開源了知識庫檢索插件的代碼，開發者可以在其中創建並分享自己的插件，以造福用户。

如果説ChatGPT是人工智能的iPhone時刻，那麼加入了第三方插件，就是ChatGPT的App Store時刻了。

這使得ChatGPT不再只是一個聊天機器人，而成為一個開發者平台，從而進一步鞏固其主導地位。

在商業層面，先前單純的AI聊天機器人其實並沒有太大的盈利想象空間，畢竟如今大眾對於ChatGPT的熱衷主要是新鮮感在驅動，單純靠ChatGPT Plus這一付費訂閲無法負擔其驚人的算力成本。

但當ChatGPT實現接入第三方插件之後，相當於是Chrome有了Chrome應用商店，從而有了更廣闊的盈利空間。

目前，OpenAI優先考慮少數開發者以及ChatGPT Plus的付費用户能夠使用測試版插件，未來會更大規模地向更多用户開放。

值得注意的是，ChatGPT的聯網可能也會帶來一些風險：聯網之後它可能會執行惡意指令，例如發送欺詐性和垃圾郵件、繞過安全限制誤導用户或濫用他人信息。

不過OpenAI表示，已經在內部和外部實施多項保障措施以防止上述情況發生。他們仍在不斷學習，希望能打造出既有用又安全的AI。

巨頭們紛紛出手，中國GPT時刻來臨

“BAT”，華為，京東都在佈局

美國的ChatGPT不斷迭代進化，壓力給到中國的大廠這邊。

當ChatGPT橫掃中國輿論場時，國人無比期盼自己人能開發出同類產品，並與之同台競技。而過去10年在AI領域投入超過1100億元研發費用的百度，自然成為被關注的對象。

在外界的翹首以盼中，文心一言的新聞發佈會如期而至。

3月16日下午，百度開啓新一代大語言模型、生成式AI產品文心一言測試，從而成為第一家加入該賽道競爭的中國企業。

在發佈會現場，百度創始人、董事長兼首席執行官李彥宏通過問答的形式，展示了文心一言在文學創作、商業文案創作、數理推算、中文理解、多模態生成等五個使用場景。

除了百度推出中國版ChatGPT，騰訊、阿里、華為、京東等巨頭都有佈局大模型的研發，而且也有相應的產品推出。

2022年4月，騰訊對外披露混元大模型。

今年3月22日，騰訊科技發佈2022年年度報告，表示在AI大模型（預訓練大模型）領域，騰訊混元AI大模型覆蓋NLP（自然語言處理）、CV（計算機視覺）、多模態等基礎模型和眾多行業與領域模型，未來騰訊將繼續投入大模型技術以促進產品創新及運營效率。

阿里也不甘落後，2022年9月，阿里發佈通義大模型系列。

同年11月，阿里推出AI開源社區“魔搭”（ModelScope），旨在打造下一代開源的模型即服務共享平台，致力降低AI應用門檻。

2023年3月，阿里在“魔搭”上線了“文本到視頻生成擴散模型”，只需要在該模型中輸入文本，即可返回符合文本描述的視頻，並且該模型能夠基於文本描述進行推理，。

據官方介紹，該整體模型參數約17億，目前僅支持英文輸入。

華為的盤古系列也深受市場關注。

據悉，華為在2020年就開始佈局大模型，2021年4月的華為開發者大會2021（Cloud）上，華為雲便發佈了盤古系列超大規模預訓練模型，其中鵬城盤古大模型是業界當時首個千億級生成和理解中文自然語言處理大模型。

在產業化方面，華為已發起了智能遙感開源生態聯合體、多模態人工智能產業聯合體，智能流體力學產業聯合體等。

2月10日，京東雲旗下言犀人工智能應用平台宣佈將整合過往產業實踐和技術積累，推出產業版ChatGPT：ChatJD，其參數量預計為千億級別，並公佈了ChatJD的落地應用路線圖“125”計劃。

“125”計劃包含一個平台、兩個領域（零售和金融）、五個應用（內容生成、人機對話、用户意圖理解、信息抽取、情感分類）。

國內大廠紛紛官宣各自國產版ChatGPT的規劃及進度，人工智能產業的發展看起來一片繁榮，但我們不得不承認的是：迄今為止，國內尚未有任何一家公司或者科研機構能夠做出與ChatGPT同等效果的成果。

俗話説，萬事開頭難。從樂觀的角度看，國內GPT百家爭鳴的現狀總還是一個好兆頭，這預示着一個正在進步的人工智能市場。只有不斷優化產品和完善技術，推進行業內的合作和交流，才能夠推動人工智能技術的發展和普及，更好地滿足用户的需求和創新。

多次涉嫌泄密，ChatGPT遭多方禁用

該何去何從？

ChatGPT的風險遠不止聯網帶來的執行惡意指令風險，更重要的是安全隱患。

前不久，據SBS等韓媒報道：三星剛引入ChatGPT還不到20天，就發生了3起機密數據泄漏事件，涉及三星半導體設備測量資料、產品良率等信息。

實際上，最初三星因擔心內部機密外泄，一直禁止員工在工作中使用ChatGPT。

然而，隨着ChatGPT進入各個企業的步伐加速，越來越多員工認為技術需要迭代變化，加之半導體本身就是構建“生成式AI”的核心要素，於是三星決定：3月11日起，半導體設備解決方案（DS）部門可開始使用ChatGPT。

一般來説，企業在引入新技術時，都會對員工進行相關的培訓和教育，讓員工瞭解新技術的使用方法和注意事項，避免因為員工的不當操作而導致機密泄漏等安全問題。所以，三星向員工發出了提醒：“注意公司內部信息安全，不要輸入私人內容。”

但現實是，三星剛允許員工使用ChatGPT不到20天，已掌握到的數據泄露事件就有3起——2起設備信息泄露和1起會議內容泄露。

此外，Cyberhaven的一項統計結果告訴我們，ChatGPT提高工作效率是真的，但它會把對話內容作為訓練數據也是真的。

近160萬名打工人中，有8.2%的員工在工作場所使用過它——許多人稱，因為使用 ChatGPT，他們的工作效率“提高了10倍”。同時，有6.5%的員工表示會將公司數據複製到ChatGPT中，更有3.1%的員工表示曾將公司的機密數據放入ChatGPT。

與之相對應的，越來越多企業因擔心機密數據外泄，禁止員工訪問ChatGPT。

除了上文的三星，還有摩根大通、美國銀行、花旗集團、高盛、德意志銀行等。近期，軟銀也向全體員工通報了禁止向Chat-GPT輸入機密信息等注意事項。

除了會把對話內容作為訓練數據，從而泄露企業機密，ChatGPT還曾泄露用户隱私。

3月20日，多名ChatGPT用户表示在自己的歷史對話中看到了他人的對話記錄。還有不少ChatGPT Plus用户在Reddit和Twitter等平台發出截圖，表示在他們的訂閲頁面上看到了其他人的電子郵件地址。

3月25日，OpenAI發佈聲明承認，由於開源代碼庫中存在一個漏洞，部分用户能夠看到另一個用户的聊天標題記錄，此前已將ChatGPT短暫下線並緊急修補此漏洞。

此外，OpenAI表示，在特定的9小時窗口期內，1.2%的付費版用户的個人支付信息可能被泄露。部分用户可能會看到另一名活躍用户的姓名、電郵、支付地址、信用卡後4碼、信用卡到期時間等信息。

為此，意大利個人數據保護局(DPA)以“非法收集個人資料；未成年人年齡核實系統缺失”之名宣佈禁用ChatGPT。DPA聲稱，對ChatGPT可能侵犯隱私以及未能按要求驗證用户年齡為13歲或以上表示擔憂，並將開始立案調查。

這成為第一起政府禁止使用聊天機器人的案例。

海量數據的積累確實可以帶來人工智能的生產力質變，同時，從互聯網誕生起就始終縈繞左右的數據安全、隱私保護等問題，也成為了人工智能大模型無法迴避的伴生難題。

如何確保數據授權、界定數據安全的責任與科技公司的義務，規避隱私泄露、知識產權等風險，這些都將是人工智能在大規模介入公共領域後，必須首先解決的問題。

在全球大賽跑的背景下，既要提前設定紅線和規則以保護公民數據安全，同時，又要防止監管過度帶來的創新不足問題，這是各國共同面對的政策難題，只有找到兩者之間的平衡，才能既能享受新技術發展帶來的便利，又能保護信息安全。

於是昨天國家互聯網信息辦公室就《生成式人工智能服務管理辦法（徵求意見稿）》公開徵求意見，其中就提到了提供生成式人工智能產品或服務應當遵守法律法規的要求，尊重社會公德、公序良俗。

AI還是要“管”起來。

上下滑動查看參考資料：

ChatGPT 的出現有望加速我國在人工智能領域政策的出台-中原證券

計算機行業：OPENAI發佈插件功能影響C端生態 B端應重視OA與辦公軟件入口潛力_行業研究_新浪財經_新浪網 http://stock.finance.sina.com.cn/stock/go.php/vReport_Show/kind/industry/rptid/733153927670/index.phtml

歐洲智庫：ChatGPT的利弊分析-IPP評論

https://mp.weixin.qq.com/s/SyEoGTlJT8Ur169q0ZxH6A

ChatGPT火遍全網，卻有一大缺陷-中國科學報

https://mp.weixin.qq.com/s/v_DyCZm00akIs_93avibfw

爆火全網的ChatGPT，這些問題您可能想知道-天津日報

https://mp.weixin.qq.com/s/Z6eV3hqYBfYmDAHvIypipQ

憂慮變成現實：三星電子一解開“GPT”的門閂，就接連出現“誤用”-經濟學人

https://n.news.naver.com/article/243/0000042639

不只是聊天！ChatGPT又有新功能-澎湃新聞

https://mp.weixin.qq.com/s/jduAw4AKDuBJLWgsTGg8NQ

ChatGPT引入插件策略，AI迎來AppStore時刻-JiangsuNow

https://mp.weixin.qq.com/s/uHXC60sLXVN1HEL6uWuoFQ