陸奇:“模仿”微軟Copilot,結構性代際因邊際成本轉為固定成本_風聞
BImpact-宇婷,To B行业观察者、资深媒体人、博主。-04-25 22:42
撰文|宇婷

OpenAI一路走下來的關鍵技術
GPT-1是第一次使用預訓練方法來實現高效語言理解的訓練;
GPT-2主要採用了遷移學習技術,能在多種任務中高效應用預訓練信息,並進一步提高語言理解能力;
DALL·E是走到另外一個模態;
GPT-3主要注重泛化能力,few-shot(小樣本)的泛化;
GPT-3.5 instruction following(指令遵循)和tuning(微調)是最大突破;
GPT-4 已經開始實現工程化。
2023年3月的Plugin是生態化。
週末下午在機場等機,恰好有時間聽了奇績創壇創始人兼CEO陸奇對話創業者,並做了幾個社羣的直播。陸奇是從商業和技術角度,最為有話語權的中國創業者、高官和技術Leader。
體感上,第一陸奇效率非常之高,他會打斷創業者分享不清楚,以及重複的表達,但他非常開放,且角度是提升效率完全不帶有任何情感色彩,很純粹。第二他説話非常有力。第三他直接提出,最佳路徑就是直接模仿微軟的“副駕駛倉”Copilot,非常務實。
我總結了自己記憶猶新的觀點:
如果長期基於中國業務,建議使用中國大模型
創始人未來重要能力:獨到見解,懂人性。創新需要邊做邊學,大學未來真正要培養創新的能力,培養學生學習懂社會、人的能力
在國內做OA要跟騰訊阿里字節pk,機會有,範式改變的時候(AI)創業公司有機會,因為創業公司可以很快把東西做出來,但必須在激烈競爭的國內有獨到見解。
在AI範式改變的當下:技術只會在很短暫時間裏成為壁壘,尤其是算法(因為聰明人太多)。核心起步是你是不是有獨有的數據,避免chatgpt淹掉(美國yc一大批公司被gpt淹沒)。數據成為模型之後,使用效果能否成為閉環。
連續創業者踩的坑是最值錢的。唯一是踩了很快爬出來,把大坑變小坑。
蓋茨提出如果用自動化替代工人,就要交更多税,平衡速度。以及新的教育方式,新的技能培養。第三最終5%的人工作,95%的人在更大空間的體育和電競領域這種新體驗的領域。
創始人時間分配:找到客户及交流;如何在產品不ready時説清楚產品。用好社區交流,是保持產品差異化的方式。
與此同時,騰訊新聞《潛望》張小珺老師寫了一篇文章:分享了陸奇的大模型世界觀。其中有一些觀點:
今天大部分數字化產品和公司,包括Google、微軟、阿里、字節,本質是信息搬運公司。一定要記住,我們所做的一切,一切的一切,包括在座的大部分企業都在搬運信息。
一家偉大公司叫Google。為什麼會有這個拐點?為什麼會有爆炸式增長?把這個觀點講清楚,就能把今天的拐點講清楚。
原因是,獲取信息的邊際成本開始變成固定成本。
一定要記住,任何改變社會、改變產業的,永遠是結構性改變。這個結構性改變往往是一類大型成本,從邊際成本變成固定成本。
Google為什麼偉大?它把邊際成本變成固定成本。Google固定成本很高,但它有個簡單商業模式叫廣告,它是世界上高盈利、改變世界的公司,這是拐點關鍵。
模型的成本開始從邊際走向固定,大模型是技術核心、產業化基礎。OpenAI搭好了,發展速度爬升會很快。為什麼模型這麼重要、這個拐點這麼重要,因為模型和人有內在關係。
這一次大模型拐點會讓所有服務經濟中的人、藍領基本都受影響,因為他們是模型,除非有獨到見解,否則你今天所從事的服務大模型都有。下一時代典型的職業,我們認為是創業者和科學家。
在未來,自動化、自主化的動作可以無處不在。
人和數字化的技術共同進化。Sam最近經常講,它必須要共同進化,才能達到通用智能(AGI)。通用智能四大要素是:湧現(emergence)+代理(agency)+功能可見性(affordence)+具象(embodiment)。
一開始比爾·蓋茨根本不相信OpenAI,大概6個月前他還不相信。4個月前看到GPT-4的demo(產品原型),目瞪口呆。他寫了文章説:It’s a shock,this thing is amazing(這太令人震驚了,這東西太神奇了)。谷歌內部也目瞪口呆。
你應該使用Transformer。Transformer是密度模型,它不光是算力問題,對帶寬要求極高,你就想GPT-4需要24000張到25000張卡訓練,試想世界上多少人能做這種系統。所有數據、data center網絡架構都不一樣。它不是一個三層的架構,必須是東西向的網絡架構。所以這裏要做大量的工作。
Token很重要。全世界可能有40-50個確定的token,就是語言的token和模態,現在有更多的token化。
他要設計一個結構,讓它不受任何股東的制約。於是,OpenAI的投資者沒有控制權,他們的協議是一種債的結構。如果賺完2萬億,接下來是non-profit(不再盈利了),一切迴歸社會。這個時代需要新的結構只要到了一定深度,bigness is betterness(大就是好)。只要有算力,只要有數據,越大越好。
現在OpenAI核心做的是,把推進速度變慢,每推進新版本,都有足夠時間讓用户給他們足夠反饋,找到潛在風險點,有足夠時間彌補。
每個行業也會有結構性影響,會系統性重組。這裏有一個簡單公式。今天動腦筋的人一天平均工資多少小時?減掉ChatGPT現在大概平均是15美元/小時,再過3年可能不到1美元,再過5年可能幾十美分。然後就乘一下有多少數量。降本或者增效,讓碼農能變成super碼農,醫生變成super醫生。
假定説有個大學生什麼都不懂,物理也不懂、化學也不懂,但他懂怎麼問ChatGPT,他算不算一個好的大學生?機會與挑戰並存。
B端,企業需求也一樣,降本增效。它要生產,有供應鏈、銷售、客服……有了這些需求之後,數字化看得見的體驗結構有6種:給你信息的,二維就夠;給你三維交互體驗,在遊戲、元宇宙;人和人之間抽象的關係,包括信任關係、Web 3;人在物理世界環中自動駕駛、機器人等;人的內在的用碳機植入到裏面,今天是腦機接口,以後有更多,以後是可以用硅基;最後是給你模型。
不要浮誇,不能蹭熱。我個人最反對蹭熱,你要做大模型,想好到底做什麼,大模型真正是怎麼回事,跟你的創業方向在哪個或哪幾個維度有本質關係。蹭熱是最不好的行為,會浪費機會。
在這個階段要勤於學習。新範式有多個維度,有蠻大複雜性,該看到的論文要看,尤其現在發展實在太快,非確定性很大。我的判斷都有一定灰度,不能説看得很清楚,但大致是看到是這樣的結果。學習花時間,我強烈推薦。
想清楚之後要行動導向,要果斷、有規劃地採取行動。如果這一次變革對你所在的產業帶來結構性影響,不進則退。你不往前走沒退路的,今天的位置守不住。如果你所在的產業被直接影響到,你只能採取行動。