辛頓之憂：拿什麼面對加速變革的動盪未來_風聞

頭圖由豆包生成‍‍‍‍‍‍‍‍‍‍

2024年的諾貝爾物理學獎，頒給了AI教父傑弗裏·辛頓，角度出人意料但貢獻實至名歸。然而辛頓在接到諾貝爾官方電話時，卻重點表達了對人工智能發展的深層擔憂：“我認為我們正處在歷史的某個關鍵點，在接下來的幾年時間裏，我們需要弄清楚，是否有辦法應對這種威脅……特別是考慮到一旦這些事情（AI）失控，就會接管人類，使人類面臨生存威脅。”

辛頓對人工智能的“不安”，與氣候變化、生物技術不同。他認為要緩解氣候變化，“你需要做什麼”是很明確的，生物技術專家對克隆等問題的控制做得也比較好。但是要解決人工智能領域的問題，我們實際上對於即將發生什麼以及如何應對知之甚少。應對人工智能帶來的挑戰，局面要困難得多。

對於“你是否擔心人們不認真對待你的警告”這個問題，辛頓非常確定地稱，AI大模型有理解能力，喬姆斯基語言學流派認為其沒有理解力的判斷是錯的。現在人們必須研究如何將其置於人類的控制之下。我們需要投入大量的研究精力。我認為政府可以做的一件事情，就是迫使大公司在安全研究上投入更多資源。這樣，像OpenAI這樣的公司，就不能只是把安全研究放在次要地位。

而OpenAI在“向人類對齊”與“商業化超級加速”之爭以首席科學家、對齊派伊爾亞·蘇茨克維落敗並離開之後，安全團隊半數被清洗，昔日高管團隊大多去職。山姆·奧特曼一人掌控，融資66億美元的同時，奧特曼發表長文稱 ASI將在「幾千天內」降臨！人類奇點近在咫尺。

亂紀元倒未必，但走向奇點一定程度上也是走向沸點。人類社會如同一個處在持續加熱過程的能量體、能量生態，隨着温度、能級不斷升高，個體與羣體、局部與整體都更為活躍。傳統組織、秩序、規則、關係不僅越來越不適應，而且逐漸不再能作為“社會容器”有效承載和容納。全球化重組、國際關係撕裂、經濟競爭與下行挑戰、地緣衝突、種族矛盾等，與信息科技、人工智能一起，成為有可能導致熵增的“加熱器”。

如何行穩致遠？未來的深處如果沒有“新三觀”，超級智能不僅可能意味着力量與利益失衡，還可能意味着失序，如果應對不當，本來可以實現智能普慧、互利共贏的AI革命，有可能變成零和甚至雙輸、沒有贏家的遊戲。

人工智能奠基，神經網絡開創，辛頓一路走來最瞭解AI尤其是強智能、超級智能。最瞭解的人一直以來對人工智能深深擔憂，不瞭解的人沒有理由盲目樂觀。

輿論對AI來襲的反應，心態有些複雜，始終是希望與擔心並存。一聲聲驚呼，一次次發問，只不過隨着越來越習慣，驚呼少一些，發問多一些了。

不再頻頻驚呼是因為人們已經越來越清楚地知道，強智能的進化正在加速，必然帶來前所未有的改變。

開始頻頻發問是因為，AI帶來的衝擊已經近在眼前，與每個人切實相關，而重大關切問題中遠期並不明朗。

五種力量正在影響走向，一是智能科技的創新發展原力，二是企業的覺（悟）力，三是國際國內治理規則的約束和推動力，四是需求引力，五是個人和輿論出於權益保護而對智能及相關企業施加的壓力。

智能在快進，爭議也在快進，史上最劇烈的變革過程剛剛開始

OpenAI創始人Sam Altman之前在《華盛頓郵報》撰文，充滿濃厚的意識形態色彩，似乎有意將中美兩國的AI從合作引向對立；9月24日，他在社交平台X上發表的長文《智能時代》則聲稱超級智能有可能在幾千天之內到來；但是緊隨ChatGPT Voice發佈的是多位高管離職和Altman將獲得10%股權的傳聞。

OpenAI終於從一家使命凝聚的公共平台，轉換為一家利益凝聚的一人內控企業。

與此同時，全球範圍內爭議四起。荷蘭法官用AI判案，一些專家稱十分荒謬；美國遊戲演員因AI威脅發動大罷工；美國加州提起的《前沿人工智能模型安全創新法案》試圖為高風險AI模型建立安全標準，以防濫用或引發災難性後果，李飛飛等業者反對；接連車禍後美國加州無人駕駛出租車投用量砍半，而蘿蔔快跑在中國武漢投放市場後，有望在“AI取代就業”的爭議聲中擴展到更多城市……

AI快進，爭議也在快進。史上最為劇烈的變革過程，其實才剛剛開始，後續衝擊遠非當前可比。

超級智能已是全球重大公共事態：人類選擇讓AI做什麼不做什麼？

從強智能到超級智能的發展，堪稱影響人類命運的全球競賽，與每個人相關，人人都有權利關注、表達、議價、博弈，面對超級智能維護自己的權利。

非常贊同Elon Musk等上千位科技業者之前發出的呼籲信裏的一句話：我們需要負責任地監督AI的發展，並讓社會有機會逐步適應AI帶來的衝擊。

從來不懷疑AI能做什麼，但更重要的問題其實是：人類選擇讓AI做什麼（能做什麼不能做什麼），發展什麼樣的AI（中心化還是分佈式，力量極化還是生態平衡），以及誰的AI（少數人控制還是共同發展，數字鴻溝還是智能普惠，是一部分人控制AI剝奪和驅逐另一部分人，還是讓更多人獲得發展，擴大人羣差距還是彌合差距）。

AI的發展，一半是“技術-產業-市場”問題，一半是公共問題。如果不能從一開始意識到AI其實是有史以來最不是技術問題的人類形態導向，不能擺清人與AI的關係，必將遭遇其反身性。

AI尤其超級智能出現的生態化、平台化、操作系統化、中心化（以及未來的寡頭化）發展勢頭，已經引起警覺。全球AI峯會、美國人工智能發展路線圖都是信號，中國的行動也一定在路上。

人智關係：貫穿未來的重要主線，AI變革過程有喜有悲

對這場變革，可能需要有更充分的預期和心理準備。

科技與新全球化，也是個人關係、生產關係、社會關係、國際關係等歷經博弈重新塑造的歷史過程，而且這個過程在一定程度上是IT、新IT技術革命在生產力和生產關係層面的變革所產生的結果。

由於還存在強智能走向超級智能這個方面，人智關係因此也成為未來一條重要主線，且人智關係將在較大程度上影響其它主線的走向。所以正在到來的變革遠不只是技術與應用的局部變化，遠不只是生產力變化，而是秩序、規則、機制、組織、形態、經濟等相互交織的立體變革。且這個過程正在加速進行。

變革不僅是科技、產業、經濟的，也將是社會、文化、心理的；不僅劇烈，也可能引發衝突甚至關係對立。工業革命如此，信息革命如此，智能革命更是如此。革命從來不是一路歡歌。

變革也可能是交鋒。比如工作消失必然伴隨失業，產業顛覆必然伴隨凋敝，社會再造必然伴隨動盪。

新職業、新產業、新經濟湧現，創造大量新就業機會。但機會不是所有人的，總體就業增加，並不意味着相當一部分人不會失去工作。總有一些人、一些企業會成為時代的犧牲品。

AI快進的過程，有新生，有死亡，有歡欣，有痛苦。人智關係、人機關係這條貫穿未來的主線，需要重點解讀。

人智關係螺旋發展的9個重要節點，考驗羣體智慧

2020-2050年，這個時間區間，智能的發展粗略看，可能陸續會出現九個重要節點。

節點一是強智能產生；

節點二是強智能的軍事化；

節點三是多模態驅動AI走向現實世界；

節點四是AGI（通用人工智能）來臨；

節點五是AI被應用於人類治理；

節點六是EI內生智能出現；

節點七是智能-生物-量子技術交融驅動生命科學在範式轉移的基礎上大發展；

節點八是人與智能的交融發展進入相變區間；

節點九是II自主智能到來。

每一個節點都是相對而言，每一個節點都將空前考驗羣體智慧。能不能形成共識，能不能做出恰當的選擇，能不能形成發展與安全並重的公共政策，旨為關鍵。

在這個過程中，越是科技能力加身，剋制反倒越珍貴。未來科技越是創新發展，越需要人文觀念之錨。AI很重要，但人更重要，對人類的AI（愛）也比AI更重要。

未來深處：“新三觀”有助於行穩致遠

如果不能形成“新三觀”，人類將可能hold不住超級智能？這個擔心不是多餘的。羣體智慧裏生髮出“新三觀”，才可能行穩致遠，至少不翻船。

新三觀的提法僅供商榷，新三觀包括創新未來觀、科技價值觀和智能發展觀。

創新未來觀，意味着對科技業態的全景認知，對科技創新趨向、智能發展走向、產業經濟與社會發展走向進行長期持續關注，形成面向未來的觀察理解。創新未來觀更多是認知。

科技價值觀，意味着從人機關係、人智關係、科技與社會關係角度，形成個人、企業、社會、國家、國際的科技價值觀，以人為本，科技向善。科技價值觀更多是觀念。

智能發展觀，意味着人工智能的公共政策、科技產業發展政策、智能社會理念，本着可持續與協調發展原則，落地成為切實可行的措施。智能發展觀更多是行動思路。

新三觀的核心是以人為本，發展人本智能

AI愛人，是發展AI的起點。以人為本，是人智關係這條航線的錨點。

人智關係的發展，可能相對會經歷四個階段：無障礙、有温度、能共情、可共生。

無障礙階段解決的是人機自然交互問題，用户體驗無障礙；有温度階段解決的是AI服務於人的過程中的人智友好問題；能共情階段解決的是智能對人情緒情感的理解與回應問題，機器人在這個階段真正實現可陪伴，而不只是機器形態的人；可共生階段解決的是人智交融發展問題，從規則到軀體-智能體，人與智能共同進化。

以人為本的智能也就是人本智能，首先意味着AI普惠、普慧算力。智能，為每一個人，而不是為少數人。全球不同地區、不同族羣、不同行業、不同個人與家庭，均有權利獲得智能的普遍服務。防止數字鴻溝延伸為智能鴻溝。不同用户所獲得的智能，如果水準差異較大，也會導致智能鴻溝。

人本智能其次意味着智能的形態是以每個人為中心，分佈式端側智能與中心化雲端智能協調發展。人本智能作為每個人的智能、每個人的AI，其形態有別於雖然為每個人所用，但實質是超級智能巨頭的智能的依附形智能。智能對人對勞動的解放，為每個人賦能是基礎。

人本智能再次意味着對人的隱私安全、個人數據等方面的尊重和保護。每個人可以掌控的自己的智能，是安全的基礎。數據不出本機，應用不離本地，有助於相對安全。

人本智能再次意味着科技業者對產品服務、企業形態、價值範式、生態方位、商業社會角色的重新定義。不僅做到產品服務體驗以人為本，智能形態以人為本，企業發展以人為本，企業社會責任以人為本（企業的存在本身就是社會之益），更要做到重新理解商業、科技、社會、人之間的關係，重新理解商業的本質，由此重新定位科技商業企業與社會的關係，實現超級智能的生態和諧發展。

科技價值觀：以人為本的智能發展，需要處理好AI時代的10大關係

以下10個方面的關係能否處理好，決定超級智能及相關企業能走多遠。因為未來的人智、人機關係從根本上取決於包括這10大關係在內的底層邏輯：

 1.發展與規範的關係：不同階段平衡點在不同位置，早期發展為主，規範為輔。

 2.加速與對齊的關係：其實對齊有助於加速發展，e/acc（有效加速）有助於打破板結，建立新的平衡；e/acc不能目中無人，Super Alignment（超級對齊）不必唯安全論。

 3.集中與分佈的關係：中心化與去中心化，不僅與利益相關，也與力量的集中與分散高度相關，更與人智關係是依附型還是自主型相關。

 4.數據與隱私的關係：數據流動不可避免，數據確權比較困難，圍繞流動和使用來界定的基礎上，保護用户數據隱私安全，是人本智能的基礎要件。

 5.開放合作與生態保護的關係：基於算力、模型核心能力所形成的廣泛的開發者與合作伙伴生態，上下游之間逐步確立邊界，尤其是閉源模型與基於API的開發者的邊界，超級入口與App的邊界，開源模型與閉源模型的競爭合作與互補發展等。

 6.彼此競爭與共同發展之間的關係：智能服務企業之間、模型廠商之間、芯片與算力，如何在競爭的同時避免過度競爭，避免生態的破壞性內卷。

 7.智能科技與傳統產業之間的關係：如何為千行百業賦能而不是消滅替代傳統行業企業，如何讓變革的過程進行得和平一些，如何讓智能成為增量創造者，而不是存量重新切分者。

 8.效率與公平的關係：這將是強智能向超級智能發展進程中，懸在智能業者面前的一道難題，很多時候效率與公平往往難以平衡，企業也很難做到自動自覺。新的生產力對舊的生產力的替代過程，必然會衝擊到就業，必然會導致基尼係數局部擴大，但只有意識到從根本上企業與社會是共生關係，強勢與弱勢羣體也是共生關係，智能的發展才能降低社會摩擦成本。

 9.技治與政治的關係：智能平台越來越像社會企業，超級智能體會比互聯網平台更深入滲透到經濟社會活動的方方面面，不再只是Apps，而是數字與現實的種種場景，從算法即規則、規則即治理到智能即現實，智能生態越來越多、越來越底層的部分實際上開始處於技治層面，全球性超級智能綜合體也往往超越了傳統國家的治理邊界。

 10.科技與倫理道德的關係：在治理問題上人服從機器還是機器服從人？在破譯的基礎上智能能否用來編輯和增強人？即使技術上未來是可行的，智能可否用來讀取人腦？諸多根本問題需要回答。

長期視角與行動框架：《AI發展21原則》索引未來共識

2017年ASILOMAR會議提出的關於AI的23條原則，是過去以來各方廣泛認可的基礎認知框架。但是ASILOMAR原則一方面時過境遷，另一方面更像是一些討論點而非面向未來的系統行動的思路框架。

筆者認為，是時候在各方交流基礎上，索引未來共識，促進主要原則的形成，助力超級智能的普惠與可信賴發展。綜合各方動態，筆者結合相關研究，初擬《AI發展21原則》，拋磚引玉，僅供參考：

 1.AI為人，普慧人類：一切AI均以人類為中心，幫助人、服務人、普惠人類，服從於人，人類控制AI；

 2.全球公共事務與廣泛協調：AI影響人類命運，是全球性的公共事務，應符合人類普遍倫理道德和根本利益，為此需要開展國際合作，廣泛協調；

 3.社會企業與商業邊界：商業權益私有與超級智能服務於廣泛的公共利益可以並行不悖，但AI相關企業應理解為提供公共產品的社會企業，超級智能不應成為純粹的私器，商業有邊界與底線，不應凌駕於人類之上。

 4.不驅逐人：總體擴大就業、促進經濟、增加收益，AI以科技生產力的進步創造新價值，將人從繁重勞役中解放出來並給人類以生活、教育和工作等方面的基礎支持，與應許之地有關，而不是以廣泛替代將人類驅趕到無依之地。

 5.重要節點的廣泛確認：對AI尤其是超級智能發展進程中的重要節點進行廣泛的預研、觀察，評估其中對於人類社會的重大利害，進行持續監督，建立人類對這些重要節點是否通過的確認機制（節點參考10個奧本海默時刻）；

 6.超級對齊與安全系統：開發能夠確保AI持續安全運行的系統，尤其需要讓超級對齊成為超級智能有效運行的首要基礎；

 7.避免AI對人的控制：AI不應成為妨礙人類正當行為的約束系統，避免AI對人的控制，由此防止未來機器對人的統攝成為現實；

 8.可解釋：實現AI訓練與推理過程及結果的可解釋，避免黑盒模型的危險競賽和重大不可測。

 9.透明、可監督：原理、算法、數據、規則、結果可見，可實施內部、外部監督。

 10.可標識、可區分、可追溯：AI內容與服務，明確標註AI生成以免真假混淆，方便公眾及時有效區分人類行為產物與AI行為產物，以區塊鏈等技術手段支持AI內容來源的可追溯；

 11.分級分類：風險防範機制以及對AI的監管不應一刀切，包括對低齡人羣的服務內容，需要適用分級分類原則，具有適度的動態、靈活性，以促進AI發展和用户方便。

 12.可確信、可信賴：提升AI對內容理解、生成的準確性，減少AI因恍惚生成誤導性的虛假信息。

 13.防止對AI系統的反向誘導、信息污染和操縱欺騙：用户提供給AI系統的數據信息，系統以識別能力防止AI被惡意操縱，因數據信息污染而波及其它用户。

 14.尊重人類知識財富，保護知識產權、數據所有權：AI的研發與使用，使用了人類有史以來積累的幾乎所有知識財富，AI的發展應該建立在對這些知識財富的尊重，以及對全球數據、信息、知識各項權益的保護之上，明確來源，尊重版權、知識產權、數據所有權。

 15.用户數據信息與隱私保護：AI應用的參與者和非參與者，其數據、信息、隱私都應得到切實保護。用户提交給AI系統的數據，AI系統可從用户及其設備中獲得的數據，其權限與使用範圍應有嚴格界定，不可將用户未許可的本地、雲端數據用於訓練或轉用於服務其它用户、合作伙伴。

 16.開放、協作、分享：AI領域保持高度的開放性，吸引產業鏈、開發者、合作伙伴、用户的協作參與，廣泛分享發展紅利，避免AI平台的生態鏈通吃。

 17.生態平衡：中心化、行業企業私域、個人AI等不同形態AI融合發展，平衡的生態對用户利益和人類權益都很關鍵，去中心化形態是生態的有益部分，未來也是對AI生態的有效支撐。

 18.避免壟斷、寡頭化、少數人控制：超級巨頭與超級智能的合體，超級智能為少數人控制，意味着權力極化和力量失衡，在AI發展早期尤其需要避免科技、產業、市場過早過快高度集中，和基於生態控制的對用户利益的支配性剝奪；避免少數人控制；實際上超級智能不應與任何一種超級力量、權力中心合體。

 19.直接責任主體：AI的開發者、運營者、投資者，相關企業的實際控制和管理者，對確保AI安全負有直接、重大的根本責任；尤其超級智能的責任主體，更加肩負着廣泛的社會責任和為人類利害負責的道義。

 20.防止濫用、間接利用AI作惡：AI系統無法做到完全不被濫用，也無法完全防範欺騙行為、虛假信息、各類犯罪間接利用AI作惡，對於AI系統及其運營者以外的人類產生的有害行為，AI業者協助協同有關各方，採取有效治理措施。

 21.AI普惠的未來路徑：現有AI主要商業模式從根本上依然是傳統的，難以從根本上避免數字鴻溝的擴大。普惠AI，人人蔘與人人受益的AI，從根本上需要探索新的技術路徑、商業架構、底層基礎設施形態，這可能是算力分佈、去中心化智能、區塊鏈/智能合約與現有生態的結合。

利用全人類有史以來積累的幾乎所有知識財富誕生，利用數十億人的廣泛參與、數據與行為的給養成長，這樣的AI需要在每一處個人節點層級回饋人類，如此才能形成長期互利共生的可持續發展生態。

AI與人、智能與社會的關係走向，從根本上取決於AI的內在邏輯而非外在約束

如果不以技術/產品、產業/經濟、科技/社會、人/智能關係的長週期多維統合觀察為基礎，不足以形成對生態走向的中長期預判，所以看業態是看生態的基礎，但對業態影響最大的其實會是生態。

超級智能未來最大的發展成本既不是算力，也不是電力，也不是研發與運營，而是社會。智能能不能夠發展成為比較科幻的樣子無須質疑，即使AGI也不是終點。而在技術的進化之外，未來兩條成本曲線決定智能前景，一是單位智能的技術成本，必然逐步降低，另一條曲線是智能總體的社會成本，必然逐步升高。

只不過從財務模型角度，社會成本無法計為直接成本。但是有遠見的生態型企業，必然思考如何有預見性的平抑而不是被動等待甚至以自身行為抬高社會成本。

從根本上説，人智關係的走向，超級智能未來的社會處境，從根本上取決於AI商業的底層邏輯，AI產品的內在，AI企業的科技三觀。前文説到5種力量正在影響AI與人智關係的走向，企業的覺（悟）力是其中非常重要的一個方面。

企業的覺（悟）力有主動有被動。比如OpenAI迄今為止總體比較被動。而IT企業的姿態以主動居多。比如聯想集團繼“普慧算力”之後，提出“人本智能”理念，智能不是取代人，而是應該以人為本，服務於人，所以應該發展“人人可用人人受益”的AI。

當然這也是與其長期以來的Smarter for All的理念一脈相承。混合智能、企業智能幫助各行各業企業實現智能化。而AI PC和AI手機將個人大模型、個人智能體帶給個人用户，量身定製個性化的AI助理。

人本智能，個人認為既是對人智關係的長遠定義，也是對分佈式、以人為中心的智能形態的理解。中心化與分佈式，既意味着力量分佈，也意味着利益分佈。毫無疑問分佈式對個人對用户長期更友好。

/// END ///