對話諾獎評委:授予辛頓物理學獎引發對AI風險的關注,是好的副作用_風聞
返朴-返朴官方账号-关注返朴（ID：fanpu2019）,阅读更多！1小时前
2024年諾貝爾物理學獎的結果引發了廣泛的討論，原因是其中一位獲獎者Geoffrey Hinton（傑弗裏·辛頓），並非是傳統意義上的物理學家，而是一位極具聲望的人工智能研究科學家，被譽為深度神經網絡的奠基人和人工智能“教父”。
近年來，由於ChatGPT等大語言模型的出現，催生出新一輪生成式人工智能的熱潮。此時Hinton獲獎，無疑令該獎項被賦予了別樣的意義，也引發了許多的猜測，例如諾貝爾獎是否也在追逐人工智能熱點？Hinton的研究工作究竟與物理學有何關聯？
帶着這些疑問，10月18日，騰訊新聞《潛望》獨家對話諾貝爾物理學獎評獎委員會委員、秘書長Ulf Danielsson教授。他詳細解釋了諾貝爾評獎委員會決定將今年的物理學獎授予Hinton的理由，並表示，諾獎的授予完全是基於科學研究方面的貢獻，並非是追逐當下熱點。事實上，Hinton的獲獎理由，與目前的大語言模型並不相關，也就是説，即便大語言模型並不存在，也不影響Hinton獲得這一獎項。
同時，他也表達了作為一名物理學家，對於當下人工智能的看法，提出了一些在科學研究領域使用AI的潛在風險和擔憂。
Ulf Danielsson 教授是瑞典烏普薩拉大學理論物理學教授，以其在弦理論、暗物質和宇宙學方面的專長而聞名。Ulf Danielsson 教授也是瑞典皇家科學院院士，同時擔任諾貝爾物理學獎評委會委員和科學秘書。
今年的諾貝爾物理學獎授予兩位學者，他們是美國物理學家John Hopfield和加拿大計算機科學家Geoffrey Hinton，獲獎理由為“因推動利用人工神經網絡進行機器學習的基礎性發現和發明”。
Danielsson對騰訊新聞《潛望》表示，諾貝爾物理學獎既可以授予發現，也可以授予發明。這意味着，可以將獎項授予那些利用物理學知識進行發明並造福人類的成果，今年的物理學獎就是這樣的例子。
這兩位獲獎者的研究，一位起到了啓發作用，另一位將理論通過實踐進一步發展其中。Hopfield受到人腦中神經元通過突觸相互通信的啓發。但他還需要運用理論物理學知識，瞭解磁性材料中原子如何相互作用的網絡構建。這些數學模型（也是幾年前Giorgio Parisi獲得諾貝爾獎的自旋玻璃相關工作的一部分）描述了這些網絡，這些網絡後來被實現在計算機上，使得存儲和恢復可被網絡識別的圖像成為可能。這確實很大程度上源於理論物理學家的直覺。
而Hinton則進一步發展了這些網絡，他的重要貢獻同樣受到物理學的啓發。Hopfield的網絡能夠識別和糾正失真的圖像，但Hinton使得一種更具生成性的人工智能成為可能，即網絡可以構建與學習識別圖像相似的新圖像。
他通過使用統計物理學中的玻爾茲曼統計來實現這一點。這意味着在這些網絡中，存在不同配置的隨機分佈，引入一定程度的隨機性，使得生成某一類別事物的新成員成為可能。
Danielsson認為，在科學研究領域，人工智能最重要的貢獻已經顯現出來，那就是分析大數據並找出難以用其他方法發現的現象，然後可以通過其他方法驗證其實際存在。粒子物理學和宇宙學就是完美的例子。
他表示，另一個物理學中非常有趣的應用領域是新材料的創造。物理學中有一些方法可以根據材料的實際化學成分預測其性質，這需要進行非常複雜的計算。如果將這些計算與大量材料的實際測量性質結合起來，再借助AI的幫助，就可以預測某些化學元素的組合可能會產生具有特定性質的新材料。
“AI在尋找具有新性質的材料方面的應用將非常重要。這不僅對物理科學很重要，對社會也可能產生很大影響。例如，尋找更好的電池或太陽能電池等。”Danielsson説。
儘管目前AI正在被廣泛應用，但Danielsson認為，AI、人工神經網絡、機器學習，不管怎麼稱呼它，都只是一個工具。
“它是一個非常強大的工具，當然也有侷限性。這一點在媒體報道中並不十分清晰。我希望這個獎項能幫助傳達AI實際基於什麼樣的物理原理，並清楚地表明這些系統實際上是如何工作的。” Danielsson説。
他認為，目前生成式AI基本上是一種有效處理大量數據並在其中找到模式的方法，這些模式可能用於預測某些系統的未來。
“它總是在試圖重組已經存在的知識，使其變得實用。但它不過是外推而已。”Danielsson説。
他指出，對於AI可能存在的一些潛在風險，也值得警惕。
“如果你不真正區分如何使用AI的話。你可能認為可以走捷徑，不需要自己思考。你可能只是使用計算機輔助計算，用計算機做所有的計算和可視化，而不試圖利用你作為人類獨特的能力去真正地進行計算，嘗試創造自己原創的視覺圖像等。”
他進一步闡述，“這可能會讓科學變得有點太懶惰。所以必須始終記住，是人類與計算機、與人工神經網絡一起才能取得進步。不應該試圖用AI取代人類，因為那樣的話，我很確信結果不會像原本那麼有趣或原創。”
Danielsson認為，關於AI的風險，更多是關於它如何影響我們對科學或社會本身的態度。
“這是我們必須非常注意的事情。這更多是關於那些時間上更接近、可能已經存在多年的危險，比如我們使用數字媒體和社交媒體的方式，以及如何使用AI製造假新聞等。”
他表示，目前採取行動並不算晚，現在正是思考這些問題的完美時機。
“當然，你永遠不知道會發生什麼。我們可以回顧已知的技術，比如核物理學，重要發現是在半個多世紀前做出的，我們仍然沒有完全處理好所有風險和後果。基因技術是另一個例子，你可以將其用於危險的事情。這再次表明，對於任何強大的技術，我們都不可能一勞永逸地解決所有問題，這些都是我們必須學會與之共存並設法處理的問題。”
他表示，擔任諾獎評獎委員會委員，給了他絕佳的學習的機會。他從2017年開始加入評委會。
“能夠超越自己的專業領域，與委員會中的其他物理學家討論，同時也能夠看到來自世界各地物理學家對特定主題和發現的意見。” Danielsson説。
他表示，諾貝爾獎在某種程度上是在書寫歷史。
“雖然能夠獲獎的科學發現數量是有限的，但我們試圖做的是為這個學科寫歷史。當我們回顧時，我們看到了許多最重要的發現，也看到了參與這些發現的人。這不僅僅是關於當年的獎項，而是在為後人做這件事。”Danielsson説，”這就是為什麼做出正確的選擇如此重要，因為目標是讓100年後的人回顧時能説，是的，這些確實是那個時代的重大發現。”
以下為此次對話全文實錄（略有刪減）：
《潛望》：非常感謝你能進行這次對話。首先，祝賀你們又一次非常成功的諾貝爾物理學獎宣佈活動。我在直播中觀看了整個活動。這很令人興奮，特別是，這個結果對很多人來説有點出乎意料。
Ulf Danielsson教授：有時能夠帶來驚喜是件好事。
《潛望》：在我們開始今天的採訪之前，你能否簡單介紹一下你自己？
Ulf Danielsson教授：好的。我是Ulf Danielsson。我是烏普薩拉大學理論物理學教授。我是瑞典皇家科學院院士，同時也是其諾貝爾物理學獎評委會的科學秘書。
《潛望》：今年的諾貝爾物理學獎，授予了一位非常著名的科學家Geoffrey Hinton，對很多人來説，他更廣為人知的身份是計算機科學家。他的入選引發了相當多的討論，包括Hinton本人對提名也感到驚訝。作為諾貝爾物理學獎委員會的評委，你對決策過程有着獨特的視角。你能否與我們分享委員會授予Hinton這一榮譽的理由，以及他的工作哪些方面真正使其值得獲得物理學獎項？
Ulf Danielsson教授：決策背後的理由在網上都有描述，包括通俗版本和科學背景。當然，不僅僅是Geoffrey Hinton，還有John Hopfield也分享了這個獎項。
我們認為兩位科學家獲得諾貝爾物理學獎的原因是，Hinton和Hopfield都使用了物理學原理來使這些神經網絡成為可能。應該記住的是，諾貝爾物理學獎是授予發現或發明。這意味着你可以因為利用物理學知識進行發明並可能造福人類而獲獎。我認為今年的物理學獎正是如此。
Hopfield當時受到了他對人腦認識的啓發，神經元通過突觸與其他神經元通信。但他還需要運用他作為理論物理學家的知識，瞭解如何構建網絡，比如在磁性材料中原子如何以各種方式相互作用。這些都有數學模型。
而且這些數學模型，順便説一下，也是幾年前Giorgio Parisi獲得諾貝爾獎的自旋玻璃工作的一部分，這是同樣的數學，描述了這些被實現在計算機上的網絡，使得存儲圖像甚至恢復可被這些網絡識別的圖像成為可能。
這確實很大程度上源於理論物理學家在構建這些模型時的直覺，這在某種意義上是該領域的起點。
然後Hinton，同樣是受物理學啓發，他進一步發展了這些網絡，做出了非常重要的貢獻Hopfield的網絡能夠識別和糾正失真的圖像，但Hinton使得一種更具生成性的人工智能成為可能，即你可以構建已經學會識別的圖像相似的圖像。他通過使用統計物理學，玻爾茲曼統計物理學來實現這一點。這意味着在這些網絡中存在不同配置的隨機分佈。引入一定程度的隨機性使得生成某一類別事物的新成員成為可能。這是Hinton為該領域做出的貢獻之一，這與物理學的啓發有着密切聯繫。
我還應該説，在諾貝爾獎的歷史上有很多例子，獎項被授予一項發明，你可能會説這不是對真正理解新物理現象的深入貢獻，而是使用已知的物理學來進行發明。
在這種情況下，當然也是在某種意義上，這個非凡的發現是你可以基於這種來自物理學的洞察製造出能做所有這些令人驚歎事情的機器。這本身就是一個發現。
然後最後補充一點關於與物理學的聯繫，這一點並不為人所知，那就是人工神經網絡已經在物理學中使用了幾十年，或多或少，用來幫助實驗物理學家識別重要現象。甚至希格斯粒子的發現部分也是藉助人工神經網絡，它們也被用於觀察碰撞的黑洞以及視界望遠鏡拍攝的黑洞圖像。所以在大語言模型變得流行之前很多年，神經網絡就已經在物理學中被用來做出重要發現。因此這是一個基於物理洞察的發明的例子，這些發明也被應用於重要的物理問題。
《潛望》：我注意到諾貝爾獎在闡述他的獲獎理由時，也是重點強調他在1980年代的大部分貢獻。所以我想知道，他的名字是否多年來一直在候選人名單中，還是最近才出現的？
Ulf Danielsson教授：我不能告訴你任何關於提名的事情。
《潛望》：好的，沒問題。關於諾貝爾獎是否越來越關注當前趨勢，比如今年對AI的關注，也有一些討論。幾天前我與諾貝爾經濟學獎的一位評委會成員交談時，他強調獎項仍然保持保守，獨立於最近的發展。你是否同意他的觀點，你認為獎項是否變得更能反映最近的發展？
Ulf Danielsson教授：我認為諾貝爾物理學獎應該授予最重要的發現和發明。我的意思是，這是一切的基礎。
這也意味着有延遲是很自然的。有些獎項在實際發現和獲獎之間相隔了幾十年。但當然，這種長時間的延遲本身並不是目標。我可以給你一個例子説明這些事情是如何運作的，以希格斯粒子發現的獲獎為例。這是在60年代初做出的理論發現，花了50年時間才獲獎，實際上是授予了希格斯粒子的理論預言。所以很明顯，理論家們獲獎的原因是就在早年做出了這個發現。因此在這個意義上，很明顯與某個發現的相關性是有聯繫的。所以不能説我們完全獨立於所發生的事情。你必須確保發現或發明在某種意義上是相關的。
説到神經網絡，它們在物理學內部的相關性是重要的。
正如我解釋的，在過去10年、15年裏已經做出了重要的物理發現，這顯然是授予獎項的重要因素。然後這些大型語言模型等，與此實際上並沒有關係。我的意思是，它對物理學真的很重要，這才是關鍵。然後，正如你可能注意到的，這對化學也很重要。
《潛望》：DeepMind的CEO獲得了今年的諾貝爾化學獎。
Ulf Danielsson教授：是的。所以各種方面的相關性當然是起作用的因素，但這只是故事的一部分。
《潛望》：所以也許我們可以説，今年兩個獎項都頒發給了AI領域人物，這個時機在某種程度上是一個巧合。
Ulf Danielsson教授：在某種意義上是巧合。但另一方面，如果有什麼東西對物理學很重要，它通常也會對社會其他方面變得重要，這也是很自然的。顯然，既然我們在談論發明，發明的重要性當然起着作用。如果神經網絡在現實世界中沒有任何應用，它就不太有趣了，因為這部分是一個發明的獎項。歷史上有很多發明的例子，多年前你有藍色二極管，你有集成電路，比如2000年的Jack Kilby，這顯然是一個對人類有巨大用處的東西。在所有這些情況下，你可能會説，好吧，你沒有做出根本性的發現，這不是一個新粒子或類似的東西，但它是物理學的應用，用來製造真正能工作並能影響現實世界的東西。所以再次説明，這取決於我們如何看待它。
《潛望》：所以我認為你剛才已經談到了物理學如何看待和運用神經網絡的過程。物理學從根本上尋求理解我們周遭的世界。隨着AI的興起，一些人建議這些技術可以提供理解物理世界的新方法。作為一個物理學家，你如何看待AI在未來物理研究中的角色？AI能以什麼方式補充研究物理的傳統方法？
Ulf Danielsson教授：我認為AI最重要的貢獻是我們已經看到的。那就是分析大數據並找出其他方法很難發現的東西，然後可以通過其他方法驗證它們的實際存在。粒子物理學、宇宙學就是完美的例子。所以，我認為它們已經發揮了作用，並將在未來繼續發揮作用。另一個對物理學非常有趣的領域是新材料的創造。所以在這方面可以做的是，物理學中有一些方法可以根據材料的實際化學成分來預測性質。這裏有一些非常複雜的計算可以做。如果你將這些計算與大量材料的實際測量性質結合起來，藉助AI的幫助使用所有這些信息，你就可以預測某些化學元素的組合，可能會提供具有特定性質的新材料。所以AI在尋找具有新性質的材料方面的應用將非常重要。這對物理科學很重要，但也可能對社會產生很大影響。例如，尋找更好的電池或太陽能電池等等。
《潛望》：你曾經説過，從物理研究的角度來看，數學是理解物理世界的工具而不是其本質。那麼你是否認為AI同樣也只是一個工具而不是基本要素？你認為這種觀點如何影響AI的未來使用？
Ulf Danielsson教授：我認為確實如此。AI、人工神經網絡、機器學習，不管你怎麼稱呼它，正是如此。它是一個工具。它是一個非常強大的工具，也有侷限性。這一點在你看媒體報道時並不十分清晰。但我希望這個獎項能幫助傳達AI實際上基於什麼樣的物理原理，並清楚地表明這些系統實際上是如何工作來做它們所做的事情。
我的意思是，基本上，它是一種有效處理大量數據並找到其中模式的方法，這些模式可能對預測某些系統的未來有用。它總是在試圖重組實際存在的知識，使其變得實用。但它不是其他任何東西，只是外推。如果你在紙上有一些點並畫一條線，然後你可以預測下一個值是什麼。基本上就是這樣，但是用令人難以置信的數據量和計算能力以及效率來做，這樣你就可以開始將它用於非常有趣和相關的問題。
但我深信，它不是什麼真正可以用來產生新知識的東西，就像你可以有一個像創造性科學家那樣工作的AI機器人之類的。我認為這完全是錯誤的看法。
AI的力量在於，當你將它與人類結合起來時，人類可以將它用於決定使用它的任何目的。這與我們幾十年來使用計算機的方式沒有什麼不同。計算機沒有取代我們。它沒有取代科學家。它是一個強大的工具，使你能夠做比你原本能做得更多的事情。AI也將是一樣的。
比如説，理論物理學和更基礎的理論物理學，這是我的專長，實際上很難看出具體如何使用它。我可以想象機器學習、人工智能可以幫助改進現在常用於計算的數學程序。它也可能有助於説明某些現象等等。所以我確信它將是一個工具。但再次説明，它是一個可能使某些事情變得更容易的工具，但它不是什麼能夠自己推動科學前進的東西。
事實上，我甚至可以指出某些危險，如果你不真正區分如何使用AI的話。那就是你可能會走捷徑，但你不需要自己思考。你某種程度上開始使用計算機輔助計算。你只是用計算機做所有的計算和可視化，而不試圖利用你作為人類的獨特能力真正地進行計算，試圖創造自己原創的視覺圖像或其他可能的東西。這可能會某種程度上引導科學變得有點太懶惰。所以你總要記住，是人類與計算機、與人工神經網絡一起才能取得進步。你不應該以取代為目標，因為那樣的話，我很確信結果不會像原本那樣有趣或原創。
《潛望》：你剛才提到了過度使用AI的危險，以及人們對AI的依賴可能變得過度，這點非常重要。
Ulf Danielsson教授：沒錯。我認為這就是危險所在。我可能不太看到其他更像科幻小説的那種危險。
《潛望》：你看到其他科學家也意識到這些潛在的危險了嗎？或者他們可能對這些潛在的危險更加忽視？
Ulf Danielsson教授：我認為實際上是全方位的。有些人可能關注某些事情。一些科學家和從事應用工作的人可能不太考慮我們剛才討論的那種危險。其他人可能會對AI開始做它肯定做不到的事情感到害怕。所以人們也可能誤解存在的危險類型。
我認為整個範圍都有，如果我們通過這個獎項能夠促進對危險的深思熟慮的討論，我認為那將是一件很好的事情。
因為這是需要討論的事情，就像任何新的強大技術一樣，因為任何技術都可以用於好的事情，也可以用於壞的事情，你必須決定如何應用它。這是絕對清楚的。
《潛望》：是的，所以剛才討論了我們與AI的關係，你認為現在它只是一個工具。在未來，人類與AI之間的關係是否有可能演變成另一種形式？
Ulf Danielsson教授：好吧，這隻會是推測，我不確定我能在這裏添加什麼特別的內容。我猜想這些事情中的許多可能比人們想象的、希望的或擔心的（取決於你對整件事的態度）都要難得多。
所以我的意思是，人們可以討論這些事情，我們應該討論所有這些事情，但我個人認為危險更多是這種更平凡的類型。更多是關於它如何影響我們對科學或社會本身的態度。這是我們必須非常注意的事情。
所以更多是關於那些時間上更接近、可能已經與我們共存多年的危險，比如我們使用數字媒體和社交媒體的方式，以及如何可能使用AI來製造假新聞等等。所以我認為這些是我們現在真正需要討論的危險。
《潛望》：這也呼應了Hinton教授的一些觀點。他也指出了AI可能帶來的許多危險。
所以在某種意義上，本次諾貝爾物理學獎也是一種提高人們對AI認識的方式。
Ulf Danielsson教授：所以我們實際上很高興Hinton參與這些討論，因為這很重要，事實上在某種意義上可能有點獨特，也許我們有這樣的組合，我們正在為一項非常新的強大技術頒獎。但同時我們也可以發起一場平衡的討論。所以我認為這實際上是非常積極的事情。
《潛望》：回到物理研究工作，作為一個物理學家，你認為當代物理研究中的一些主要挑戰或障礙是什麼？AI如何在克服這些挑戰中發揮作用？
Ulf Danielsson教授：在某種程度上，如果你找到一個強大的工具，那麼你就會尋找這個強大工具的應用，這可能會影響你選擇要研究的問題的方式，這是你必須意識到的事情。
這意味着你有了這個工具，可能會尋找涉及大數據的問題，基本上有很多這樣重要的問題。在人文學科中也有這樣令人興奮的問題，你同樣有大量需要AI才能理解的數據。所以可能是你某種程度上在嘗試關注這樣的問題，在這些問題中你主要使用AI技術來發現新的模式，一旦你發現了這些模式，它們可能在各種方面都有用。你可能用它們來做出某些預測。
這正是AI非常有用的地方，但風險在於你可能在那一點就停下來，轉向下一個類似的問題，但你不會進一步問為什麼會這樣。我的意思是，有些問題是AI無法回答的。
它可以告訴你這些模式存在，它們可能有用，但它們為什麼會出現呢？這裏還有什麼需要理解的嗎？我們發現這些新的物理關係或現象的原因是什麼？
重要的是你在某種意義上要再次使用老式的創造力和直覺，以便從人類的角度真正理解這些發現，這意味着你真正獲得了對自然如何運作的新理解，更深入的理解。
可能存在的風險是，許多科學家決定不採取這一步，而只是去尋找新的令人興奮的模式或其他可能的東西。
它可能會影響科學的方式，你只是在尋找東西，但你不關心試圖解釋它們，這可能會使科學在某種意義上變得更膚淺，我認為這是你必須警惕的危險。
《潛望》：除了AI可能帶來的潛在危險之外，我認為在這個過程中也出現了一些新的倫理考慮。對於在研究中使用AI，可能引發的科學倫理問題，你有什麼想法？
Ulf Danielsson教授：是的，這實際上是一個非常非常重要的問題，因為它也涉及到，比如説，你寫一篇科學論文，在寫論文時使用AI到什麼程度是可以的？我認為這樣的倫理考慮是我們真的需要更多討論的事情，我沒有任何好的答案，因為現在已經在使用了。
如果僅僅是拼寫檢查，這算是作弊嗎？界限在哪裏？或者為了能夠更好地組織句子，也許英語如果不是你的母語，那麼當然你可以説有這種技術來改進你的語言是真的好事。這是公平的事情，因為這意味着無論你來自世界上哪個國家，你都能夠以一種好的、可理解的方式表達自己。
但另一方面，關於實際內容呢？這些內容是屬於你自己的，還是部分內容從網絡上獲取而未進行正確引用？我説的是適當的引用與正確的標註來源。到底是怎麼回事？
我還想説，研究的質量如何？因為可能只是因為時間不夠，你利用人工智能來獲得這些漂亮的表達，但你並沒有真正思考你是否能對論文中的所有內容負責。你可能沒有認真地檢查它，所以這些都可能是倫理問題。
但毫無疑問，其中有許多是關於科學寫作的一般性問題。對我來説，我們正處於這樣一個時代，很多事情還沒有討論清楚，但已經被廣泛使用了。
你還可以思考，關於申請研究經費的問題。你寫一份資助申請，許多資助機構鼓勵你使用AI來撰寫申請，那麼問題當然就來了，這意味着什麼？這是一件好事還是壞事？
很難説清楚，原因與我剛才提到的類似。然後當然，他們會説，你不應該使用AI來評估申請，但我們怎麼知道那實際上不是在發生的事？也許你正在使用AI來評估資助申請，這又意味着什麼？所以在這些方面有很多倫理維度的問題需要考慮，但我沒有這些問題的答案，但無疑這些問題需要科學家們參與進來，設定一些可以被尊重的合理規則。我認為這對科學來説非常重要。
《潛望》：在和您討論了AI對我們的研究的影響之後，我認為您對這些新應用的看法是非常謹慎樂觀的。您覺得其他科學家或者整個科學研究界是否與您持有相同的觀點呢？
Ulf Danielsson教授：我認為在面對大量數據的領域，AI顯然是一個有助於取得進展的工具。這一點是毫無疑問的。當然，我認為科學家們也會有很多顧慮。所有科學家都是生活在這個世界的個體，應該思考他們工作對社會的影響。
傑弗裏·辛頓（Geoffrey Hinton）就是一個很好的例子，他做出了重要的發現和發明，但他也在思考這些技術的應用。這是我非常讚賞的事情。我認為在所有科學領域，科學家們都需要反思我們所做的事情。無論是技術領域、核物理領域，還是其他領域，都有很多強大的技術存在，但你必須非常謹慎地考慮如何應用這些技術。每一項新技術都具有它自己的可能性和問題，而這些問題在一開始可能並不明顯，後果也未必一目瞭然。因此，如果不同的人和科學家能夠對這些問題有不同的看法，那麼我們就可以進行深入的討論，把這些倫理問題往前推進。
《潛望》：您認為我們目前處於什麼階段？是接受AI的階段？我們是否行動的已經太遲了？或者我們還處於早期階段，可以採取一些措施來避免潛在的風險和危險？
Ulf Danielsson教授：我認為這是一個非常合適的時機去思考這些問題，我對此還是比較樂觀的，認為這些問題是可以解決的。但當然，你永遠無法預料。
我可以舉個例子，比如核物理領域，重要的發現是在半個多世紀前完成的，甚至可以追溯到20世紀初。但我們至今還無法完全掌控核技術的風險，比如核武器帶來的威脅。我們不得不學會與這些風險共存，並找到解決方法。
基因技術也是另一個例子，你可以用它做危險的事情，這和其他科技是一樣的。所以我認為對於任何強大的技術來説，問題不是一次性解決的，而是需要我們持續應對的挑戰。你可以説，當人類發現火的時候，也許是在幾百萬年前，那時候你可以用火來煮熟食物，但也可以用它來傷害別人。所以這種情況貫穿了整個歷史，而這次AI只是又一個新的例子。
《潛望》：那麼我們能否説，今年的諾貝爾物理學獎也是委員會在試圖喚起人們對於AI的關注？不僅僅是關注其有益的一面，還包括其潛在的風險？
Ulf Danielsson教授：這並不是授予獎項的原因，但這是一個很有益的副作用。很幸運的是，這次獲獎的科學家中至少有一位在積極參與這些討論。這是一個積極的副作用，但並不是委員會的刻意安排。
《潛望》：這並不是委員會有意為之的？
Ulf Danielsson教授：是的，事情並不是那樣運作的。我們是基於科學發現或發明，以及它對社會和科學的影響來做出決定的。個體科學家獲得獎項，重點在於發現和發明。
《潛望》：好的，但如果這一獎項能夠提高人們對AI的潛在風險的關注，那無疑是個好的副作用，對吧？
Ulf Danielsson教授：絕對是的，如果我們能促成一場關於益處與危險的平衡討論，那將是非常積極的，因為在這些討論中，“平衡”是非常難以實現的關鍵。
《潛望》：可以問一下，您在諾貝爾物理學獎委員會工作了多少年了？
Ulf Danielsson教授：我從2017年起就在委員會工作，並且在科學院已經有多年了。
《潛望》：能否和我們分享一下，作為一名委員會成員，這個獎項對您個人來説意味着什麼？
Ulf Danielsson教授：對我個人而言，這是一個能夠在科學上廣泛學習的絕佳機會。我可以超越自己的專業領域，與其他物理學家進行討論，同時還能看到來自全球物理學家的意見，這是非常有意義的事情。而且，我有責任去判斷什麼是真正重要的發現，瞭解這些發現背後的歷史等等。所以這不僅讓我學習到物理學作為一門科學的知識，還讓我瞭解發現的歷史，這是一個巨大的榮幸。我們還可以獲得專家的意見，這是一種極為寶貴的資源。
《潛望》：那作為一名物理學家，諾貝爾獎對您來説意味着什麼呢？
Ulf Danielsson教授：我認為這是在某種意義上書寫歷史，並不是所有的發現都能獲獎，諾貝爾獎的數量有限，但某種程度上，我們所做的事情對我而言是一種記錄歷史的方式。
當我們回顧過去時，我們可以看到許多重要的發現，也可以看到那些為這些發現做出貢獻的人。因此，對我來説，諾貝爾獎不僅是今年的事情，更是在百年獎項歷史中加入一個新的篇章。
這不僅是為了當下，更是為了未來。人們在100年後回顧時，會説“是的，這些是當時最重大的發現，我們很高興它們與諾貝爾獎掛鈎”。
因此，做出正確的選擇非常重要，這樣未來人們在回顧時會認可這些獎項所表彰的發現。
《潛望》：所以我們應該理解為這是一個連續的過程，而不應該將單個獎項割裂開來看待？
Ulf Danielsson教授：是的，這確實是一個不斷向前發展的過程。我們着眼於未來，並希望未來能夠評價我們的決定是正確的。
本文經授權轉載自微信公眾號“騰訊科技”，編輯：劉鵬。
1. 進入『返樸』微信公眾號底部菜單“精品專欄“，可查閲不同主題系列科普文章。
2. 『返樸』提供按月檢索文章功能。關注公眾號，回覆四位數組成的年份+月份，如“1903”，可獲取2019年3月的文章索引，以此類推。