10人團隊融了10億美元，Ilya最新訪談：Scalling Law並非一成不變_風聞

魚羊 發自 凹非寺

量子位 | 公眾號 QbitAI

公司剛10人，種子輪融資就融了10億美元。

這種驚掉人下巴的事兒，也只有發生Ilya Sutskever身上，才稍顯“正常”。

Ilya，在大模型席捲全球的當下，他的貢獻被公認為達到了改變世界的級別：

他是AlexNet三位作者之一，和恩師Hinton一起被挖到谷歌之後，又深度參與了震驚世界的AlphaGo項目。

2015年，他參與了OpenAI的創立，出任首席科學家。ChatGPT再次改變世界，他被認為是背後最關鍵的人物之一。

從去年11月至今，Ilya的一舉一動更是被推到台前，受到全球科技圈的矚目：

由他發動的OpenAI董事會內訌揭開大模型發展路線之爭，而他在今年5月與OpenAI徹底分道揚鑣之後，所有人都在等待他的下一步創業動向。

現在，塵埃初定。一向低調的Ilya本人，也在這個時間點上，同外界分享了更多有關他的公司SSI，以及他本人對AGI思考的信息。

在與路透社的交流中，Ilya回答了關鍵的6個問題。以下，原文奉上：

為什麼創立SSI？

我們已經發現了一座與我之前的工作有些不同的“大山”……一旦你登上這座山的頂峯，範式就會改變……我們所知的關於人工智能的一切都將再次改變。

到那時，超級智能安全工作會變得非常關鍵。

我們的第一個產品將會是安全的超級智能。

在超級智能之前，會發布和人類一樣智能的AI嗎？

我認為關鍵在於：它是否安全？它是否是世界上一股向善的力量？我認為，當我們做到這一點時，世界將會發生很大的變化。因此現在就給出“我們將要做什麼”的明確計劃是相當困難的。

我可以告訴你的是，世界將會變得非常不同。外界對AI領域正在發生的事情的看法將會發生巨大變化，並且很難理解。這將是一場更加激烈的對話。這可能不僅取決於我們的決定。

**SSI如何判定何為安全的人工智能？**要回答這個問題，我們需要開展一些重要的研究。特別是如果你和我們一樣，認為事情會發生很大變化……很多偉大的想法正在被發現。

很多人都在思考，當AI變得更加強大時，需要對其採取哪些測試？這有點棘手，還有很多研究要做。

我不想説現在已經有了明確的答案。但這是我們要弄清楚的事情之一。

關於尺度假設和AI安全

每個人都在説“尺度假設”，但每個人都忽略了一個問題：我們在scaling什麼？

過去十年深度學習的巨大突破，是一個關於尺度假設的特定公式。但它會改變……隨着它的改變，系統的能力將會增強，安全問題將變得最為緊迫，這就是我們需要解決的問題。

SSI會開源嗎？

目前，所有人工智能公司都沒有開源他們的主要工作，我們也是如此。但我覺得，取決於某些因素，會有很多機會去開源超級智能安全工作。也許不是全部，但肯定會有一些。

對其他AI公司安全研究工作的看法

實際上，我對業界有很高的評價。我認為，隨着人們繼續取得進展，所有公司都會意識到——可能是在不同的時間點——他們所面臨的挑戰的本質。因此，我們並不是認為其他人都做不到，而是説，我們認為我們可以做出貢獻。

10億美元用來幹什麼

最後，補充一些Ilya話外的背景信息。

SSI的消息最早在今年6月釋出，目標很明確，搞Ilya在OpenAI沒幹成的事：構建安全超級智能。

目前SSI只有10名員工，融完資後，計劃利用這筆資金買算力並聘請頂尖人才——

認同他們的理念，已經做好AI有一天會超越人類智能的心理準備的那種。

聯合創始人Daniel Gross還透露，他們並不過分看重資歷和經驗，反而會花好幾個小時審查候選人是否具有“良好的品格”。

算力方面，SSI計劃和雲廠商及芯片公司開展合作，具體和哪些公司合作、怎麼合作尚未明確。

除了Ilya本人之外，SSI的聯創還有Daniel Gross和Daniel Levy。

**△**左：Daniel Gross；右：Daniel Levy

Daniel Gross畢業於哈佛大學計算機系，此前也是Y Combinator的合夥人之一，也曾創辦或參與創辦了多家公司，包括Citrus Lane、WriteLaTeX（後更名為Overleaf）等。

他被《時代100》雜誌列為“人工智能領域最具影響力的人物”之一。

Daniel Levy則畢業於斯坦福計算機系，此前是OpenAI優化團隊的負責人。