Ilya去哪了？

這個自去年年底OpenAI上演宮斗之后，所有關(guān)心AI的人都在問的問題，有了最終的答案。

Ilya Sutskever正式宣布了他創(chuàng)辦的新公司：Safe Superintelligence Inc. (SSI)，只有一個目標和一個產(chǎn)品：安全的超級智能。

SSI是一家純研究機構(gòu)，將通過在AI系統(tǒng)中嵌入工程突破來實現(xiàn)安全，而不是依賴臨時加上的安全措施，近期沒有銷售AI產(chǎn)品或服務(wù)的打算。

Ilya曾多次在公開場合表示，他的主要工作是弄清楚如何讓“超級智能”安全可控。換句話說，SSI的成立的目的，就是Ilya希望在沒有OpenAI、谷歌和Anthropic等競爭對手所面臨的干擾下繼續(xù)他的工作。

安全的超級智能在某種程度上是對最初OpenAI“初心”的回歸，OpenAI最初的目標也是開發(fā)安全且有益的人工智能，不受商業(yè)和競爭壓力的干擾，確保AI技術(shù)的安全性和對人類的長期利益。

然而，隨著時間的推移，OpenAI和其他公司在商業(yè)化和競爭壓力下，不得不平衡安全與市場需求。Ilya以及OpenAI對齊團隊成員的離開，核心原因也是OpenAI內(nèi)部對安全的優(yōu)先級產(chǎn)生了不可調(diào)和的分歧，通過 SSI，他試圖通過自己的公司解決這些問題。

Daniel Gross在2018年參加YC的播客節(jié)目錄制

新的聯(lián)創(chuàng)，技術(shù)加強版Sam Altman？

SSI的另外兩位聯(lián)合創(chuàng)始人是Daniel Gross和Daniel Levy，Daniel Levy是Ilya在OpenAI的老下屬，兩人共同參與了多個重要的AI項目，他也是OpenAI優(yōu)化團隊的*，在GPT-4的架構(gòu)和優(yōu)化方面享有盛譽。

而Daniel Gross的經(jīng)歷則更具戲劇色彩，Gross 1991年出生于以色列耶路撒冷，熱愛編程的他在家鄉(xiāng)度過了人生的前十八年，本來打算入伍加入以色列國防軍，但在一次前往舊金山的入伍前旅行中，他陷入了硅谷的創(chuàng)業(yè)熱潮。2010年Gross被Y-Combinator錄取，獲得資助，當時他是YC有史以來最年輕的創(chuàng)始人，他也因逃避以色列國防軍服役，再未返回以色列。

Gross隨后推出了搜索引擎Greplin，后更名為 Cue。2013年Cue被蘋果收購之后，Gross也加入蘋果，領(lǐng)導(dǎo)人工智能工作。2017年Gross加入YC擔任的合伙人，專注于人工智能，并創(chuàng)建了專門的“YC AI”計劃。

2021年，Daniel Gross與Github前CEO Nat Friedman成立了早期風險投資基金AI Grant。2023 年，AI Grant部署了自己的計算集群Andromeda，這是一個由 2512 個 H100 GPU 組成的超級計算機集群，供其投資組合中的初創(chuàng)公司使用。

Andromeda可以在約10天內(nèi)完成Llama 65B模型的訓(xùn)練

作為投資人，Gross的投資組合可謂亮眼，他投資了Uber、Coinbase、Figma、GitHub、Airtable、Notion、CoreWeave、Character.ai、Perplexity.ai、Pika、Suno等公司。

Gross的投資組合顯示了對科技行業(yè)整體發(fā)展趨勢的全面理解，經(jīng)常在具有顛覆性潛力的項目上下注。從投資選擇看，Gross特別關(guān)注技術(shù)驅(qū)動的創(chuàng)新以及AI和軟件領(lǐng)域，傾向于支持那些能夠改變市場格局、具有高成長潛力的初創(chuàng)公司，特別是那些能夠?qū)θ祟惾粘Ｉ詈凸ぷ鞣绞疆a(chǎn)生深遠影響的創(chuàng)新解決方案的公司。

在這家新成立的公司中，Ilya擔任的角色是首席科學(xué)家，負責革命性突破，而Gross在某種意義上替代了Altman的角色。

對比兩人，我們也可以看到一些明顯的共性和區(qū)別。Gross和Altman兩人都“師出”Paul Graham，與YC頗有淵源，在技術(shù)創(chuàng)業(yè)和投資領(lǐng)域有豐富的經(jīng)驗，在硅谷擁有廣泛的人際網(wǎng)絡(luò)和資源，適合擔當一家公司的頭面人物。此外，相較于更加“長袖善舞”，跑遍全世界會見各地的立法者、監(jiān)管者和投資人的Altman，Gross在氣質(zhì)上與Ilya更接近，兩人都是技術(shù)天才型人物，他對技術(shù)的理解可能為公司在戰(zhàn)略、技術(shù)方向和資源整合方面提供關(guān)鍵支持。Altman在OpenAI商業(yè)化上的野心路人皆知，而Gross與Ilya的合作關(guān)系可能更適合專注于AI的安全性和研究本身，Gross在商業(yè)與投融資方面的經(jīng)驗，也補足了Ilya的短板。

所以Gross的加入，有點像是Ilya離開OpenAI之后，找到了一位新的Sam Altman，只是不知道Altman內(nèi)心會作何感想？

“Daniel Gross，別搞砸了”

這并不是OpenAI*次出現(xiàn)員工因為安全問題的分歧離去創(chuàng)辦自己的AI公司。2021年，前OpenAI員工Dario和Daniela Amodei兄妹創(chuàng)辦的Anthropic，也致力于比行業(yè)競爭對手更注重安全性，而Ilya的SSI看上去更加純粹，也更具神秘感。

在AI行業(yè)中，有兩大對立陣營：謹慎派和創(chuàng)新派。一方遵循硅谷“快速行動，打破常規(guī)”的倫理，稱為“有效加速主義”，而另一方則希望確保所開發(fā)的技術(shù)足夠安全，在實驗室環(huán)境中經(jīng)過充分測試，并在釋放具有顛覆性的AI技術(shù)之前設(shè)置適當?shù)姆雷o措施，被稱為“有效利他主義”。兩方都希望AI技術(shù)的利益能夠惠及全球所有人。

llya一直是人工智能領(lǐng)域的安全派，這一點和他的導(dǎo)師Geoffrey Hinton類似，Hinton從谷歌辭職，原因之一就是為了對AI安全提出警告，并且聲稱“對畢生工作感到后悔和恐懼”。近年來，llya的工作重點一直放在超級對齊上，去年llya在OpenAI內(nèi)部創(chuàng)建了一個超級對齊團隊，旨在確保未來的人工智能技術(shù)不會對人類造成傷害，他越來越擔心AI可能變得危險，甚至可能毀滅人類，SSI的成立讓他可以專注在避免這件事情的發(fā)生。

llya表示，雖然大型語言模型在人工智能領(lǐng)域占據(jù)主導(dǎo)地位，并將在SSI中扮演重要角色，但他們的目標是開發(fā)更強大的系統(tǒng)。他想追求的系統(tǒng)將具有更廣泛的用途和能力，就像一個能夠自主開發(fā)技術(shù)的巨大超級數(shù)據(jù)中心，所以必須要確保安全。

Safe Superintelligence Inc這個名字，聽上去就像是來自以核戰(zhàn)爭后的末日世界為背景的《輻射》系列游戲，不僅是因為Ilya提到了SSI要追求的是“核安全”級別的安全，游戲中經(jīng)常涉及的一個話題也是科技激進發(fā)展帶來的潛在風險和道德困境。

這種使命感也與《輻射》中的公司相似，游戲中一家名為Vault-Tec的公司致力于保護人類在核戰(zhàn)爭中的生存，Safe Superintelligence Inc的名字也傳達出一種明確的使命。正如在《輻射》中往往對公司背后的故事和目的披上一層神秘感一樣，Safe Superintelligence Inc也給人留下廣闊的想象空間。

Vault-Tec公司在游戲中以其建造避難所而著稱，這些避難所表面上是為了保護人類免受核戰(zhàn)爭的毀滅，但實際上往往隱藏著更加陰暗的目的和實驗。

即使是*有前瞻性和保護目的的科技企業(yè)，也可能因為內(nèi)部實驗、決策或外界環(huán)境的變化而產(chǎn)生意想不到的后果。SSI使命是否能真正實現(xiàn)，或者是否會在實際操作中偏離初衷，仍然值得關(guān)注。

這件事可能更多取決于Daniel Gross會不會成為又一個Sam Altman。