幾小時前，OpenAI 官網(wǎng)發(fā)布新的文章公告宣布：

　　奧特曼（ Sam Altman）將正式重返 OpenAI 擔任 CEO，Mira 將回歸 OpenAI 擔任 CTO，新的董事會將由 Bret Taylor( 可能是支持奧特曼的激進派 )、Larry Summers ( 可能是激進派 )和 Adam D'Angelo ( D'Angelo 是*留任的老董事，他曾支持讓奧特曼下臺，是保守派 )組成，至于之前發(fā)起 “ 政變 ” 把奧特曼推下臺的 Ilya（ 保守派 ），奧特曼表示 Ilya 將不再擔任董事會成員，并且公司正在討論他將如何留在 OpenAI 繼續(xù)工作。

　　根據(jù)此前奧特曼發(fā)布的推文，本次回歸，他除了獲得了新董事會的支持，還得益于 satya ，也就是微軟 CEO 的支持。

　　隨著這則公告的發(fā)布，OpenAI 宮斗大戲似乎塵埃落定，而這場宮斗的結(jié)束，或許意味著 OpenAI 的使命將被改寫，它有可能像一只蝴蝶煽動了一下翅膀，最終影響整個人類。

　　為什么這么說呢?

　　此前，OpenAI 正走上一個十字路口，宮斗本質(zhì)意義上是 OpenAI 的兩種截然不同的發(fā)展方向：加速主義與安全主義的路線之爭。

　　事情發(fā)生的前一天，奧特曼還在亞太經(jīng)合組織峰會上侃侃而談公司最近取得的一項技術(shù)進步。

　　“ 在 OpenAI 的歷史上，現(xiàn)在已經(jīng)有四次了，最近一次是在過去的幾周里。當我們把無知的面紗推回去，把發(fā)現(xiàn)的前沿向前推進時，這是一生的職業(yè)榮譽。”

　　奧特曼所說的這項技術(shù)，大概是指 Q*( 發(fā)音為 “ Q-Star ” )模型。

　　根據(jù) The Information 的報道，OpenAI 兩位*研究人員 Jakub Pachocki 和 Szymon Sidor 開發(fā)出了名為 Q* 的模型。

　　它能用前所未有的能力來解決數(shù)學問題，是 AGI( 通用人工智能 )的重要技術(shù)里程碑。

　　而這個突破是基于 Ilya 啟動于 2021 年的一項重要工作：GPT-Zero。該項目研究如何使用計算機生成的數(shù)據(jù)，而不是互聯(lián)網(wǎng)上提取的文本或圖像來訓練新模型。

　　簡單來說，就是 AI 在自己生成的數(shù)據(jù)上提升能力，打開自我進化的路線。

　　Ilya 的技術(shù)突破此前從未被報道過，在取得突破后的幾個月里，Ilya 都對這項技術(shù)持保留態(tài)度。

　　直到奧特曼被罷免的四天前，公司幾名研究員向董事會發(fā)出了一封信，警告稱這項新發(fā)現(xiàn)可能威脅人類。這封信就成了 OpenA 此次 “ 宮斗 ” 大戲的導火索。

　　Ilya 高調(diào)參與了對奧特曼的罷免，甚至外界還認為他是串聯(lián)董事會另外三人的人物。

　　在消息剛宣布的時候，以 Ilya 為代表的 OpenAI 董事會受到了全球輿論的口誅筆伐，剛回過神的微軟和第二大股東 Thrive Capital 也對 OpenAI 董事會施加壓力。

　　那時候，就只有馬斯克在暗暗支持政變，他發(fā)帖稱：

　　Ilya 有著良好的道德準則，并且不熱衷權(quán)力。除非他覺得*有必要，否則他是不會采取這種極端行動的。

　　奧特曼正式回歸后，關(guān)于道德與追求更快的未來，似乎 OpenAI 選擇了后者。

　　01 OpenAI的使命

　　在宣布罷免奧特曼的全體會議上，有員工問道，“ 這是一場政變嗎？”

　　“ 你可以這么說，我能理解你為什么選擇這個詞。”Ilya 回應道，隨后又解釋了一句，“ 但我不同意這個詞，因為罷免對于維持 OpenAI 的使命是必要的。”

　　所以，OpenAI 的使命是什么?

　　時間回到 2012 年，彼時馬斯克認識了戴密斯·哈薩比斯，哈薩比斯創(chuàng)辦了一家名為 “ DeepMind ” 的公司，試圖打造一種能像人類一樣學習、思考的機器。

　　兩人一見如故，馬斯克約哈薩比斯去往他的火箭工廠參觀。在那里，馬斯克跟哈薩比斯解釋，他之所以要打造可以飛往火星的火箭，是因為在發(fā)生世界大戰(zhàn)、小行星撞擊或人類文明崩潰時，這是一種可能保存人類意識的方式。

　　哈薩比斯則補充了另一種人類可能面臨的危險 —— 人工智能。

　　他認為機器如果進化成了超級智能，在未知邏輯下可能做出把人類消滅的決定。

　　馬斯克聽完沉思了將近一分鐘，他認為哈薩比斯對人工智能風險的認識可能是對的，于是他向哈薩比斯創(chuàng)立的 DeepMind 投資了 500 萬美元，這樣他就能實時了解人工智能領(lǐng)域的進展。

　　隨后幾周里，馬斯克向谷歌創(chuàng)始人拉里佩奇介紹了他對人工智能潛在風險的看法，但佩奇對此不屑一顧。

　　2013 年，馬斯克的生日派對上，兩人還對這個事展開了一場激烈的辯論。

　　馬斯克認為，“ 除非我們建立防火墻，否則人工智能可能會取代人類，讓我們這個物種走向滅絕。”

　　佩奇反駁說，“ 如果有一天機器的智力，甚至機器的意識，都超過了人類，那又有什么關(guān)系呢?這只不過是進化的下一階段罷了。”

　　佩奇指責馬斯克是 “ 物種主義者 ”，只偏袒自己這個物種的生存。“ 嗯，沒錯，我是支持人類優(yōu)先的。”馬斯克回應道，“ 我就是熱愛人類啊。”

　　那年年底，谷歌計劃收購 DeepMind ，馬斯克嘗試過籌錢給 DeepMind 融資，以此來阻止這筆交易。他還對哈薩比斯說：“ 人工智能的未來不應該讓拉里說了算。”

　　但馬斯克還是失敗了，于是他轉(zhuǎn)頭就找到了奧特曼。

　　在帕洛阿爾托的一場小型晚宴上，奧特曼和馬斯克決定創(chuàng)辦一個非營利性的人工智能研究實驗室，他們將其命名為 “ OpenAI ”。

　　實驗室的軟件是開源的，將努力對抗谷歌在人工智能領(lǐng)域日漸強大的主導地位。

　　馬斯克說，“ 我們的目標是提升人工智能安全發(fā)展的概率，人類將從中受益。”

　　當時馬斯克和奧特曼還詳細討論了一個目標，叫做 “ 人工智能對齊 ”—— 這個詞也是這次 “ 宮斗 ” 的關(guān)鍵 —— 它的目的是讓人工智能系統(tǒng)與人類的目標和價值觀保持一致，就像艾薩克·阿西莫夫的機器人三定律一樣。

　　在確定好這個目標之后，他們找到了 Ilya，打算用 190 萬美元的工資和保底獎金把他從谷歌挖過來，讓他擔任 OpenAI 的首席科學家。

　　這個薪資和他在谷歌時差不多，而為了留住 Ilya，谷歌先給 Ilya 的薪資翻了一番，Ilya 沒有答應。隨后，谷歌選擇加更多的錢。

　　眼看著 Ilya 就要被老東家留住了，OpenAI 急了，但拼財力，肯定是比不過谷歌的，于是他們選擇換一種策略：講理想。

　　他們告訴 Ilya，OpenAI 是一家非盈利導向的 AI 實驗室，他們的目標是 “ 讓人類以更接近于安全的方式構(gòu)建真正的 AI ”。

　　Ilya 認可了這一理念，放棄谷歌的天價薪資選擇加入 OpenAI 。

　　對于馬斯克挖走自己*科學家的事，佩奇一直耿耿于懷，一度在公開場合拒絕跟他對話。馬斯克還調(diào)侃對方，“ 當時你但凡對人工智能的安全問題上點兒心，我們都沒必要搭個臺子跟你唱對臺戲。”

　　Ilya 加入 OpenAI 后確立了 OpenAI 的使命：“ 確保 AI 造福全人類 ”。

　　那年 OpenAI 還發(fā)表了一篇名為 “ 介紹 OpenAI ” 的博文，里面這樣寫道：

　　“ 我們希望將 OpenAI 發(fā)展成為這樣一個機構(gòu)。作為一個非營利組織，我們的目標是為每個人類而不是股東創(chuàng)造價值。我們將大力鼓勵研究人員發(fā)表他們的工作，無論是論文、博客文章還是代碼，我們的專利( 如果有 )將與全世界共享。我們將與許多機構(gòu)的其他人自由合作，并期望與公司合作研究和部署新技術(shù)。”

　　這篇文章的作者是：Greg Brockman、Ilya Sutskever 以及 OpenAI，奧特曼的名字并不在其中。

　　可能分歧在這時就已經(jīng)埋下了伏筆。

　　02 裂縫叢生

　　關(guān)于 OpenAI，奧特曼設(shè)計了一個特殊盈利架構(gòu)，在這里就不贅述了。

　　簡單來說就是成立了一個子公司來承接 OpenAI 的商業(yè)行為與股權(quán)分配。

　　在奧特曼宣布這個架構(gòu)實施前不久，馬斯克就與奧特曼決裂，離開了 OpenAI 董事會。

　　也正是這個架構(gòu)，讓 OpenAI 從一個開放式非盈利的機構(gòu)逐漸轉(zhuǎn)向封閉式可盈利的組織。

　　2020 年，OpenAI 發(fā)生過一次高層之間對于 AI 路線的爭議。當年年底，OpenAI 的前研究副總裁 Dario Amodei 帶著 10 名心腹離開 OpenAI，創(chuàng)辦了如今 OpenAI *的競爭對手 Anthropic 。

　　而 Dario 出走的最根本原因就是人工智能安全問題。

　　生成式 AI 是一個黑匣子，人們并不知道其中是如何運作的，只知道堆參數(shù)堆算力的 “ 大力出奇跡 ” 的方式，而 Dario 擔心，“ 知其然不知其所以然 ” 的人工智能發(fā)展過快會帶來未知的風險。

　　今年十月份，OpenAI 原董事會成員 Helen Toner 發(fā)表過一篇論文，里面贊揚了 Anthropic 采取的安全做法。

　　論文里寫道：“ Anthropic 推遲了 Claude 的發(fā)布時間，直到另一家公司推出了功能類似的產(chǎn)品，這表明 Anthropic 不愿在產(chǎn)品上偷工減料走捷徑，而 ChatGPT 的發(fā)布催生了很多瘋狂行為。”

　　因為這篇論文，奧特曼譴責了 Helen Toner，說她損害了 OpenAI 的利益，還考慮過是否將她撤職。

　　事實上，對 OpenAI 做法怨念很深的，還有 OpenAI 創(chuàng)始人馬斯克。

　　2023 年 2 月，馬斯克在社交媒體上喊話奧特曼去見他，還要求奧特曼帶著 OpenAI 的創(chuàng)始文件。

　　馬斯克質(zhì)問他，憑什么能夠合法地把一個由捐款資助的非營利組織轉(zhuǎn)變成一個可以賺取數(shù)百萬美元的營利組織。

　　奧特曼則一口咬定，這是合法行為，他不是股東也沒有套現(xiàn)，甚至還可以向馬斯克提供新公司的股份，不過，馬斯克沒要。

　　馬斯克說：“ OpenAI 是作為一家開源的( 這也是我將其命名為 ‘ Open ’ AI 的原因 )、非營利性的公司創(chuàng)建的，其目的就是與谷歌抗衡，現(xiàn)在它卻成了一家封閉源代碼、追求利潤*化的公司，實際上處于微軟的控制之下。我到現(xiàn)在都不明白，我捐贈了 1 億美元創(chuàng)辦的非營利性組織是怎么變成市值 300 億美元的營利性公司的。如果這是合法的，為什么大家不都這么做呢?”

　　很明顯，圍繞 OpenAI 的發(fā)展方向已經(jīng)產(chǎn)生了兩種截然不同的發(fā)展方向：加速主義與安全主義的路線之爭。

　　前者充滿資本主義精神，認為人類應該無條件地加速技術(shù)創(chuàng)新，并快速推出它們，來顛覆社會結(jié)構(gòu)。這種顛覆本質(zhì)上對人類有利，因為會迫使人類適應，從而幫助我們更快達到更高的意識水平。代表人物自然是這次宮斗被短暫推翻的奧特曼。

　　后者對通用人工智能充滿警惕，認為 AI 應該要對齊人類價值觀，尤其是“ 無條件對人類的愛 ”，就像父母對待孩子，只有擁有了這個 AI 才真的不會毀滅人類，而在這之前都應該用謹慎的態(tài)度來發(fā)展 AI。代表人物是這次宮斗的發(fā)起者 Ilya 和早已退出 OpenAI 的馬斯克。

　　而兩者之間能不能調(diào)和呢?

　　Ilya 認為不能，他認為技術(shù)的本質(zhì)類似于人類的生物進化，進化的起點很重要。如果進化的開始，是一個沒有 “ 無條件對人類的愛 ” 的 AI，那最終也一定會把人類帶到溝里去。

　　正是這種不可調(diào)和的矛盾，導致 OpenAI 爆發(fā)了這場全球矚目的政變。

　　03 AI時代的奧本海默

　　去年12 月，在舊金山加州科學館舉辦的 OpenAI 節(jié)日派對上，Ilya 向數(shù)百名員工和嘉賓發(fā)表了講話。

　　“ 我們的目標是制造一個熱愛人類的 AGI。” Ilya 停頓了一下，隨后說，“ 感受 AGI，跟我念 —— 感受 AGI。”

　　這位當初從谷歌 Deep Mind 跳槽到 OpenAI 的天才科學家并不想把自己當成奧特曼的 “ 沃茲尼亞克 ”( 與喬布斯共同創(chuàng)立蘋果 )，而更像是 AI 時代的 “ 奧本海默 ”。

　　奧特曼顯然是加速主義派的代表，他主導了 GPT 商業(yè)化的進度并且想要加快運用其研究成果。但 Ilya 卻越來越擔心 OpenAI 是否堅持了管理非營利組織創(chuàng)造有益的 AGI 的使命。

　　他在幾個月前牽頭成立一個 “ 超級對齊 ” 的項目，計劃在未來四年將把公司五分之一的計算資源投入到這個項目，幫助引導超級人工智能走向人類價值觀和目標，開發(fā)更多人工智能安全技術(shù)，為十年內(nèi)實現(xiàn) AGI 的可能性做好準備。

　　奧特曼顯然不愿意等這么久。

　　本月初，OpenAI 舉行了*次 “ 開發(fā)者大會 ”，在會上奧特曼推出了 GPTs， ChatGPT 的自定義版本，增加了 GPT Store 并允許通過收益分成來豐富開發(fā)生態(tài)。

　　于是，無數(shù)開發(fā)者像潮水一樣涌來，復制蘋果 AppStore 的路徑已經(jīng)躍然紙上。

　　之后奧特曼和 Greg Brockman 開始全力融資，11 月 9 日與法國總統(tǒng)馬克龍會面，隨后在巴黎舉行了投資者會議。13 日在倫敦接受《 金融時報 》的采訪時，奧特曼首次確認他們已經(jīng)開始開發(fā) GPT-5，并正在為此籌集資金。16 日在 APEC 峰會上，奧特曼確認了技術(shù)突破，稱幾周前他們再度打開了 “ 無知之幕 ”。

　　據(jù)傳聞，17 日董事會會議上，Ilya 帶著兩名資深工程師向董事會報告了項目的進展和潛在風險。并表示公司不應該再融資，不應該擴張，以及奧特曼不應該擅自進行巡演時。

　　在大吵一番后，Ilya 最終決定推動董事會罷免奧特曼。

　　但事后，Ilya 也并沒有那么堅決。

　　在董事會決定將奧特曼解職，把 Greg Brockman 從董事會除名后，Greg Brockman 的妻子在公司大廳哭著懇求 Ilya 重新考慮這件事。

　　她就是在這個這地方和布羅克曼舉行了婚禮，婚禮是 Ilya 主持的。

　　之后，Ilya 有些后悔，發(fā)帖說：“ 我對參與董事會的行動深表遺憾。我從未想過要傷害 OpenAI。我熱愛我們共同建立的一切，我會盡我所能讓公司重新團結(jié)起來。”

　　隨后在 OpenAI 員工聯(lián)名辭職信里，Ilya Sutskever 的名字赫然出現(xiàn)其中。

　　隨著關(guān)鍵人物的繳械，這場政變在那一刻已經(jīng)基本宣告了結(jié)束。

　　04 走向何方？

　　OpenAI 之后會走向何方呢?

　　可能重回 CEO 位置的奧特曼依然還會過著順風順水的生活吧，在世界各地穿梭，與多國總統(tǒng)和總理們會面，確定著全球 AI 政策議程，并且把 OpenAI 的估值繼續(xù)推向新高。

　　而退出董事會的 Ilya 應該也會繼續(xù)著他的 “ 超級對齊 ” 項目，去探索如何 “ 制造一個真正愛人類的 AG I”。

　　無論怎樣，生成式 AI 這個精靈是不可能再被關(guān)回瓶子里的。

　　這次鬧劇只是在告訴全人類，某種可自我進化的 AGI 已經(jīng)被創(chuàng)造出來了，并且正在以一種恐怖的速度更新迭代。

　　至于，如何平衡安全與發(fā)展之間，誰知道呢?

　　人工智能的浪潮有多洶涌，其背后的安全問題就有多深邃。

　　在電影《 奧本海默 》中，有這樣一個場面，地平線上，一道巨大的白光閃過，漸漸地，白光變成了耀眼的黃橙色的火球，夾雜著火焰和黑色塵埃，不斷向上翻滾。奧本海默心中閃現(xiàn)出了印度經(jīng)典作品《 薄伽梵歌 》中一句話：“ 現(xiàn)在我成了死神，世界的毀滅者。”

　　不知道 Ilya 在決定罷免奧特曼的那一刻，腦海里又想起的是什么呢？

　　引用：

　　1.有效利他主義是什么?它如何引發(fā)了硅谷分裂和OpenAI鬧劇?——華爾街日報

　　2.OpenAI“宮斗”的幕后究竟發(fā)生了什么?——華爾街日報

　　3.OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say——reuters

　　4.OpenAI Made an AI Breakthrough Before Altman Firing, Stoking Excitement and Concern——The Information

　　5.《 馬斯克傳 》