馬克-扎克伯格(Mark Zuckerberg)一直都認(rèn)為，埃隆-馬斯克(Elon Musk)對人工智能的擔(dān)憂，完全就是杞人憂天。

　　這位SpaceX和電動(dòng)汽車公司特斯拉的創(chuàng)立者曾一再通過電視和各種社交媒體渠道提醒全世界，人工智能“可能要比核武器更危險(xiǎn)”。

　　因此在2014年11月19日，F(xiàn)acebook首席執(zhí)行官扎克伯格一度邀請馬斯克到自己位于加州帕洛阿爾托的家中共進(jìn)晚餐，并且出席的還有Facebook人工智能實(shí)驗(yàn)室的兩名頂級研究人員以及另外兩位Facebook高管。

　　在晚餐進(jìn)行中，F(xiàn)acebook的代表們試圖讓馬斯克相信自己之前的觀點(diǎn)是錯(cuò)誤的，但好像并沒有起到任何作用。“我真的認(rèn)為這很危險(xiǎn)，”馬斯克在餐桌上表示。當(dāng)時(shí)這次晚餐的參與者之一，包括了Facebook人工智能團(tuán)隊(duì)的首席科學(xué)家Yann LeCun。

　　馬斯克對人工智能的恐懼，從本質(zhì)上來說其實(shí)不難理解。如果我們創(chuàng)造出比人類更聰明的機(jī)器，就會(huì)對我們不利(參考一下《終結(jié)者》、《黑客帝國》以及《2001太空漫游》等電影)。我們再一次面臨了這樣的場景，當(dāng)科技發(fā)展到一定程度之后，我們將它向全世界推廣，往往會(huì)帶來很多意想不到的后果。

　　無論是馬斯克還是扎克伯格，一定都不會(huì)過多的透露這頓晚餐所討論的細(xì)節(jié)，之前媒體也沒有報(bào)道過、也沒有討論過二人長期以來對人工智能觀點(diǎn)的分歧。

　　“超級智能”這一概念的誕生，是一種技術(shù)的突破，將人工智能提升到了一個(gè)新高度。并且能夠創(chuàng)造出新型的機(jī)器，不僅可以完成普通人類能完成的狹義任務(wù)(比如駕駛汽車)，甚至還能超越人類，聽起來就像科幻小說一般。但圍繞未來人工智能的爭論，已經(jīng)蔓延到了整個(gè)科技行業(yè)。

　　最近，有4000多名谷歌員工簽署了請?jiān)笗�，抗議谷歌公司與五角大樓簽署了一份價(jià)值900萬美元的人工智能合同。這筆交易對于谷歌這家科技巨頭來說是穩(wěn)賺的買賣，但是卻讓很多人工智能領(lǐng)域的員工深感不安。上周，一位安撫員工情緒的谷歌高管表示，在明年自己的工作合同到期后，不會(huì)繼續(xù)為谷歌工作。

　　人工智能研究具有巨大的潛力和影響力，它既是經(jīng)濟(jì)發(fā)展的引擎，也是建立軍事優(yōu)勢的手段。因此五角大樓已經(jīng)開始積極的向科技領(lǐng)域?qū)で髱椭�，距離研制出一種新型自主武器的日子已經(jīng)并不遙遠(yuǎn)了。

　　有各種各樣的觀點(diǎn)都已經(jīng)加入到了這種激烈的辯論中，從加州中部海岸的哲學(xué)家到聚集在加州棕櫚泉的科學(xué)家年度會(huì)議都是如此，亞馬遜首席執(zhí)行官杰夫-貝索斯(Jeff Bezos)甚至還成為了這次會(huì)議的主持人。

　　“現(xiàn)在關(guān)于人工智能風(fēng)險(xiǎn)的討論，并沒有表面上看起來像小說一樣夢幻。”牛津大學(xué)先進(jìn)技術(shù)研究中心人工智能未來研究所的Allan Dafoe表示。

　　在過去的幾個(gè)月中，F(xiàn)acebook和其它已經(jīng)上市的科技公司，都不同程度的引發(fā)了外界對于硅谷這項(xiàng)新的研究成果所帶來后果的討論。

　　今年4月，扎克伯格用連續(xù)兩天的時(shí)間回答了美國國會(huì)議員關(guān)于數(shù)據(jù)隱私和Facebook在2016年大選期間所扮演角色的問題。就在上個(gè)月，他又在歐洲面臨了同樣的考驗(yàn)。

　　Facebook已經(jīng)認(rèn)識(shí)到，自己對正在發(fā)生的事情理解速度還是不夠快，因此這家科技巨頭也罕見的出現(xiàn)了自我反省的行為。要知道一直以來，科技行業(yè)始終秉持這樣一種觀點(diǎn)，不管世界是否喜歡或接納，只要能讓世界變得更美好，就是好的技術(shù)。

　　即使是像微軟創(chuàng)始人比爾-蓋茨(Bill Gates)以及已故的物理學(xué)家史蒂芬-霍金(Stephen Hawking)這樣有影響力的人物，也同樣表達(dá)了對人類創(chuàng)造出比自己更聰明機(jī)器的擔(dān)憂。盡管超級智能概念的提出已經(jīng)超過十年，但很多人依然堅(jiān)持認(rèn)為，我們應(yīng)該在付諸實(shí)踐之前認(rèn)真的考慮所能產(chǎn)生的后果。

　　“我們正在創(chuàng)造的這種系統(tǒng)非常強(qiáng)大，”康奈爾大學(xué)計(jì)算機(jī)科學(xué)教授、貝爾實(shí)驗(yàn)室前研究員Bart Selman說，“我們現(xiàn)在還無法理解它的影響力。”

　　不完美的信使

　　Pacific Grove是加州中部海岸的一個(gè)小鎮(zhèn)。1975年冬天，一群遺傳學(xué)家聚集在這里，討論了基因編輯技術(shù)最終是否會(huì)對這個(gè)世界帶來傷害。2017年1月，人工智能領(lǐng)域在這個(gè)海濱小鎮(zhèn)進(jìn)行了類似的討論。

　　在Asilomar酒店舉辦的這場私人聚會(huì)，是由“生命研究所”組織，這是一個(gè)為討論人工智能和其它技術(shù)存在風(fēng)險(xiǎn)而建立的智庫。

　　全世界人工智能領(lǐng)域重量級的人物聚集在這里，其中包括在上面提到出席扎克伯格邀請馬斯克晚宴的Facebook人工智能負(fù)責(zé)人Yann LeCun。他曾開發(fā)出了一種神經(jīng)網(wǎng)絡(luò)，這也是當(dāng)今人工智能領(lǐng)域最重要的工具之一。出席會(huì)議的還包括了2014年出版《超級智能：道路、危險(xiǎn)和戰(zhàn)略》一書的Palo Alto，這本書對人工智能會(huì)造成恐慌的概率進(jìn)行了深入的討論。還包括了前華盛頓大學(xué)計(jì)算機(jī)科學(xué)教授、前西雅圖艾倫人工智能研究所負(fù)責(zé)人的Oren Etzioni、以及大名鼎鼎的DeepMind人工智能研究實(shí)驗(yàn)室負(fù)責(zé)人Demis Hassabis。DeepMind也是谷歌在倫敦建立最有影響的人工智能機(jī)構(gòu)。

　　馬斯克也是如此，他在2015年向馬薩諸塞州的Cambridge研究所捐贈(zèng)了1000萬美元。同年他還出資建立了獨(dú)立人工智能實(shí)驗(yàn)室OpenAI。這家實(shí)驗(yàn)室的目標(biāo)是開發(fā)確保不會(huì)失控的超級智能技術(shù)。顯然這個(gè)目標(biāo)與Bostrom的觀點(diǎn)保持了一致。

　　后來，馬斯克參加了一個(gè)9人的專家小組，專門討論超級智能的問題。每個(gè)小組成員都被問及了超級智能是否最終會(huì)實(shí)現(xiàn)的問題。當(dāng)麥克風(fēng)被擺到馬斯克面前時(shí)，他與前面幾位成員的態(tài)度截然相反。這引發(fā)了與會(huì)者的笑聲，每個(gè)人都知道馬斯克對超級智能的觀點(diǎn)，不僅不可能，而且還非常危險(xiǎn)。

　　在小組討論結(jié)束之后，有人問馬斯克，人類社會(huì)如何才能最完美的與超級智能共存。馬斯克表示人類需要大腦與機(jī)器之間的直接聯(lián)系。幾個(gè)月之后，馬斯克創(chuàng)辦了一家名叫Neuralink的初創(chuàng)公司，該公司的投資總額高達(dá)1億美元，旨在通過電腦與人類大腦的連接創(chuàng)造出所謂的“神經(jīng)界面”。

　　當(dāng)然，關(guān)于人工智能風(fēng)險(xiǎn)的警告已經(jīng)存在多年，但這些預(yù)言家們很少有人擁有馬斯克這樣的地位和說服力。要知道幾乎沒有人花那么多的時(shí)間和資金在這方面，也沒有哪個(gè)國家的技術(shù)有如此復(fù)雜的歷史。

　　就在馬斯克結(jié)束了扎克伯格晚宴后的幾周，他又打電話給Yann LeCun，詢問了那些可以為特斯拉Autopilot技術(shù)工作的頂級人工智能研究人員名單。(最近發(fā)生了兩起特斯拉致命事故，并且都開啟了Autopilot功能。其中一起發(fā)生在2016年5月的佛羅里達(dá)州，另外一起發(fā)生在今年3月)。

　　特斯拉在最近的一次電話財(cái)報(bào)會(huì)議中披露，他并不同意外界對公司財(cái)務(wù)以及汽車質(zhì)量的擔(dān)憂，甚至批評媒體過度關(guān)注事故中死亡的新聞點(diǎn)而忽略的之前自動(dòng)駕駛技術(shù)拯救人類生命的作用。這對一位一直持有反對人工智能技術(shù)、認(rèn)為其具有極大危險(xiǎn)性立場的人來說，是一種了不起的觀點(diǎn)。

　　來自棕櫚泉的分歧

　　在硅谷有句諺語：我們會(huì)高估三年內(nèi)的成果，但低估10年后的成績。

　　2016年1月27日，谷歌旗下的DeepMind實(shí)驗(yàn)室打造了一款可以擊敗人類最頂尖圍棋高手的機(jī)器。在一次對決中，這臺(tái)名叫AlphaGo的機(jī)器擊敗了歐洲圍棋冠軍樊麾，后者在五場對決中完敗。

　　即使是最頂尖的人工智能研究員也認(rèn)為，機(jī)器還需要10年的時(shí)間才能解決這個(gè)問題。圍棋是一種極其復(fù)雜的棋類運(yùn)動(dòng)，它有成千上萬種可能，而最好的選手通常不僅是依靠純粹的計(jì)算，還包括了自己的直覺。在Alpha亮相的兩周之前，LeCun還表示這種機(jī)器是不存在的。

　　但幾個(gè)月之后，AlphaGo又擊敗了李世石，后者是過去十年中這個(gè)星球上最出色的圍棋選手。雖然AlphaGo讓很多人類專家感到困惑，但最終并沒有阻礙自己取得完勝。

　　包括DeepMind和OpenAI負(fù)責(zé)人在內(nèi)的很多研究人員都認(rèn)為，AlphaGo的自我學(xué)習(xí)技術(shù)為“超級智能”提供了一種路徑。他們相信在未來的幾年中，這一領(lǐng)域會(huì)有飛速的進(jìn)步。

　　OpenAI最近“訓(xùn)練”了一種可以玩賽車游戲的系統(tǒng)，并且想要讓它更多的贏得比賽。而正是這種不可預(yù)測性讓人們對人工智能的崛起產(chǎn)生了嚴(yán)重的憂慮，包括超級智能。

　　今年3月，在亞馬遜創(chuàng)始人貝索斯在棕櫚泉舉辦的會(huì)議上，人們對人工智能的擔(dān)憂情緒空前高漲。

　　麻省理工學(xué)院的機(jī)器人專家Rodney Brooks與神經(jīng)學(xué)家、哲學(xué)家和播客作者Sam Harris討論了人工智能的潛在危險(xiǎn)，這是一種比較具有代表性的聲音。根據(jù)《泰晤士報(bào)》獲取的錄音片段來看，這場辯論極具個(gè)人主義。

　　Harris警告說，全世界目前已經(jīng)處于對人工智能的“軍備競賽”中，研究人員可能沒有足夠的時(shí)間來確保超級智能的建立是以安全為前提。

　　但Brooks對此觀點(diǎn)進(jìn)行了反駁，他認(rèn)為Harris的論點(diǎn)并不科學(xué)，而不能被論證對錯(cuò)的結(jié)論，是科學(xué)家們所不能接受的。

　　最終由于討論過于激烈，主持人不得不主動(dòng)中止了談話，并且開始向觀眾提問。艾倫研究所的負(fù)責(zé)人Etzioni也表達(dá)了自己的觀點(diǎn)，他認(rèn)為今天的人工智能系統(tǒng)依然非常有限，花太多時(shí)間去擔(dān)心它的安全性，完全沒有意義。

　　而那些接受馬斯克觀點(diǎn)的人，大多數(shù)是哲學(xué)家、社會(huì)科學(xué)家、作家，而不是在人工智能領(lǐng)域工作的研究人員。人工智能領(lǐng)域的科學(xué)家，都對馬斯克的“超級智能威脅論”的觀點(diǎn)不夠重視。

　　扎克伯格與華盛頓

　　自從三年前的晚宴結(jié)束后，扎克伯格與馬斯克之間的分歧變得越來越大。去年夏天，扎克伯格在Facebook上直播了一段視頻，在視頻中他和妻子在自家后院燒烤。扎克伯格表示馬斯克對人工智能的看法“相當(dāng)不負(fù)責(zé)任”。

　　扎克伯格說，人工智能發(fā)展的早期出現(xiàn)恐慌情緒，可能會(huì)威脅到諸如自動(dòng)駕駛汽車和人工智能醫(yī)療等諸多益處的發(fā)展。

　　“特別是在人工智能方面，我非常樂觀。那些唱反調(diào)的人，去鼓吹世界末日的場景，我真的不明白。”扎克伯格說。

　　扎克伯格的言外之意，就是諷刺馬斯克有些過于超前。“已經(jīng)和馬斯克討論過這件事，他對這個(gè)問題的理解非常有限。”

　　今年4月，扎克伯格在出席國會(huì)聽證會(huì)的時(shí)候解釋了Facebook如何解決隱私問題，其中一種方式就是依靠人工智能。但在他的證詞中，扎克伯格承認(rèn)科學(xué)家們目前還沒有弄清楚某些類型的人工智能是如何進(jìn)行學(xué)習(xí)的。

　　“這將是一個(gè)非常核心的問題，我們?nèi)绾慰吹轿磥?0年及以后的人工智能系統(tǒng)�，F(xiàn)在很多人工智能系統(tǒng)都還是以無人理解人類的方式做出決策。”扎克伯格說。

　　科技巨頭和科學(xué)家可能會(huì)嘲笑馬斯克在人工智能上的“目光短淺”，但事情似乎正朝著他的觀點(diǎn)去發(fā)展。

　　在谷歌內(nèi)部，已經(jīng)有一群人正在探索人工智能技術(shù)的缺陷，這種缺陷可以讓計(jì)算機(jī)系統(tǒng)誤認(rèn)為不存在的東西。研究人員警告稱，自動(dòng)生成效果逼真的圖像及視頻的人工智能系統(tǒng)很快就會(huì)在網(wǎng)上呈現(xiàn)出不存在的東西。

　　但作為DeepMind的創(chuàng)始人，Harris依然認(rèn)為馬斯克的觀點(diǎn)很極端，同時(shí)他對扎克伯格的觀點(diǎn)表示認(rèn)同。雖然他們都認(rèn)為威脅不存在，但Facebook卻已經(jīng)對此問題提出了警告。

　　Hassabis說：“我們需要利用時(shí)間好好考慮，為未來幾十年的發(fā)展做好準(zhǔn)備�，F(xiàn)在的時(shí)間很寶貴，我們要好好利用。”