人工智能成為科技行業(yè)最火的板塊，有關(guān)人工智能的未來(lái)應(yīng)用和潛在危險(xiǎn)也引發(fā)了科技大腕的口水之爭(zhēng)，許多人擔(dān)心人工智能未來(lái)給人類社會(huì)造成巨大威脅和風(fēng)險(xiǎn)。據(jù)外媒最新消息，馬斯克旗下的一家人工智能研發(fā)公司，已經(jīng)研發(fā)出能夠?qū)懶侣労托≌f(shuō)的AI機(jī)器人，但是由于擔(dān)心技術(shù)被濫用，他們暫時(shí)不敢公布研究成果。

　　據(jù)國(guó)外媒體報(bào)道，由埃隆·馬斯克(Elon Musk)支持的非營(yíng)利性人工智能研究公司OpenAI表示，其名為GPT2的新人工智能模型非常好，但是被惡意使用的風(fēng)險(xiǎn)如此之高，以至于它正在打破向公眾公布全部研究成果的常規(guī)慣例，以便有更多時(shí)間討論技術(shù)突破帶來(lái)的各種后果。

　　GPT2的核心是一個(gè)文本生成器。人們向人工智能系統(tǒng)輸入從幾個(gè)單詞到整個(gè)頁(yè)面的任何文本，并要求根據(jù)對(duì)下一步將發(fā)生什么的預(yù)測(cè)來(lái)編寫(xiě)接下來(lái)的幾個(gè)句子。該系統(tǒng)正在突破人們認(rèn)為可能的極限范圍(無(wú)論是在產(chǎn)出的文字質(zhì)量方面，還是在廣泛的潛在用途方面)。

　　當(dāng)用來(lái)簡(jiǎn)單地生成新的文本時(shí)，GPT2能夠?qū)懗雠c它的風(fēng)格和主題相匹配的看似合理的段落。它很少顯示出任何與以前的人工智能系統(tǒng)不同的奇怪之處，比如在段落中途忘記寫(xiě)些什么，或者破壞長(zhǎng)句的語(yǔ)法。

　　如果向這一人工智能系統(tǒng)輸入喬治·奧威爾(George Orwell)的《一九八四》小說(shuō)的開(kāi)場(chǎng)白——“四月份是一個(gè)明亮的寒冷的一天，時(shí)鐘敲了十三下”，隨后這套系統(tǒng)將會(huì)識(shí)別出模糊的未來(lái)主義基調(diào)和小說(shuō)風(fēng)格，并繼續(xù)寫(xiě)出以下的句子：“在去西雅圖找新工作的路上，我坐在車(chē)?yán)�。我加滿油，把鑰匙放進(jìn)去，然后就讓它跑路。我只是想象這一天會(huì)是什么樣子。一百年后的2045年，我在中國(guó)農(nóng)村貧困地區(qū)的一所學(xué)校當(dāng)老師。我開(kāi)始教中國(guó)歷史和科學(xué)史課程。”

　　如果把英國(guó)“衛(wèi)報(bào)”(Guardian)有關(guān)英國(guó)退歐的報(bào)道的前幾段提供給它，它的產(chǎn)出就是可信的報(bào)紙新聞文字，比如新聞文章囊括了杰里米·科爾賓(Jeremy Corbyn)的“引述”，提到愛(ài)爾蘭邊境，以及英國(guó)首相發(fā)言人的回答。

　　其中一個(gè)完全是人工智能撰寫(xiě)的段落寫(xiě)道：“特里莎梅首相的一位發(fā)言人被要求澄清這些報(bào)道，他說(shuō)：‘首相已經(jīng)明確表示，她的意圖是盡快離開(kāi)歐盟，這將屬于女王上周講話中確認(rèn)的她的談判授權(quán)范圍。’”

　　從研究的角度來(lái)看，GPT2在兩個(gè)方面是富有開(kāi)創(chuàng)性的。OpenAI的研究主管達(dá)里奧·阿莫迪(Dario Amodei)說(shuō)，其中之一就是它的規(guī)模。

　　與以前最先進(jìn)的人工智能模型相比，GPT2模型“大12倍，數(shù)據(jù)集大15倍，范圍更廣”。它是在一個(gè)包含大約1000萬(wàn)篇文章的數(shù)據(jù)集上進(jìn)行訓(xùn)練的，這些文章是通過(guò)在社交新聞網(wǎng)站Reddit上投票超過(guò)3票的新聞鏈接而選出的。大量的文本數(shù)據(jù)多達(dá)40GB，足以存儲(chǔ)大約35000份《白鯨》小說(shuō)的全部文字。

　　GPT2訓(xùn)練的數(shù)據(jù)量直接影響到它的質(zhì)量，它在理解書(shū)面文本方面有了更多的知識(shí)。這也導(dǎo)致了第二次突破。GPT2比以前的文本模型更通用。通過(guò)分析輸入的文本，它可以執(zhí)行翻譯和摘要等任務(wù)，并通過(guò)簡(jiǎn)單的閱讀理解測(cè)試，通常表現(xiàn)得與專門(mén)為這些任務(wù)構(gòu)建的其他人工智能系統(tǒng)一樣好或更好。

　　然而，這種質(zhì)量也導(dǎo)致OpenAI改變了其推動(dòng)人工智能向前發(fā)展的慣例，并考慮將GPT2技術(shù)關(guān)在門(mén)內(nèi)，評(píng)估惡意用戶可能會(huì)對(duì)它做些什么。

　　“我們需要進(jìn)行實(shí)驗(yàn)，找出他們能做什么不能做什么，”該研究機(jī)構(gòu)的政策負(fù)責(zé)人杰克·克拉克(Jack Clark)說(shuō)。“如果你不能預(yù)見(jiàn)到一個(gè)人工智能模型的所有能力，你就必須督促它看看它能做些什么。有更多的人比我們更善于思考它可以惡意地做些什么。”

　　為了說(shuō)明這意味著什么，OpenAI制作了GPT2的一個(gè)版本，只做了一些適度的調(diào)整，這些調(diào)整可以用來(lái)對(duì)文字產(chǎn)品產(chǎn)生無(wú)限的正面或負(fù)面評(píng)價(jià)。垃圾郵件和假新聞是另外兩個(gè)明顯的潛在缺點(diǎn)，這也是人工智能未經(jīng)過(guò)濾的本質(zhì)。由于它是在互聯(lián)網(wǎng)上訓(xùn)練的，不難鼓勵(lì)它產(chǎn)生偏執(zhí)的文本、陰謀論等等。

　　據(jù)悉，OpenAI的目標(biāo)是展示未來(lái)一兩年內(nèi)人工智能的主流技術(shù)發(fā)展。“我有一個(gè)術(shù)語(yǔ)來(lái)形容這件事。來(lái)自地獄的自動(dòng)扶梯，”克拉克說(shuō)，“它總是使新科技在成本上降低，在價(jià)格上降低。你可以用來(lái)控制技術(shù)的規(guī)則已經(jīng)從根本上改變了。

　　克拉克說(shuō)：“我們不是說(shuō)我們知道在這里應(yīng)該做什么，我們不是在說(shuō)‘這就是方法’，…，我們正試圖在這里發(fā)展更嚴(yán)格的思想。當(dāng)我們穿越新環(huán)境時(shí)，我們正在努力修筑這條路。”