身穿皮夾克的黃仁勛，站在藍色沖浪板上，擺了幾個沖浪的姿勢。

　　這不是美國「網(wǎng)紅節(jié)」VidCon，而是美國知名數(shù)據(jù)平臺 Snowflake 的開發(fā)者大會上的一景。

　　當?shù)貢r間 6 月 26 日，英偉達創(chuàng)始人黃仁勛和 Snowflake 公司 CEO Frank Slootman 就「如何把生成式 AI 帶給企業(yè)用戶」展開探討。主持人則是前 Greylock 的 GP，現(xiàn)在是投資機構(gòu) Conviction 的創(chuàng)始人。

　　在會上，相較于「東道主」Frank 職業(yè)經(jīng)理人式的老成持重，「皮衣教父」一如既往地語出驚人，不僅稱雙方的合作是「要相愛，不要戰(zhàn)斗」(We are Lovers，not Fighters)，更開玩笑說，為 Snowflake 提供的經(jīng)過訓練的模型，相當于給客戶「打了 1 折」。

　　當天，英偉達與 Snowflake 又共同放出大招：世界*芯片公司與風頭最勁的云數(shù)據(jù)平臺合作，推出共同合作。Snowflake 的用戶可以在數(shù)據(jù)不離開平臺的前提下，直接利用英偉達的預訓練 AI 模型，在云平臺上對自己公司的數(shù)據(jù)進行分析，開發(fā)針對自己數(shù)據(jù)的「AI 應用」。

　　「目前的重大變革來自數(shù)據(jù)+AI 算法+計算引擎。通過我們的合作，我們的能夠?qū)⑦@三點帶到一起�！裹S仁勛講道。

　　Talking Points：

　　大語言模型+企業(yè)專屬數(shù)據(jù)庫=針對特定問題的 AI 應用;

　　以前是 Data going to Work，現(xiàn)在是 Work going to Data，讓計算去到數(shù)據(jù)所在之地，避免數(shù)據(jù)孤島;

　　英偉達提供的預訓練模型，已經(jīng)是花費數(shù)千萬美元、在英偉達 AI 工廠中訓練出來的，所以在 Snowflake 上調(diào)用計算引擎已經(jīng)「打了 0.5 折」;

　　軟件 3.0 時代，基于模型、數(shù)據(jù)庫，企業(yè)能夠在幾天內(nèi)搭建自己的專屬應用;

　　未來企業(yè)能夠生產(chǎn)許多智能代理，并運行它們;

　　對于企業(yè)來說，真正的難題是混合結(jié)構(gòu)的、非結(jié)構(gòu)化的數(shù)據(jù)，如何被調(diào)動。這或許能夠帶來商業(yè)模式的更新。

　　以下為雙方對話主要內(nèi)容，經(jīng)極客公園整理編輯：

　　01

　　談合作：把*的計算引擎，

　　帶給最有價值的數(shù)據(jù)

　　Frank：

　　NIVIDA 目前在歷史上發(fā)揮著重要的作用。對于我們來說，能夠帶來數(shù)據(jù)和大型企業(yè)的關(guān)系。我們需要啟用這項技術(shù)，以及讓整個服務堆棧來有效地使用它。我不想使用「天作之合」來形容，但是對于一個門外漢，是一個很好的機會，進入到這扇機會的大門里。

　　黃仁勛：

　　我們是 lovers，而不是對手。我們要把世界上*的計算引擎帶到世界上最有價值的數(shù)據(jù)�；叵脒^去，我已經(jīng)工作了很長時間，但是還沒有那么老。Frank，你更老一些（笑）。

　　最近，由于眾所周知的原因，數(shù)據(jù)是巨大的，數(shù)據(jù)是寶貴的。它必須是安全的。移動數(shù)據(jù)很困難，數(shù)據(jù)的引力真實存在。因此，對我們來說，把我們的計算引擎帶到 Snowflake 上要容易得多。我們的伙伴關(guān)系是加速 Snowflake，但它也是關(guān)于將人工智能帶到 Snowflake。

　　最核心的是，數(shù)據(jù)+人工智能算法+計算引擎的組合，我們的伙伴關(guān)系將所有這三件事結(jié)合在一起。令人難以置信的有價值的數(shù)據(jù)，令人難以置信的偉大的人工智能，令人難以置信的偉大的計算引擎。

　　我們可以一起做的事情，是幫助客戶使用他們的專有數(shù)據(jù)，并用它來編寫 AI 應用程序。你知道，這里的重大突破是，你*次可以開發(fā)一個大型語言模型。你把它放在你的數(shù)據(jù)前面，然后你與你的數(shù)據(jù)交談，就像你與一個人交談一樣，而這些數(shù)據(jù)將被增強到一個大型語言模型中。

　　大型語言模型加知識庫的組合等于一個人工智能應用。這一點很簡單，一個大型的語言模型將任何數(shù)據(jù)知識庫變成一個應用程序。

　　想想人們所寫的一切驚人的應用程序。它的核心始終是一些有價值的數(shù)據(jù)�，F(xiàn)在你有一個查詢引擎通用查詢引擎在前面，它超級智能，你可以讓它回應你，但你也可以把它連接到一個代理，這是 Langchain 和向量數(shù)據(jù)庫帶來的突破。將數(shù)據(jù)和大語言模型疊加的突破性的東西正在到處發(fā)生，每個人都想做。而 Frank 和我將幫助大家做到這一點。

　　02

　　軟件 3.0：建立 AI 應用，

　　解決一個特定問題

　　主持人：

　　作為投資者來看這種變化，軟件 1.0 是非常確定的代碼，由工程師按照功能寫出來;軟件 2.0 是用仔細收集的標記的訓練數(shù)據(jù)優(yōu)化一個神經(jīng)網(wǎng)絡。

　　你們在幫助人們撬動軟件 3.0，這套基礎(chǔ)模型本身有令人難以置信的能力，但它們?nèi)匀恍枰�與企業(yè)數(shù)據(jù)和自定義數(shù)據(jù)集合作。只是針對它們?nèi)ラ_發(fā)那些應用程序要便宜得多。

　　對于那些深入關(guān)注這個領(lǐng)域的人來說有一個問題，基礎(chǔ)模型是非常泛化，它可以做所有事情嗎？為什么我們需要自定義模型和企業(yè)數(shù)據(jù)呢？

　　Frank：

　　所以我們有非常泛化的模型，可以做詩，處理《了不起的蓋茨比》的做摘要，做數(shù)學問題。

　　但是在商業(yè)中，我們不需要這些，我們需要的是一個 Copilot，在一個非常狹窄，但是非常復雜的數(shù)據(jù)集上獲得非凡的洞見。

　　我們需要了解商業(yè)模式和商業(yè)動態(tài)。這樣的計算上不需要那么昂貴，因為一個模型并不需要在一百萬件事情上接受訓練，只需要知道非常少的、但很深入的主題。

　　舉個例子。我是 Instacart 的董事會成員，我們一個大客戶，像 DoorDash 和所有其他企業(yè)常面臨的問題是，他們不斷增加營銷費用，來了一個客戶，客戶下了一個訂單，客戶要么不回來，要么 90 天后回來，這非常不穩(wěn)定。他們把這稱為流失客戶。

　　這是復雜問題的分析，因為客戶不回來的原因可能有很多。人們想找到這些問題的答案，它在數(shù)據(jù)中，不在一般的互聯(lián)網(wǎng)中，而且可以通過人工智能找出來。這就是可能產(chǎn)生巨大價值的例子。

　　主持人：

　　這些模型應該如何與企業(yè)數(shù)據(jù)互動?

　　黃仁勛：

　　我們的戰(zhàn)略和產(chǎn)品是各種尺寸、*進的預訓練模型，有時你需要創(chuàng)建一個非常大的預訓練模型，以便它可以產(chǎn)生 prompt，來教更小的模型。

　　而較小的模型幾乎可以在任何設(shè)備運行，也許延遲非常低。然而它的泛化能力并不高，zero shot(零樣本學習)能力可能更有限。

　　因此，你可能有幾種不同類型不同大小的模型，但在每一種情況下，你必須做監(jiān)督的微調(diào)，你必須做 RLHF(人類反饋的強化學習)，以便它與你的目標和原則保持一致，你需要用矢量數(shù)據(jù)庫之類的東西來增強它，所以所有這些都匯集在一個平臺上。我們有技能、知識和基本平臺，幫助他們創(chuàng)建自己的人工智能，然后將其與 Snowflake 中的數(shù)據(jù)連接起來。

　　現(xiàn)在，每個企業(yè)客戶的目標不應該是思考我如何建立一個大型的語言模型，他們的目標應該是，我如何建立一個人工智能應用程序來解決特定的問題？那個應用可能需要 17 個問題來做 prompt，最終得出正確的答案。然后你可能會說，我想寫一個程序，它可能是一個 SQL 程序，可能是一個 Python 程序，這樣我就可以在未來自動做這個。

　　你還是要引導這個人工智能，讓他最終能給你正確的答案。但在那之后，你可以創(chuàng)建一個應用程序，可以作為一個代理(Agent)24/7 不間斷地運行，尋找相關(guān)情況，并提前向你匯報。所以我們的工作就是幫助客戶建立這些人工智能的應用，這些應用是有安全護欄的、具體的、定制的。

　　最終，我們在未來都將成為智能制造商，當然雇用員工，但我們將創(chuàng)建一大堆代理，它們可以用 Lang Chain 類似的東西來創(chuàng)建，連接模型、知識庫、其他 API，在云中部署，并將其連接到所有的 Snowflake 數(shù)據(jù)。

　　你可以規(guī)�；�地操作這些 AI，并不斷地完善這些 AI。因此，我們每個人都將制造 AI、運行 AI 工廠。我們將把基礎(chǔ)設(shè)施放在 Snowflake 的數(shù)據(jù)庫，客戶可以在那里使用他們的數(shù)據(jù)，訓練和開發(fā)他們的模型，操作他們的 AI，因此，Snowflake 將是你的數(shù)據(jù)存儲庫和銀行。

　　有了自己的數(shù)據(jù)金礦，所有人都將在 Snowflake 上運行 AI 工廠。這是目標。

　　03

　　「核彈」雖貴，

　　直接用模型相當于「打 1 折」

　　黃仁勛：

　　我們在 NIVIDA 建立了有五個 AI 工廠，其中四個是世界前 500 名的超級計算機，另一個正在上線。我們使用這些超級計算機來做預訓練模型。因此，當你在 Snowflake 中使用我們的 Nemo AI 基礎(chǔ)服務時，你將得到一個*進的預訓練模型，已經(jīng)有幾千萬美元的費用投入其中，更不用說研發(fā)投入了。所以它是預先訓練好的。

　　然后有一大堆其他的模型圍繞著它，這些模型用于微調(diào)、RLHF。所有這些模型的訓練成本都要高得多。

　　因此，現(xiàn)在你已經(jīng)將預訓練模型適應于你的功能，適應于你的護欄，優(yōu)化你希望它具有的技能或功能類型，用你的數(shù)據(jù)增強。因此，這將是一個更具成本效益的方法。

　　更重要的是，在幾天內(nèi)，而不是幾個月。你可以在 Snowflake 開發(fā)與你的數(shù)據(jù)連接的人工智能應用程序。

　　你應該能夠在未來快速建立人工智能應用程序。

　　因為我們現(xiàn)在看到它正在實時發(fā)生。已經(jīng)有一些應用能夠讓你和數(shù)據(jù)聊天，比如 ChatPDF。

　　主持人：

　　是的，在軟件 3.0 時代，95% 的培訓費用已經(jīng)由別人承擔了。

　　黃仁勛：

　　(笑)是的，95% 的折扣，我無法想象一個更好的交易。

　　主持人：

　　這是真正的動力，作為投資人，我看到在分析、自動化、法律等領(lǐng)域的非常年輕的公司，他們的應用已經(jīng)在六個月或更短的時間內(nèi)實現(xiàn)了真正的商業(yè)價值。其中一部分原因是他們從這些預先訓練好的模型開始，這對企業(yè)來說是一個巨大的機會。

　　黃仁勛：

　　每家公司都會有數(shù)百個，甚至 1000 個人工智能應用程序，只是與你公司的各種數(shù)據(jù)相連。所以，我們所有人都必須善于構(gòu)建這些東西。

　　04

　　原來是數(shù)據(jù)找業(yè)務，

　　現(xiàn)在是業(yè)務找數(shù)據(jù)

　　主持人：

　　我一直從大企業(yè)參與者聽到的一個問題是，我們必須去投資人工智能，我們需要一個新的堆棧(Stack)嗎?應該如何考慮與我們現(xiàn)有的數(shù)據(jù)堆棧相連?

　　Frank：

　　我認為它在不斷發(fā)展。模型們正逐漸變得更簡潔、安全、更好地被管理。所以，我們沒有一個真正明確的觀點，這就是每個人都會使用的參考架構(gòu)?有些人將有一些中央服務的設(shè)置。微軟有 Azure 中的人工智能版本，它們的很多客戶正在與 Azure 進行互動。

　　但我們不清楚什么模型將主導，我們認為市場將在使用難易、成本這些事上進行自我排序。現(xiàn)在僅僅是開始，不是最終的狀態(tài)。

　　安全部門也會參與進來，關(guān)于版權(quán)的問題會被革新�，F(xiàn)在我們對技術(shù)很著迷，現(xiàn)實中的問題也會被同時處理。

　　黃仁勛：

　　我們現(xiàn)在正經(jīng)歷 60 年來*次根本性的計算平臺變革。如果你剛剛讀了 IBM System 360 的新聞稿，你會聽到關(guān)于中央處理單元、IO 子系統(tǒng)、DMA 控制器、虛擬內(nèi)存、多任務、可擴展計算向前和向后端兼容，而這些概念，實際都是 1964 年的東西，而這些概念幫助我們在過去六十年來，不斷進行 CPU 擴展。

　　這樣的擴展已經(jīng)進行了 60 年了，但這已經(jīng)走到了盡頭。現(xiàn)在大家都明白，我們無法再擴展 CPU 了，突然之間，軟件變化了。軟件的編寫方式，軟件的操作方式，以及軟件能做的事情都與以前有很大的不同。我們稱之前的軟件為軟件 2.0�，F(xiàn)在是軟件 3.0。

　　事實就是，計算已經(jīng)從根本上改變了。我們看到兩個基本的動力在同時發(fā)生，這也是為什么現(xiàn)在事情正在發(fā)生劇烈震蕩。

　　一方面，你不能再不斷地購買 CPU。如果你明年再買一大堆 CPU，你的計算吞吐量將不會增加。因為 CPU 擴展的終點已經(jīng)到來了。你會多花一大堆錢，你不會得到更多的吞吐量。因此，答案是你必須去加速（英偉達加速計算平臺）。圖靈獎獲得者談到了加速，英偉達開創(chuàng)了加速，加速計算現(xiàn)在已經(jīng)到來。

　　另一方面是，計算機的整個操作系統(tǒng)發(fā)生了深刻的改變。我們有一個叫 NIVIDA AI Enterprise 的層，而其中的數(shù)據(jù)處理、訓練、推理部署，整個現(xiàn)在已經(jīng)整合到或正在整合到 Snowflake 中，因此，從開始數(shù)據(jù)處理，一直到最后的大模型部署，整個背后的計算引擎都被加速了。我們將賦能 Snowflake，在這里你將能夠做得更多，而且你將能夠用更少的資源做到更多。

　　如果你去任何一個云，你會看到 NVIDIA GPU 是其中最昂貴的計算實體。但是，如果你把一個工作負載放在上面，你會發(fā)現(xiàn)我們做得非�？�。就好像你得到了一個 95% 的折扣。我們是最昂貴的計算實體，但我們是*成本效益的 TCO。

　　所以，如果你的工作是運行工作負載，可能是訓練大型語言模型，可能是微調(diào)大型語言模型，如果你想這樣做，一定要進行加速。

　　加速每一個工作負載，這就是整個棧的重塑。處理器因此發(fā)生變化，操作系統(tǒng)因此不同，大的語言模型是不同的，你寫 AI 應用程序的方式是不同的。

　　未來，我們都要寫應用。我們都要把我們的 prompt 和我們的上下文，和少數(shù)幾個 Python 命令連接起來，連接到大語言模型和自己的數(shù)據(jù)庫或者公司的數(shù)據(jù)庫中，開發(fā)自己的應用程序。每個人都將成為一個應用程序的開發(fā)者。

　　主持人：

　　但不變的是，它仍然是你的數(shù)據(jù)。你仍然需要對它進行微調(diào)。

　　Frank：

　　原來我們都覺得更快的總是更貴的。實際上突然之間，更快的是更便宜的，這是一種反直覺的東西。因此，有時人們想減少供應，以為這樣更便宜，結(jié)果卻更貴。

　　另一個與之前矛盾的是，原來都是數(shù)據(jù)去找業(yè)務（data  going to work)，而現(xiàn)在，業(yè)務去找數(shù)據(jù) (work going to data)。過去的六十年，或者更多年，我們一直在讓數(shù)據(jù)去找業(yè)務，這導致了大規(guī)模的信息孤島。而如果你想擁有一個 AI 工廠，用之前的做法將是非常困難的。我們必須把計算帶到數(shù)據(jù)所在的地方。我認為我們現(xiàn)在正在做的就是正確的方式。

　　05

　　企業(yè)如何獲得

　　最快和*的價值

　　Frank：

　　最快和獲得*價值其實是兩個很不一樣的問題。

　　最快的話，你很快能夠看到，數(shù)據(jù)庫各處都上線了人工智能增強的搜索方式，因為這是最容易增加的功能。現(xiàn)在，甚至一個文盲都能從數(shù)據(jù)中獲取有價值的信息，這真非常不可思議，這是*的交互民主化。搜索功能極大增強，你就向主界面提一個問題，它們可以把這些問題帶到數(shù)據(jù)自己進行查詢。這是掛在低處的果實，最容易的，我們認為這是階段一。

　　接下來，我們就開始真正關(guān)注真正的難題，就是專有的企業(yè)數(shù)據(jù)，混合結(jié)構(gòu)化的、非結(jié)構(gòu)化的，所有這些，我們?nèi)绾握{(diào)動這些數(shù)據(jù)？

　　我前面已經(jīng)提到了 to C 企業(yè)面臨的流失率問題，供應鏈管理方面的問題。當供應鏈特別復雜的時候，如果有一個事件發(fā)生了，我們?nèi)绾沃匦抡{(diào)整一個供應鏈，使其運轉(zhuǎn)?我現(xiàn)在該怎么做?供應鏈是由很多不同的實體組成的，不是單一的企業(yè)。歷史上，這是一個從未被計算解決過的問題。供應鏈管理從來沒有形成過一個平臺，它幾乎是一個電子郵件，電子表格形成的體系，除了一些小的例外。因此，這是極其令人興奮的。

　　或者我們可以重新計算大型的呼叫中心的投資，優(yōu)化零售的定價，像我說的，這是一個大企業(yè)的 CEO 們一直期待的重新定義商業(yè)模式，是真正的潛力。

　　06

　　對企業(yè)的建議：

　　黃仁勛：

　　我會問自己，*，什么是我*最有價值的數(shù)據(jù)庫？第二件事，我會問自己，如果我有一個超級、超級、超級聰明的人，而企業(yè)的一切數(shù)據(jù)都經(jīng)過那個超級智能，我會問那個人什么？

　　根據(jù)每個人的公司，這是不同的。Frank 的公司客戶數(shù)據(jù)庫非常重要，因為他有很多客戶。而我自己的公司，沒有那么多客戶，但對我的公司而言，我的供應鏈超級復雜，而且我的設(shè)計數(shù)據(jù)庫也超級復雜。

　　對 NIVIDA 來說，沒有人工智能我們已經(jīng)無法建造出GPU。因為我們的工程師都不可能像AI那樣，為我們進行大量的迭代和探索。因此，當我們提出人工智能的時候，*個應用在我們自己的公司。而且，所以 Hopper(英偉達超算產(chǎn)品)不可能沒有人工智能的設(shè)計。

　　我們也會將我們自己的 AI 應用于我們自己的數(shù)據(jù)中。我們的錯誤數(shù)據(jù)庫就是一個*的應用場景。如果你看一下 NIVIDA AI 的代碼量，我們有幾百個軟件包，結(jié)合在一起，支持一個應用程序能夠跑起來。我們現(xiàn)在正在努力的一些事情，就是如何使用 AI 去弄清楚如何給它打安全補丁，如何*地維護它，這樣我們就可以不必干擾整個上層應用層的同時，能夠向后端兼容。

　　這都是 AI 能夠為你提供答案的。我們可以用一個大語言模型去回答這些問題，為我們找到答案，或者向我們揭示一些問題，然后工程師就可以再將其修好�；蛘� AI 可以推薦一個修復方法，人類工程師再去確認這是不是一個好的修復方法。

　　我覺得不是所有人都認識到了他們每天都在處理的數(shù)據(jù)里面，其實蘊含著多少智能、洞見和影響力沒有被發(fā)掘。這就是為什么我們所有人都要參與進來，幫助帶來這樣的未來。

　　現(xiàn)在，你儲存在數(shù)據(jù)倉庫的數(shù)據(jù)，*次可以被連接進人工智能工廠。你將能夠生產(chǎn)信息情報，這是世界上最有價值的商品。你坐在一個自然資源的金礦上——你公司的專有數(shù)據(jù)，而我們現(xiàn)在把它連接到一個人工智能引擎上，另一端每天直接產(chǎn)生信息情報，以難以置信的情報量從另一端涌出，甚至在你睡覺時也在源源不斷地產(chǎn)出。這是有史以來*的事情。