這個月,PPTV創(chuàng)始人姚欣再次站到了聚光燈下,組織了一場分布式云計算論壇,向外界揭開了他的新篇章。
姚欣的第二次創(chuàng)業(yè),瞄準了云服務,要打造 AI 時代的基礎設施。
但姿勢獨特:公司沒有自建IDC和購買GPU,而是通過獨特的方式成為了全國最多節(jié)點的云服務商。
成立六年來,PPIO派歐云已獲三輪共4億元的融資,包括百川智能創(chuàng)始人王小川、迅雷創(chuàng)始人程浩、前微軟Azure中國總裁申元慶在內(nèi)的19位CEO都參與了天使投資。
姚欣,曾是互聯(lián)網(wǎng)視頻時代的開拓者,2004年,他在華中科技大學讀研時輟學創(chuàng)業(yè),發(fā)明了P2P-Streaming協(xié)議,創(chuàng)辦了覆蓋全球4.5億用戶的視頻平臺PPTV,比YouTube還早1年。
PPTV在PC時代創(chuàng)立,移動互聯(lián)網(wǎng)早期就迅速崛起,2012年位列中國視頻網(wǎng)站用戶規(guī)模第2名。然而,2014年,姚欣將PPTV出售,似乎淡出了公眾視野。
姚欣重回到公共視野的當下,我們不禁想問,在市場接近飽和的環(huán)境下,為何姚欣堅持要選擇云服務賽道?又因何受到投資者如此青睞?
一方面,時勢造英雄,2020年Gartner開始推崇的分布式云概念,給了姚欣這個“分布式信徒”難得的發(fā)展機遇;
另一方面,英雄造時勢,姚欣也前瞻性地選擇跳過訓練算力業(yè)務,全部聚焦發(fā)展分布式推理算力,下注AI應用普及對于推理算力的巨大需求。
當分布式計算遇見AI Infra
要理解姚欣的再創(chuàng)業(yè),可以先從這樣的具體案例中感知——
國內(nèi)某Top3小說推廣APP,開始為創(chuàng)作者提供AIGC生圖功能,吸引了更多的作者和讀者。
AI技術帶來的流量增長自然是一件好事,但與此同時帶來的運維壓力也陡然上升。
而且隨著這樣的新功能被更多人所熟知,后臺服務器性能也遇到了瓶頸,高峰時期生成速度明顯變慢的情況開始逐步顯現(xiàn)。
在過去,解決的方式簡單粗暴——擴容,但一味地選擇這種方式,實際并非長久之計,不僅代價高昂,而且在面對不確定性增長時顯得力不從心。
而PPIO的分布式架構(gòu),就是針對這種場景和痛點而生。
這不僅是一種技術選擇,更是一種為未來打下基礎的架構(gòu)方案。
它打破了傳統(tǒng)集中式架構(gòu)的瓶頸,不僅為企業(yè)大幅降低了運維壓力,還將系統(tǒng)的處理效率提升到了一個全新的高度。
利用PPIO提供的AI推理平臺,免去了自行部署后臺服務的繁冗過程,通過API即可調(diào)用服務,不再需要自行運維,成本直接減少了40%。
速度方面,得益于PPIO龐大的分布式算力網(wǎng)絡,網(wǎng)絡擁堵現(xiàn)象大幅降低。
據(jù)了解,采用PPIO服務后,該小說APP的平均生圖時間從10秒縮短到了2秒,生產(chǎn)效率提升了50%。
姚欣還介紹,如果海外AI應用使用其推理服務,能夠獲得比硅谷還要高的綜合性價比。
這得益于PPIO遍布全球的分布式云服務網(wǎng)絡,無論用戶身處何地,總能找到近距離的算力節(jié)點,獲得20毫秒級的低延遲體驗。
姚欣選擇分布式推理并非偶然,而是基于他多年對整個行業(yè)的深入理解。
根據(jù)TIRIAS research的研究,隨著AI的快速發(fā)展,未來算力需求的構(gòu)成將發(fā)生重大變化,95%的算力需求來自推理,訓練算力僅占5%。推理將逐漸成為AI計算的核心。
姚欣看準了AI時代算力結(jié)構(gòu)轉(zhuǎn)型的機遇,將重心放在推理側(cè)。
推理計算的核心在于實時處理用戶請求,低延遲和高效率是它的生命線。
而分布式技術,恰恰是實現(xiàn)這一需求的不二之選——
通過將推理計算分布到全球多個節(jié)點,PPIO能夠最大限度地減少到用戶的時延;
同時根據(jù)不同區(qū)域的需求波動智能調(diào)度算力資源,確保全局計算效率始終保持最佳狀態(tài)。
分布式推理不僅是一次技術創(chuàng)新,更是一種新的商業(yè)模式,讓中小企業(yè)和開發(fā)者不再為算力門檻所困,讓他們也能走進AI世界。
相比之下,傳統(tǒng)的大型數(shù)據(jù)中心雖然具備強大的處理能力,但其成本高昂,不僅包括硬件設備的購置和系統(tǒng)維護,還包括高度集中帶來的大量散熱能耗的需求。
分布式云通過調(diào)度分布在全國各地的中小型數(shù)據(jù)中心或邊緣計算節(jié)點,充分利用當?shù)馗咝詢r比能源和算力資源,降低總體運營成本。
當然,姚欣還提出了“三年內(nèi)降本1000倍”的期望,要想成功實現(xiàn),除了龐大的分布式算力網(wǎng)絡,還要有更多創(chuàng)新技術的支撐。
為此,姚欣給出了他的答案——Serverless彈性調(diào)度和推理加速優(yōu)化。
其中,Serverless架構(gòu)被用來解決跨區(qū)域服務過程中節(jié)點數(shù)量龐大、用戶請求復雜的問題。
該架構(gòu)通過智能整合分布式算力,自動實現(xiàn)彈性伸縮與按需付費。
用戶可將自有鏡像或模型托管到該平臺,不用再擔心海量用戶的并發(fā)響應問題,亦無需親自管理和維護大量算力服務器。
△派歐算力云Serverless產(chǎn)品自動彈性觸發(fā)時延和單實例冷啟動速度
除此之外,PPIO還通過算法、系統(tǒng)和硬件的協(xié)同創(chuàng)新,推出了針對大語言模型特點的推理加速引擎。
借助全鏈路FP8量化、KV Cache稀疏壓縮算法,以及投機采樣等技術,顯著提升了推理的加速性能,打破了顯存、算力和帶寬的限制,釋放了大模型推理的更大潛能。
此次的分布式云計算論壇,標志著姚欣的第二次創(chuàng)業(yè)取得了階段性的成功。
這背后除了有姚欣自己對行業(yè)的獨到見解,還有分布式云自身與云服務發(fā)展形勢的契合。
分布式云的天時地利
在國內(nèi)的云服務領域,有很多我們耳熟能詳?shù)倪x手,華為、百度、騰訊、阿里等眾多互聯(lián)網(wǎng)大廠,都擁有自己的云服務產(chǎn)品。
但這些云服務無一例外都采用了集中式的方式,更加襯托出了姚欣做的分布式云系統(tǒng)的別具一格。
不過,姚欣強調(diào),分布式與集中式并非對立的選擇,而是相互補充的合作模式。
技術上看,PPIO采用了集中式云服務也在用的基于K8S技術的云原生架構(gòu),能夠與集中式云進行標準的互聯(lián)互通;
商業(yè)模式上看,用戶也不會過度關注自己的產(chǎn)品究竟運行在哪種云,他們更在意的,是最終的運行效果。
歸根結(jié)底,究竟應該采用哪種運算方式,取決于具體的應用場景。
在競爭與合作共存的格局當中,分布式云的獨特優(yōu)勢在于,它能夠解決集中式云難以應付的需求。
隨著AI新應用的大量落地,產(chǎn)生了大量的實時數(shù)據(jù)計算和海量IO吞吐,AI帶來的新算力需求以超越摩爾定律的方式不斷膨脹。
正是這些大量實時計算需求的涌現(xiàn),讓傳統(tǒng)的集中式算力中心顯得捉襟見肘,但這真的是因為算力總量不夠用嗎?
答案是否定的。
據(jù)統(tǒng)計,我國有47%,也就是將近一半的算力都處于閑置狀態(tài),未被充分利用。
造成這一現(xiàn)象的核心原因,是算力需求與供給的不匹配。數(shù)據(jù)中心和超算中心的建設過于超前,但數(shù)據(jù)產(chǎn)生地與算力節(jié)點往往相距甚遠,造成了算力不足的表象。
所以,算力唯有“去中心化”,下沉分布到網(wǎng)絡側(cè)邊緣,才能解決時延和海量數(shù)據(jù)IO吞吐問題。
PPIO做的就是這樣的工作,其本身不生產(chǎn)算力,而是作為空閑算力的“搬運工”和“指揮員”,解決算力時空分布不均、利用效率低下的窘境。
當然,姚欣的愿景不僅限于當前的云服務,他提出了算力發(fā)展的三條曲線,目前已經(jīng)基本建成的,是其中的前兩條——邊緣云(紅色)和算力云(綠色)。
去年,PPIO更是根據(jù)這兩條“曲線”,將公司的業(yè)務線拆分成了兩個事業(yè)部。
而“第三條曲線”,則是實現(xiàn)各個組織機構(gòu)間,算力資源的實時調(diào)度和自由交易。
姚欣認為,從技術角度看,業(yè)界已經(jīng)有能力實現(xiàn)這種模式,但在產(chǎn)業(yè)共識和商業(yè)模式上,還需要參與者的共同努力。
但就像從云計算誕生之初,人們都不相信公有云,到后來公共云服務逐漸成為主流一樣,這種“算力共享”也將經(jīng)歷一個形成共識的過程。
而之所以選擇這條與眾不同的創(chuàng)業(yè)之路,源自姚欣豐富的創(chuàng)業(yè)經(jīng)歷與技術信仰。
創(chuàng)業(yè)者姚欣:立志把分布式技術寫進教科書
公眾眼中的姚欣有很多標簽:大學創(chuàng)業(yè)、網(wǎng)絡電視、互聯(lián)網(wǎng)、投資人等。
然而,常常被忽略的是,他在技術方面同樣擁有著深厚的積淀。
事實上,姚欣自從高中時起就是一名學霸。
他曾連續(xù)兩年獲得全國奧林匹克計算機競賽一等獎,1999年被保送進入華中理工大學(現(xiàn)在的華中科大)。
也正是在大學生涯之中,姚欣接觸到了分布式計算這個概念——他的老師金海教授(華中科技大學教授,中國計算機學會副理事長),正是將這一概念帶入中國的第一人。
金海教授早在2002年就開始負責中國教育網(wǎng)的網(wǎng)格計算(分布式計算的一種)建設,2007年也是第一批從事虛擬化和云計算研究的科研專家。
一直到現(xiàn)在參與設計國家提出的“東數(shù)西算”和算力網(wǎng)絡,是中國分布式計算領域的領軍人物。
當時,金海教授就跟姚欣講了算力大眾化的愿景:
當有一天網(wǎng)格(當時的叫法)足夠分布的時候,我們每個人用算力就像用電用自來水一樣,隨時隨地接上插頭、打開水龍頭就可以使用到。
金老師所描繪的技術普惠理念深深影響了姚欣,并植入了他的創(chuàng)業(yè)初心。
除了金海教授讓姚欣接觸到了分布式計算,姚欣的創(chuàng)業(yè)的另一大源動力是他對身邊事物的觀察。
姚欣讀大學時正值2002年世界杯,在校園中觀看足球比賽就成了一個火熱的需求。
其間,姚欣發(fā)現(xiàn)了一個不尋常的現(xiàn)象——
像HTTP、FTP這樣的傳輸協(xié)議,用的人越多速度也就越慢,但如果用BitTorrent這種P2P的傳輸方式,用的人越多,速度反而越快。
網(wǎng)格計算需要連接很大的計算節(jié)點,但可以整合每個人電腦的上行帶寬,構(gòu)建一個分布式的存儲和傳輸?shù)木W(wǎng)絡,提供基于P2P技術的網(wǎng)絡電視服務。
這一想法促使姚欣創(chuàng)建了PPLive(PPTV的前身),起初PPLive只是一個簡陋到?jīng)]有界面的學生作品,但是很快就獲得了過億的下載量。
PPTV的成功,毫無疑問依賴于技術優(yōu)勢。相比(當時的)優(yōu)酷、土豆等競爭對手,PPTV的視頻處理成本僅為其1%。
后來,賣掉了取得成功的PPTV后,姚欣開始重新思考自己的未來目標。
他不再滿足于“一人的成功”,而是想將其轉(zhuǎn)變?yōu)?ldquo;眾人的成功”,希望通過聚集更多人的力量來實現(xiàn)改變生活的技術創(chuàng)新。
從視頻行業(yè)中暫時淡出的姚欣,也始終未曾遠離分布式計算的技術愿景——
在PPTV的成功背后,正是他對資源整合和計算效率提升的深刻理解,而這些理念也是他對分布式計算長久關注的理論基礎。
這也直接推動了他后續(xù)的技術創(chuàng)業(yè)選擇,并在分布式推理領域的發(fā)展中得到了實踐。
在姚欣看來,創(chuàng)業(yè)者最重要的,不是隨大流,不是去模仿,而是要有足夠的差異化和獨特競爭力。
所以即使在今天看來,PPIO選擇的分布式賽道,依然如同PPTV一樣,顯得十分“另類”而新穎;
自己不建大型數(shù)據(jù)中心,而是整合利用大量的閑置數(shù)據(jù)中心,這種商業(yè)模式也是獨樹一幟。
從P2P-Streaming到分布式推理,姚欣的創(chuàng)業(yè)路徑看似從互聯(lián)網(wǎng)內(nèi)容平臺轉(zhuǎn)向了技術基礎設施,但實際上,這兩者本質(zhì)上是一脈相承的。
姚欣始終在探索如何通過網(wǎng)絡的集體力量提升效率、降低成本,并以分布式技術為基礎,解決計算中的瓶頸問題。
如今,他將同樣的理念應用于AI推理領域,專注于解決算力供需不平衡的問題。
走到今天,姚欣的志向已經(jīng)不只是把企業(yè)做大做強,而是希望能夠開創(chuàng)出具有時代意義、能夠被寫進計算機教科書的技術。
正是出于這一理想,PPIO聘請了金海教授擔任公司技術委員會主席。
金海教授將為公司技術團隊提供深入全面的指導,將分布式云技術邊界進一步拓展,推動更多應用的落地,讓更多創(chuàng)業(yè)者輕裝上陣。
One More Thing
在剛剛結(jié)束的2024分布式云計算論壇上,PPIO除了推出了AI算力云產(chǎn)品外,還聯(lián)合PingCAP、Zilliz、AscentStream和CSDN,共同啟動了“Pioneers AI初創(chuàng)加速計劃”。
面向AI初創(chuàng)企業(yè)和開發(fā)者,提供包括分布式算力、分布式關系型數(shù)據(jù)庫、分布式向量數(shù)據(jù)庫、分布式消息隊列、開發(fā)者社區(qū)等全面的資源和技術服務,助力初創(chuàng)團隊在分布式云上實現(xiàn)快速成長,加速其創(chuàng)新成果的落地。
正如姚欣在分布式云計算論壇上說的那樣,他的終極目標不僅是推動分布式云成為廣泛應用的技術標準,更是通過持續(xù)創(chuàng)新,幫助更多企業(yè)和開發(fā)者在AI時代中獲得成功。
我們站在AI時代的門檻前,正在見證一批又一批滿懷夢想的開拓者紛紛涌現(xiàn)。
正如當年那個24歲的姚欣一樣,他們需要的,不僅僅是資金和技術,更需要來自同路人、來自先行者的經(jīng)驗和鼓勵,就像當年的金海教授一樣。
現(xiàn)在,輪到了我們承擔起這樣的使命,用分布式的力量,做新一代應用的基礎設施,支撐起新時代的開拓者砥礪前行!
榜單收錄、高管收錄、融資收錄、活動收錄可發(fā)送郵件至news#citmt.cn(把#換成@)。
海報生成中...