免费观看已满十八岁电视剧国语_人妻 色综合网站_欧美大尺寸suv视频_成人免费高清在线观看_久久久成人毛片无码_老头解开奶罩吸奶头高潮视频_sm调教室论坛入口_欧美夫妻交换久久丫1000_一级黄色大片在线免费观看了

首頁 > 資訊 > 快訊

PPTV創(chuàng)始人姚欣AI再創(chuàng)業(yè),“分布式推理”終于有人做了

2024/09/11 15:52      量子位公眾號 克雷西


  這個月,PPTV創(chuàng)始人姚欣再次站到了聚光燈下,組織了一場分布式云計算論壇,向外界揭開了他的新篇章。

  姚欣的第二次創(chuàng)業(yè),瞄準了云服務,要打造 AI 時代的基礎設施。

  但姿勢獨特:公司沒有自建IDC和購買GPU,而是通過獨特的方式成為了全國最多節(jié)點的云服務商。

  成立六年來,PPIO派歐云已獲三輪共4億元的融資,包括百川智能創(chuàng)始人王小川、迅雷創(chuàng)始人程浩、前微軟Azure中國總裁申元慶在內(nèi)的19位CEO都參與了天使投資。

  姚欣,曾是互聯(lián)網(wǎng)視頻時代的開拓者,2004年,他在華中科技大學讀研時輟學創(chuàng)業(yè),發(fā)明了P2P-Streaming協(xié)議,創(chuàng)辦了覆蓋全球4.5億用戶的視頻平臺PPTV,比YouTube還早1年。

  PPTV在PC時代創(chuàng)立,移動互聯(lián)網(wǎng)早期就迅速崛起,2012年位列中國視頻網(wǎng)站用戶規(guī)模第2名。然而,2014年,姚欣將PPTV出售,似乎淡出了公眾視野。

  姚欣重回到公共視野的當下,我們不禁想問,在市場接近飽和的環(huán)境下,為何姚欣堅持要選擇云服務賽道?又因何受到投資者如此青睞?

  一方面,時勢造英雄,2020年Gartner開始推崇的分布式云概念,給了姚欣這個“分布式信徒”難得的發(fā)展機遇;

  另一方面,英雄造時勢,姚欣也前瞻性地選擇跳過訓練算力業(yè)務,全部聚焦發(fā)展分布式推理算力,下注AI應用普及對于推理算力的巨大需求。

  當分布式計算遇見AI Infra

  要理解姚欣的再創(chuàng)業(yè),可以先從這樣的具體案例中感知——

  國內(nèi)某Top3小說推廣APP,開始為創(chuàng)作者提供AIGC生圖功能,吸引了更多的作者和讀者。

  AI技術帶來的流量增長自然是一件好事,但與此同時帶來的運維壓力也陡然上升。

  而且隨著這樣的新功能被更多人所熟知,后臺服務器性能也遇到了瓶頸,高峰時期生成速度明顯變慢的情況開始逐步顯現(xiàn)。

  在過去,解決的方式簡單粗暴——擴容,但一味地選擇這種方式,實際并非長久之計,不僅代價高昂,而且在面對不確定性增長時顯得力不從心。

  而PPIO的分布式架構(gòu),就是針對這種場景和痛點而生。

  這不僅是一種技術選擇,更是一種為未來打下基礎的架構(gòu)方案。

  它打破了傳統(tǒng)集中式架構(gòu)的瓶頸,不僅為企業(yè)大幅降低了運維壓力,還將系統(tǒng)的處理效率提升到了一個全新的高度。

  利用PPIO提供的AI推理平臺,免去了自行部署后臺服務的繁冗過程,通過API即可調(diào)用服務,不再需要自行運維,成本直接減少了40%。

  速度方面,得益于PPIO龐大的分布式算力網(wǎng)絡,網(wǎng)絡擁堵現(xiàn)象大幅降低。

  據(jù)了解,采用PPIO服務后,該小說APP的平均生圖時間從10秒縮短到了2秒,生產(chǎn)效率提升了50%。

  姚欣還介紹,如果海外AI應用使用其推理服務,能夠獲得比硅谷還要高的綜合性價比。

  這得益于PPIO遍布全球的分布式云服務網(wǎng)絡,無論用戶身處何地,總能找到近距離的算力節(jié)點,獲得20毫秒級的低延遲體驗。

  姚欣選擇分布式推理并非偶然,而是基于他多年對整個行業(yè)的深入理解。

  根據(jù)TIRIAS research的研究,隨著AI的快速發(fā)展,未來算力需求的構(gòu)成將發(fā)生重大變化,95%的算力需求來自推理,訓練算力僅占5%。推理將逐漸成為AI計算的核心。

  姚欣看準了AI時代算力結(jié)構(gòu)轉(zhuǎn)型的機遇,將重心放在推理側(cè)。

  推理計算的核心在于實時處理用戶請求,低延遲和高效率是它的生命線。

  而分布式技術,恰恰是實現(xiàn)這一需求的不二之選——

  通過將推理計算分布到全球多個節(jié)點,PPIO能夠最大限度地減少到用戶的時延;

  同時根據(jù)不同區(qū)域的需求波動智能調(diào)度算力資源,確保全局計算效率始終保持最佳狀態(tài)。

  分布式推理不僅是一次技術創(chuàng)新,更是一種新的商業(yè)模式,讓中小企業(yè)和開發(fā)者不再為算力門檻所困,讓他們也能走進AI世界。

  相比之下,傳統(tǒng)的大型數(shù)據(jù)中心雖然具備強大的處理能力,但其成本高昂,不僅包括硬件設備的購置和系統(tǒng)維護,還包括高度集中帶來的大量散熱能耗的需求。

  分布式云通過調(diào)度分布在全國各地的中小型數(shù)據(jù)中心或邊緣計算節(jié)點,充分利用當?shù)馗咝詢r比能源和算力資源,降低總體運營成本。

  當然,姚欣還提出了“三年內(nèi)降本1000倍”的期望,要想成功實現(xiàn),除了龐大的分布式算力網(wǎng)絡,還要有更多創(chuàng)新技術的支撐。

  為此,姚欣給出了他的答案——Serverless彈性調(diào)度和推理加速優(yōu)化。

  其中,Serverless架構(gòu)被用來解決跨區(qū)域服務過程中節(jié)點數(shù)量龐大、用戶請求復雜的問題。

  該架構(gòu)通過智能整合分布式算力,自動實現(xiàn)彈性伸縮與按需付費。

  用戶可將自有鏡像或模型托管到該平臺,不用再擔心海量用戶的并發(fā)響應問題,亦無需親自管理和維護大量算力服務器。

  派歐算力云Serverless產(chǎn)品自動彈性觸發(fā)時延和單實例冷啟動速度

  除此之外,PPIO還通過算法、系統(tǒng)和硬件的協(xié)同創(chuàng)新,推出了針對大語言模型特點的推理加速引擎。

  借助全鏈路FP8量化、KV Cache稀疏壓縮算法,以及投機采樣等技術,顯著提升了推理的加速性能,打破了顯存、算力和帶寬的限制,釋放了大模型推理的更大潛能。

  此次的分布式云計算論壇,標志著姚欣的第二次創(chuàng)業(yè)取得了階段性的成功。

  這背后除了有姚欣自己對行業(yè)的獨到見解,還有分布式云自身與云服務發(fā)展形勢的契合。

  分布式云的天時地利

  在國內(nèi)的云服務領域,有很多我們耳熟能詳?shù)倪x手,華為、百度、騰訊、阿里等眾多互聯(lián)網(wǎng)大廠,都擁有自己的云服務產(chǎn)品。

  但這些云服務無一例外都采用了集中式的方式,更加襯托出了姚欣做的分布式云系統(tǒng)的別具一格。

  不過,姚欣強調(diào),分布式與集中式并非對立的選擇,而是相互補充的合作模式。

  技術上看,PPIO采用了集中式云服務也在用的基于K8S技術的云原生架構(gòu),能夠與集中式云進行標準的互聯(lián)互通;

  商業(yè)模式上看,用戶也不會過度關注自己的產(chǎn)品究竟運行在哪種云,他們更在意的,是最終的運行效果。

  歸根結(jié)底,究竟應該采用哪種運算方式,取決于具體的應用場景。

  在競爭與合作共存的格局當中,分布式云的獨特優(yōu)勢在于,它能夠解決集中式云難以應付的需求。

  隨著AI新應用的大量落地,產(chǎn)生了大量的實時數(shù)據(jù)計算和海量IO吞吐,AI帶來的新算力需求以超越摩爾定律的方式不斷膨脹。

  正是這些大量實時計算需求的涌現(xiàn),讓傳統(tǒng)的集中式算力中心顯得捉襟見肘,但這真的是因為算力總量不夠用嗎?

  答案是否定的。

  據(jù)統(tǒng)計,我國有47%,也就是將近一半的算力都處于閑置狀態(tài),未被充分利用。

  造成這一現(xiàn)象的核心原因,是算力需求與供給的不匹配。數(shù)據(jù)中心和超算中心的建設過于超前,但數(shù)據(jù)產(chǎn)生地與算力節(jié)點往往相距甚遠,造成了算力不足的表象。

  所以,算力唯有“去中心化”,下沉分布到網(wǎng)絡側(cè)邊緣,才能解決時延和海量數(shù)據(jù)IO吞吐問題。

  PPIO做的就是這樣的工作,其本身不生產(chǎn)算力,而是作為空閑算力的“搬運工”和“指揮員”,解決算力時空分布不均、利用效率低下的窘境。

  當然,姚欣的愿景不僅限于當前的云服務,他提出了算力發(fā)展的三條曲線,目前已經(jīng)基本建成的,是其中的前兩條——邊緣云(紅色)和算力云(綠色)。

  去年,PPIO更是根據(jù)這兩條“曲線”,將公司的業(yè)務線拆分成了兩個事業(yè)部。

  而“第三條曲線”,則是實現(xiàn)各個組織機構(gòu)間,算力資源的實時調(diào)度和自由交易

  姚欣認為,從技術角度看,業(yè)界已經(jīng)有能力實現(xiàn)這種模式,但在產(chǎn)業(yè)共識和商業(yè)模式上,還需要參與者的共同努力。

  但就像從云計算誕生之初,人們都不相信公有云,到后來公共云服務逐漸成為主流一樣,這種“算力共享”也將經(jīng)歷一個形成共識的過程。

  而之所以選擇這條與眾不同的創(chuàng)業(yè)之路,源自姚欣豐富的創(chuàng)業(yè)經(jīng)歷與技術信仰。

  創(chuàng)業(yè)者姚欣:立志把分布式技術寫進教科書

  公眾眼中的姚欣有很多標簽:大學創(chuàng)業(yè)、網(wǎng)絡電視、互聯(lián)網(wǎng)、投資人等。

  然而,常常被忽略的是,他在技術方面同樣擁有著深厚的積淀

  事實上,姚欣自從高中時起就是一名學霸。

  他曾連續(xù)兩年獲得全國奧林匹克計算機競賽一等獎,1999年被保送進入華中理工大學(現(xiàn)在的華中科大)。

  也正是在大學生涯之中,姚欣接觸到了分布式計算這個概念——他的老師金海教授(華中科技大學教授,中國計算機學會副理事長),正是將這一概念帶入中國的第一人。

  金海教授早在2002年就開始負責中國教育網(wǎng)的網(wǎng)格計算(分布式計算的一種)建設,2007年也是第一批從事虛擬化和云計算研究的科研專家。

  一直到現(xiàn)在參與設計國家提出的“東數(shù)西算”和算力網(wǎng)絡,是中國分布式計算領域的領軍人物。

  當時,金海教授就跟姚欣講了算力大眾化的愿景:

  當有一天網(wǎng)格(當時的叫法)足夠分布的時候,我們每個人用算力就像用電用自來水一樣,隨時隨地接上插頭、打開水龍頭就可以使用到。

  金老師所描繪的技術普惠理念深深影響了姚欣,并植入了他的創(chuàng)業(yè)初心。

  除了金海教授讓姚欣接觸到了分布式計算,姚欣的創(chuàng)業(yè)的另一大源動力是他對身邊事物的觀察。

  姚欣讀大學時正值2002年世界杯,在校園中觀看足球比賽就成了一個火熱的需求。

  其間,姚欣發(fā)現(xiàn)了一個不尋常的現(xiàn)象——

  像HTTP、FTP這樣的傳輸協(xié)議,用的人越多速度也就越慢,但如果用BitTorrent這種P2P的傳輸方式,用的人越多,速度反而越快。

  網(wǎng)格計算需要連接很大的計算節(jié)點,但可以整合每個人電腦的上行帶寬,構(gòu)建一個分布式的存儲和傳輸?shù)木W(wǎng)絡,提供基于P2P技術的網(wǎng)絡電視服務。

  這一想法促使姚欣創(chuàng)建了PPLive(PPTV的前身),起初PPLive只是一個簡陋到?jīng)]有界面的學生作品,但是很快就獲得了過億的下載量。

  PPTV的成功,毫無疑問依賴于技術優(yōu)勢。相比(當時的)優(yōu)酷、土豆等競爭對手,PPTV的視頻處理成本僅為其1%。

  后來,賣掉了取得成功的PPTV后,姚欣開始重新思考自己的未來目標。

  他不再滿足于“一人的成功”,而是想將其轉(zhuǎn)變?yōu)?ldquo;眾人的成功”,希望通過聚集更多人的力量來實現(xiàn)改變生活的技術創(chuàng)新。

  從視頻行業(yè)中暫時淡出的姚欣,也始終未曾遠離分布式計算的技術愿景——

  在PPTV的成功背后,正是他對資源整合和計算效率提升的深刻理解,而這些理念也是他對分布式計算長久關注的理論基礎。

  這也直接推動了他后續(xù)的技術創(chuàng)業(yè)選擇,并在分布式推理領域的發(fā)展中得到了實踐。

  在姚欣看來,創(chuàng)業(yè)者最重要的,不是隨大流,不是去模仿,而是要有足夠的差異化和獨特競爭力。

  所以即使在今天看來,PPIO選擇的分布式賽道,依然如同PPTV一樣,顯得十分“另類”而新穎;

  自己不建大型數(shù)據(jù)中心,而是整合利用大量的閑置數(shù)據(jù)中心,這種商業(yè)模式也是獨樹一幟。

  從P2P-Streaming到分布式推理,姚欣的創(chuàng)業(yè)路徑看似從互聯(lián)網(wǎng)內(nèi)容平臺轉(zhuǎn)向了技術基礎設施,但實際上,這兩者本質(zhì)上是一脈相承的。

  姚欣始終在探索如何通過網(wǎng)絡的集體力量提升效率、降低成本,并以分布式技術為基礎,解決計算中的瓶頸問題。

  如今,他將同樣的理念應用于AI推理領域,專注于解決算力供需不平衡的問題。

  走到今天,姚欣的志向已經(jīng)不只是把企業(yè)做大做強,而是希望能夠開創(chuàng)出具有時代意義、能夠被寫進計算機教科書的技術

  正是出于這一理想,PPIO聘請了金海教授擔任公司技術委員會主席。

  金海教授將為公司技術團隊提供深入全面的指導,將分布式云技術邊界進一步拓展,推動更多應用的落地,讓更多創(chuàng)業(yè)者輕裝上陣

  One More Thing

  在剛剛結(jié)束的2024分布式云計算論壇上,PPIO除了推出了AI算力云產(chǎn)品外,還聯(lián)合PingCAP、Zilliz、AscentStream和CSDN,共同啟動了“Pioneers AI初創(chuàng)加速計劃”。

  面向AI初創(chuàng)企業(yè)和開發(fā)者,提供包括分布式算力、分布式關系型數(shù)據(jù)庫、分布式向量數(shù)據(jù)庫、分布式消息隊列、開發(fā)者社區(qū)等全面的資源和技術服務,助力初創(chuàng)團隊在分布式云上實現(xiàn)快速成長,加速其創(chuàng)新成果的落地。

  正如姚欣在分布式云計算論壇上說的那樣,他的終極目標不僅是推動分布式云成為廣泛應用的技術標準,更是通過持續(xù)創(chuàng)新,幫助更多企業(yè)和開發(fā)者在AI時代中獲得成功。

  我們站在AI時代的門檻前,正在見證一批又一批滿懷夢想的開拓者紛紛涌現(xiàn)。

  正如當年那個24歲的姚欣一樣,他們需要的,不僅僅是資金和技術,更需要來自同路人、來自先行者的經(jīng)驗和鼓勵,就像當年的金海教授一樣。

  現(xiàn)在,輪到了我們承擔起這樣的使命,用分布式的力量,做新一代應用的基礎設施,支撐起新時代的開拓者砥礪前行!

  榜單收錄、高管收錄、融資收錄、活動收錄可發(fā)送郵件至news#citmt.cn(把#換成@)。

海報生成中...

分享到微博

掃描二維碼分享到微信

分享到微信
一鍵復制
標題鏈接已成功復制

最新新聞

熱門新聞