對話國產“算力黑馬”:27億元大單背後,英博數科周韡韡的AGI探索之路
智東西作者 國仁 李水青編輯 漠影
當下中國科技圈,什麼樣的創業公司最吃香?或許是身處爆發的大模型賽道,佔據算力資源稀缺性,並獲得資本、市場及政策等多重青睞,且有着遠大AGI藍圖前景的公司。
英博數科,就是這樣的一家公司。
從ChatGPT到Sora的爆火,智能算力成爲一門公認的“好生意”。儘管雲巨頭相繼推出誘人的大模型訓推“全家桶”,但實際可用的算力仍是稀缺資源,國內AI企業紛紛患上“算力飢渴症”……
成立不滿21個月的英博數科,成爲了這一背景下國內最吃香的“算力黑馬”之一。
它是半年拿下近30億元人民幣算力大單的新貴,目前落地的智算集羣100%滿載運行;它是大模型廠商的“香餑餑”,百川智能、MiniMax、深言科技等頭部大模型創企都涌入了其懷抱;它是“彩票大王”鴻博股份的全資子公司,踩着英偉達GPU算力紅利的順風,帶動鴻博股份股價在2023年最高飆漲580%……
英博數科的跨界突圍,離不開一位關鍵人物——鴻博股份副總裁、英博數科CEO周韡韡。
▲鴻博股份副總裁、英博數科CEO周韡韡
她曾是媒體人,擁有澳大利亞阿德萊德大學金融學學士、悉尼大學傳播學碩士、國際政治經濟關係博士學位,曾任澳視傳媒執行董事、澳中文化友好交流協會秘書長及36氪副總裁。2021年底,周韡韡開始帶隊進行智算行業調研,當時就定下了“打造北京智算中心樣板”的目標。
兩年之後,隨着2023年大模型與AIGC掀起熱潮,將英偉達推上萬億美元市值的王座,周韡韡不僅提前達成了兩年前立下的目標,還讓英博數科公司拿下了國內最大資金規模的算力服務協議,甚至在最頂尖的雲巨頭口中奪食。
與此同時,關於“全棧式AGI生態服務平臺”的新定位,也讓英博數科的故事變得更有閃耀。英博數科被一些業內人士拿來與估值達160億美元的美國算力獨角獸CoreWeave比較,但在周韡韡看來,如果將目光放向“中國版App Store+Hugging Face”,中國同行的價值甚至有望趕超CoreWeave。
從ChatGPT到Sora,周韡韡如何穩踩智能算力市場的發展節奏點?從名不見經傳到產業新星,英博數科做對了什麼,又踩了哪些坑?面向未來,什麼樣的智能算力產業發展道路最適合中國?
近日,智東西總編國仁獨家對話周韡韡,試圖從個體視角,揭開“百模大戰”混沌狂歡之下的智能算力產業真相。
▲鴻博股份副總裁、英博數科CEO周韡韡(左)與智東西總編國仁(右)
一、從Sora浪潮聊到產業趨勢:通用大模型爲王,智算產業現隱形護城河
國仁:進入2024年以來,大模型領域爆點不斷,最讓您感到興奮的點是什麼?
周韡韡:我感覺到興奮的點,是能給我帶來直接盈利收入的更多需求。
英博數科在2023年2月交付了國內第一個英偉達推薦架構、對外商業化運營的標準智算集羣。以前這種集羣都是存在於科研院校,外部的人很難接觸到。當智算集羣建成時,我才發現這個設備的稀缺性是因爲它沒有場景去釋放它的性價比。當時我就想,我的用戶是誰?我用戶在哪兒?用戶付不付得起這個錢?
OpenAI的闖入解決了我的問題。去年初OpenAI的ChatGPT出來之後,我們發現原來它(這些智算設備)是多模態大模型訓練的幾乎唯一選擇。今年2月Sora的出現,進一步讓大模型開發業內人士意識到差距和焦慮,使他們對於超大型智算集羣的需求變強,甚至願意付出溢價的代價。
市場的這種反應,讓英博數科之前的商業規劃的預測得到了驗證。即使128的集羣可以找到,但512的集羣只有我有,那我自然就會有一個稀缺性,就等於價值。
國仁:Sora和去年ChatGPT的爆發節奏很像,您認爲哪一個對智能算力產業的影響會更大?
周韡韡:我認爲是ChatGPT,因爲它是根基。AI行業的研究已有七八十年了,但ChatGPT出現了之後,才讓大家覺得這個技術跟我的生活工作是有相關度的。蒸汽機出現不算是工業革命,但是把蒸汽機裝到了火車、輪船和各種生產工具上提高效率,纔是工業革命。
Sora其實就是讓我們看到了,把這種AI能力在一些細分場景上快速的實現。所以我覺得影響更大的肯定還是從根源上來講的。Sora本身的體量非常小,但它的出現對一些現象級的熱門視頻應用降維打擊,連搶救都不用了,帶來了產業上的影響。
如果說過去我們對於“模型是做通用型還是做垂類型”這一問題還有分歧的話,到了這兒就完全沒有爭議了。Sora之所以能夠體量這麼小,出現這麼快,能力這麼強,就是因爲它的模型基座夠紮實。我一直管這種通用型模型的這種基座,叫“大G”。這個大G的架構決定了你可以“空中起高樓”,從上往下改。
所以即便當時出現好多所謂的垂類應用,但在我們當初挑客戶的時候,只要你說是垂類的,我就不要。因爲在我來看,你說做垂類就等於急功近利。我特別認可當時百川發佈時(中國科學院院士、清華大學人工智能研究院院長、清華大學計算機系教授)張鈸院士講到的觀點:模型一定是通用的。
Sora帶來的可能是一個認知的統一,但ChatGPT是帶來了行業上的一個質變。
國仁:工信部最新數據顯示,我國超10億參數大模型已超100個。從結果來看,現在的智能算力供給是存在過剩和浪費還是遠遠不足?如果是過剩和浪費,產業要如何減少浪費?如果不足,缺口有多大?
周韡韡:如果單從英博數科的情況來看,我們現在可以提供的算力是“1”,那麼我籤的客戶需求大概是“10~15”的樣子。這裡面還讓一個難受點是,我並不能夠因爲這種稀缺度去漲價。
從行業角度出發來看,一個好生意是給雙方都留下合理的利潤空間,你得考慮Sustainability(可持續性)的問題。GPU集羣跟傳統的IDC機房不一樣——過去的IDC金租都按照三年回本的週期去計算,而GPU的回本週期要遠遠高於傳統的這個IDC機房。因爲回本週期長,我當然希望我的客戶生存得也足夠久。所以雖然這個東西很稀缺,但你也要考慮到客戶的承受力,不能殺雞取卵。
國仁:按您這麼說,應該是一個嚴重的供不應求的一個狀態?
周韡韡:超級嚴重供不應求。我看到好像華爲(副董事長、輪值董事長、CFO )孟晚舟講到缺口比例,比我們這個要大得多。而且現在他們(大模型)發展的速度太快了,就像工信部所說的“10億參數規模”的模型,模型我們很難用模型大小去衡量它,尤其是模型參數值現在變化也較快,你看到的小參數模型,它可能收斂做得比較好,在整個訓練的過程裡面(所需算力)是很大的。
國仁:算力最後發展的極限是什麼?真的是無限地去擴大單位芯片的算能嗎?
周韡韡:這一代的AI經常用一個詞:調校,它已經不走海量(堆算力)的路線了,而是走精準稀缺路線,而且它現在的學習能力不用去拼量,而是拼質。
國仁:你也提到一個回本週期,咱們是怎樣考慮的?
周韡韡:英博數科最初並不是說只想做一個智算中心,它其實是一個抓手。有了這個抓手,我們可以接觸到頭部客戶及開發者。所以其實從一開始規劃的時候,我們就有一個考量——除了從算力上追求收益,也從對這個企業提供算力服務、生態服務、生態聯盟等方面獲取收益,這是一個綜合性的投資考量計劃。
國仁:那這塊進展怎麼樣呢?
周韡韡:進展挺好。當然跟OpenAI平臺上來就幾千個夥伴的差距很大。我所謂的我們的進展好,是我們從一開始的時候給自己劃了四層,就是IaaS、PaaS、SaaS以及上層的數據模型服務的應用層。目前來看,我們這四個層級不能說齊頭並進,但基本上都是有顯著的里程碑的進度。
國仁:從已有智算中心應用落地來看,哪些場景對智能算力服務的需求更大?訓練和推理各佔多少?客戶採用智能算力的動力是什麼?
周韡韡:從GPU側來講的話,目前算力使用最多的是多模態大模型訓練。這類需求團隊在我們的平臺上已經佔到90%了,我們如果不剋制它能佔到100%。
但是要我們想稍微平衡一下。另外一部分是像類似於無問蒼穹、潞晨科技這種做算法加速層的,他們要去做生態的兼容性、場景加速應用,這一類的客戶會比較多。然後像無人駕駛,曾經無人駕駛和生物醫藥是我認爲佔比非常高的一個板塊。
國仁:現在發現沒有成爲非常高的板塊?
周韡韡:無人駕駛是有的,但生物製藥現在還沒有那麼多,可能它的研發應用沒太跟得上AI的節奏,但是單體的需求會非常大。一個生物製藥如果去做原創藥的研發,這種AI製藥加速的的需求可以超過一個百川智能。
最初我們給自己定位AI有三個場景:高性能計算、推理和訓練。當時我們直接放棄了高性能計算和推理,專注做專業的AI多模態大模型訓練平臺。
現在來看,當我們的客戶有了應用,有了面對市場的服務之後,推理的需求肯定還是非常大的。但這需要一些合縱連橫來解決,因爲推理包括雲端交付、邊緣側的規劃佈局,不是我們一家能夠做成的事情。我們更傾向於去加入一個聯盟,或者大家做一些交換了解。
國仁:您認爲今年的我國“百模大戰”會進入什麼階段?智能算力產業發展的節奏如何?
周韡韡:這是一個媒體典型的問題,就像回去十年TMT行業,包括O2O領域好像一直在戰鬥。就我的觀點,不管是提供算力的服務商,還是大模型的競爭,“百模大戰”在今年底就會出現一個拐點。
應該說是該燃的就燃,該回點的就回點了。基本上這個分水嶺已經拉開了。我們現在已經可以看到有很多的模型和應用,或者是很明星式的創業者,實現了個人財富自由。但換成另外一句話來說,已經從大模型市場和大模型融資的市場上消失了。
所以在今年的下半年,我覺得會有大批量這種企業出現——失去客戶的算力服務商,和用不了算力、解決不了融資問題的大模型研發團隊——那隻能面對現實。
國仁:我看過一個分析說,國內產業的一個特點是,遇到一個什麼事兒大家都蜂擁上去,然後快速競爭和洗牌。這樣的好處是行業能夠快速走向成熟,但問題是會導致大量的資源浪費,比如共享單車就有很多廢棄的單車。
周韡韡:我覺得這個是所有的商業發展從古到今競爭的一個必然結果。這個是通用的,只不過是有人可能覺得好像國內的風氣更甚,其實是看行業吧?
有時候其實是資本方和研發者之間的一個相互博弈的過程。當市場上的熱錢都願意投向一個方向的時候,逼得一批要求生的創業者往那個方向走。不管他自己具備不具備,或者是有多少的可能性能成,但是作爲一個創業者,他最基本職業道德是生存,那自然就會有很多不適合的進入到這裡面,然後被淘汰掉。很多時候,資本市場起了很大的掣肘或是助攻的作用。
國仁:國內創投現在比前幾年沒有那麼猛的勢頭了,可能對創業的推動沒有之前那麼熱情了?
周韡韡:我覺得是熱情的人少了,而不是不熱情,留下來的還挺激進的。你看現在大模型的估值真的快投不起了,比如百川從去年4月是王小川天使輪5000萬美金,然後到12月份投資已經是16億美金了,到現在已經接近30億美金了(這個跟很多科創板上市的這個公司的市值差不多了)。能夠撐得起這樣投資值估值的投資者,你能說他熱情退了嗎?我覺得沒退,我都覺得他瘋了。
國仁:回到咱們的定位,智能算力提供者是要繼續做好“賣鏟子”的人,還是需要去推動大模型落地應用?
周韡韡:我們從剛開始的專業訓練平臺、算力平臺,到去年12月份轉型做全棧式AGI生態服務平臺,這裡面就包括了推動模型的落地。
比如說剛纔說大G研發出來之後,在跟細分產業做結合的時候會出現問題:因爲工程人員不可能瞭解每一個產業,他需要類似於產品經理的人幫他翻譯這個行業,做溝通的橋樑。比如我們之前有嘗試把有經驗的編劇,做網絡投放高效的投手對接給像Minimax、百川,把他們的商業模式大模型結合,就(強調)這種商業“攢局”的能力。
過去,他們(大模型客戶)剛開始淘金,我們去賣鏟子;現在他們進化了,我們應該是從鏟子進化到挖掘機,甚至是抽油的。
國仁:有人認爲當下包括“彩票大王”、“味精大王”等跨界玩家都涌入智能計算,說明算力產業技術門檻在降低,進入資源爲王時代,對此您如何看待?
周韡韡:英博數科是(彩票大王)鴻博股份下一個全資子公司,是爲了轉型做AI這個事情而生的。我覺得不管哪個產業,想要去進入到另外一個產業,說明有更多人在看好這個產業。這說明AI算力產業是被看好的。
我一直覺得要做窄小深沉的事情,就是說你一定是細分的賽道、大廠不幹的、邊緣夾縫裡的、小團隊能運營的,然後護城河一定要深的,而且它得能夠足夠長遠沉穩的發展,不能是一個幾天就沒了的產業。AI剛好是這樣的一個產業。
如果說它(AI)入門的門檻低的話,只能說是剛開始的時候入門門檻的確是低的,這一點我承認。對於傳統企業來講,你花錢就可以買到硬件設備。但是現在看的話,我們發現它的這種隱形的護城河已經越來越高了。
現在參加一些活動,好像“萬卡集羣”都不好意思提,都得說“十萬級”,這讓我瞬間感覺來了個科幻論壇。我覺得我們得面對現實:
首先我們得去承認混卡集羣和同構在同一個物理空間內同一通訊集羣,本質是完全不一樣的。你可以用雲去把各種型號的混卡都交付出去,但這種算力是沒有辦法用於AGI多模態大模型的專業團隊研發的。他們要的是超大型集羣,要的是像OpenAI一樣,6萬張卡能夠串在一起去訓練的集羣。
我們現在國內的話,還沒有這種千卡萬卡的試驗田的土壤,而且集羣的通訊是一加一小於二的,它有個通訊衰減的過程。所以這中間的調優、網絡通訊、系統性開發和管理,其實是一道隱形的、非常深的護城河。
我們整體缺乏GPU方面的專業人才,也缺乏對GPU的實驗土壤的瞭解。那這個時候英博數科其實佔了一個先發優勢,反而是比別人多做了一些練習和試驗。
國仁:現在智算產業玩家大概分幾個梯隊,大家的做法又有一些什麼樣的不一樣?
周韡韡:目前智算產業玩家一種是自產自銷的大廠,它們現在已經不對外提供GPU租用服務了,是完全是自用的狀態,不提供市場化運營。
另一類是像我們這種市場化運營的服務商。國家現在鼓勵國企央企去進行計算基建的投資,運營交給類似於英博數科的市場化運營的公司去做,這種模式在北京和上海已經先開始了。
還有一類是設備還處在小規模,還在尋找客戶的初期階段的服務商。它們沒有進入到128節點以上大集羣,仍在16、32、64節點這個階段裡面發展的一批智能算力玩家。
國仁:由於受制於芯片及算力上限,國內的智能算力格局的發展形態,會跟國外會呈現一個不同的態勢?
周韡韡:我覺得國內外面臨的情況差不多。因爲首先英偉達芯片供應不足,它不是禁售或者是其他什麼原因造成的。因爲它的卡脖子問題還是被臺積電卡脖子,受限於產能。
二、從CoreWeave聊到創業心路:太刺激了,每天都在變,選擇做最難的事
國仁:用一句話形容一下創業近兩年來的感受,您最先想到的是什麼?
周韡韡:太刺激了。我們有工作人員來英博工作了三天之後就說:“太刺激了”,後來不止一個工作人員,這樣說,因爲真的是變化特別快。包括政策上、技術方面、客戶需求的變化,在早上、中午、晚上都不一樣。
包括我自己發過好多次朋友圈,是我一個好閨蜜寫的一本書,說每個你看起來運氣好到開掛的姑娘,其實都在成功的路上努力到踉蹌。一路走來我們現在還不能叫成功,“三年魔咒”就是九死一生。現在進入到AI時代之後,它不光是一個降本增效,同時帶來的是每一個行業的全生命週期都在縮短。
國仁:您如何看待外界將英博數科比作“中國版CoreWeave”的說法?近期有消息稱CoreWeave估值或飆升至160億美元,主要是什麼成就了CoreWeave?國內玩家有可能達到這樣的價值嗎?
周韡韡:我之前也有看過把英博跟CoreWeave放一起做比較,我就覺得這個簡直太看得起我們了,絕對是一個超高級別的。
前幾天我看了一個摩根大通的報告,提到現有的GPU或專業高性能GPU的設備存量,CoreWeave在面佔到了11%。11%的概念是什麼?一些頂尖雲大廠可能都是佔1%不到,你可以想象到它體量有多大,幾乎是我們國內所有加在一起都難以達到一個體量。如果說GPU現在已經是這樣的一個有金融屬性的產品,CoreWeave有160億估值完全不奇怪。
然後第二個,CoreWeave團隊以前是做虛擬貨幣起家,所以對GPU接觸的熟悉的程度會比較早。然後它有英偉達的支持,雖然英偉達在中國本土和在美國本土都支持,但能夠做的範圍是相差非常遠的。
所以如果我們從硬件體量上去拼估值的話,短期內國內沒有玩家能夠比得起。
但是我們在走一條不一樣的路。CoreWeave還是主做算力出租,就是我拿更多的貨,賣更多的設備。而且國外的算力租用的價格售賣比國內貴很多。英博數科的定位是AGI全棧式的生態服務平臺。這聽起來有點抽象,換成具象一點的說法,就是我的客戶要什麼我就提供,他缺算力我就給他算力,他要數據我就給他數據,他缺商業化轉換的場景我就去幫他找,幫他擬合這種場景。
這個東西就像互聯網時候,那個市場很大,但你收入只有三塊,就是遊戲、廣告、用戶付費。我所有給客戶提供的各種各樣的服務,最終會變成是算力帶來的收入,比如說數據、模型、加速、PaaS層帶來的雲收入,以及我給客戶提供的各種商業擬合創造,甚至投融資帶來的企業服務的收入,就是這三類收入。
如果從這個收入的組成上來看,它肯定比單一硬件的估值要來的高。從長遠來講的話,我覺得我們國內的這樣的一個生態發展模式的話,是可以產生更高估值的公司的。
國仁:2021年底您開始着手籌劃創業,定下的目標是打造北京智算中心樣板。當時爲什麼會有這樣一個明確具體的目標?有什麼樣的契機?
周韡韡:這個目標是寫在合同裡了,是跟投資方定的。英博數科前身發展是來自於北京AI創新賦能中心,英偉達一個針對中國的生態發展特別計劃而來的。這個計劃從2016年推出到現在一直有,我們看到的時候已經是一個非常完整的規劃了,合作範圍不只是算力,更多是生態發展以及合作方式,還有發展目標最終要達到什麼樣,都是有非常清晰的定義的。
國仁:決定創業之初,您對這項創業可能遇到的困難有充分的預判嗎?還記得哪些人給了你非常重要的意見,受用至今?從投資人到創業者,您爲此做了哪些準備?
周韡韡:貴人好多。包括(百川智能創始人)王小川給了我們很多關於直接定位的指導建議,包括放棄HPC和推理場景,專注於做訓練,我們的第一批設備也是和百川一塊兒跟英偉達的遠程技術支持做的調通;還有張鈸院士非常清楚的告訴我們,所有的東西一定要回歸到加速生產力上,迴歸本質,不能飄。然後一定要研究通用模型,打好基本功,再去說做垂類場景的應用。
包括(御風集團董事長)馮侖,最近馮叔就特別強調說,你們一定要有世界觀、中國心、專業技術和本土功夫,對我說一定要做到企業不關門,個人不被抓,合規合法很重要;包括像我閨蜜在我做跨界轉型時不停給我鼓勵;我們家裡一直有一句話,說“在不知道做哪件事兒的時候,去做那個最難的”。
國仁:英博數科創立至今經歷了哪些關鍵節點?
周韡韡:第一個關鍵節點,我記得是在2022年7月,當時正值我們計劃跟英偉達美國簽約,簽約卻一天天被擱置。後來我們就分析說這個跟佩洛西訪臺有關係,中間如果要出現點什麼摩擦,估計這個計劃合作就黃了。一直到佩洛西走了之後,第二天合同就回來了。所以那個節點的話,我覺得就是蝴蝶效應,國際局勢竟然牽扯到了我們一個很小的公司的發展。
第二個節點是簽約之後,馬上就可能出來一個限售政策。在限售政策下,你在兩個都可選的情況下,英博數科是選擇拿A100還是A800?這就要戰略性地思考限售政策會不會進一步收緊,還是有可能會緩和。如果緩和的話,大廠開始大批量出錢去買貨的話,我們該怎麼面對這種衝擊?這個時候我們就在美國設了專業的法務公關和商務團隊,就各種政策去提前做分析,從而提前預判了禁售政策的執行。
我們從第一批設備剛選完,就開始加速設備團購。當然這有賭的成分在,但我們堅信國內自研大模型的需求量一定很大,所以一定要抓緊囤貨。
然後再到最近,應該說我們面臨兩個挺大的節點。一個是我們的母公司上市公司被宣佈爲無實控,這個對我們變成了一個挑戰,畢竟還有很多事情需要得到母公司的授權和許可,就會造成一些決策的不暢,包括給你資金上帶來的障礙。
一個是更貼近實際的一個難點,就是當我們有了512節點的設備,1024節點的設備,但是面對這樣4000卡、8000卡、近萬卡的集羣的時候,我們怎麼能讓它高效跑通?這個其實就是調優方面的一些問題了。現在市場也有這樣的公司,比如硅基流動CEO袁進輝老師做的研究,都是在這個方向。我們現在的做法就是讓大家都來吧,把我這兒當成一塊試驗田。
國仁:方便透露最新的團隊規模嗎?在組織架構方面,英博數科如何排兵佈陣?有什麼樣的人才計劃?
周韡韡:我們的規模不大,剛開始設備沒有到貨之前,我們只有幾個核心技術人員存在,以及一些面向公司籌備的行政、市場人員,那時是一個投行背景的團隊。就像我現在的合夥人邱領,是在美國硅谷銀行做了三年,之後被派回中國硅谷銀行工作三年,負責過上百個初創型企業的孵化加速。另外那時市場團隊裡面大多是有海外留學經驗的,包括我們現在在招聘技術人員的時候,也不見得一定要有過實操經驗,因爲這個行業太新了,會更看重應聘者的自驅學習能力和理解能力,以及在工作上面一專多能的態度。
目前我們差不多快100人的樣子。技術團隊大概佔到70%,技術團隊其中也有一部分是做機房運營運維的,包括一些運維繫統工程師,然後另一部分是做(英博數科研發的GPU雲管平臺)搏博雲的研發。
國仁:團隊已經從金融背景完全變成技術主導的公司了?
周韡韡:我們是一個輕研發重集成的公司。因爲底層已經提供了大量的毛坯的東西,需要你像玩樂高一樣去搭積木了。
然後像我們現在的早期的這種投行團隊的同學,在上市公司給我們帶來資金問題的時候,就發揮出來了極大的價值,通過一級二級市場各種融資方式,幫公司解決現金流和發展問題。如果是隻看現金流的話,英博數科第一個月現金流就是正向的。
三、從10億級大單聊到商業化之路:機器滿轉,交付體驗是新階段重點
國仁:去年,英博數科有三個項目最爲矚目,分別是京能10億元智算中心項目、百川智能近14億元算力大單、MiniMax近3億元的大單,目前這三個項目算力的應用情況分別如何?機器使用率有多少?
周韡韡:首先這三個項目上統一的特點是,機器的使用率是都已經100%了。因爲我們佈局是一需求是十,沒有任何設備是被閒置的。
國仁:對於目前英博數科落地的智能算力服務,您打多少分?爲什麼?
周韡韡:這個打分的話看怎麼打,我是一個比較推崇鼓勵的。從行業角度來看,由於行業之前沒有GPU雲,目前國內大家都處在一個起步的階段。我可以自信一點說我是100分,我也可以謙虛一點說,我和大家差不多瞭解。因爲大家可能都還在去定義、優化、完善的一個階段。
而且在這個階段,我覺得現在國內的AGI的市場,跟那時候(此前互聯網)戰鬥的市場不一樣,大家是一個競合的市場,互相之間交流特別多。比如現在你經常可以看到頭部智譜AI的唐傑老師或者張鵬老師,跟百川、Minimax的CTO坐在一起,就一個問題直接在臺上爭起來了。但大家爭完之後,又是一個既競爭又合作的關係,不介意跟競爭對手分享踩坑經驗。
國仁:自部分智算中心算力啓用以來,產品目前的用戶使用情況如何?收到了什麼樣的用戶反饋?這使得團隊的聚焦點有什麼新調整和佈局?
周韡韡:收到的客戶反饋應該說是投訴大於表揚。當然這個也不完全是英博數科造成的,也有本身原廠家造成。原廠家質量也是很成問題的一個事情,包括在壞了之後換修這種客觀上增添了一些困難,的確給我們在過去造成了不少投訴。對此,我們只能按照合同條款進行補償,大家遵守契約精神。但因爲現在市場太稀缺了,所以客戶也給了我們很大的一個包容性。
接下來往下一步去走的話,我們更看重的第一個是GPU雲平臺這個交付體驗的問題;第二個是GPU雲平臺作爲一個生態入口上面交易的活躍度的問題;第三個是我們跟很多家一起共同成立的算力創新賦能中心,對於融合替代創新解決方案的問題,我們不分AMD卡還是英偉達卡,不分國產還是國內生態,我們只看大的AGI生態。
國仁:前面你也提到了,咱們團隊整體是重集成輕研發的佈局,那麼公司如何分配公司在硬件、軟件和服務層的資源投入?
周韡韡:沒有刻意的去側重,但是它天然造成了一個佔比分配。首先硬件一定是佔比最大的,第一個階段剛起步時,我們90%的錢都用在硬件上了。然後現在,因爲我們有了多種多樣的硬件合作模式,比如說新的客戶來採購並委託給我們代運營,這種方式轉嫁了我的採購和折舊成本,那這方面投入就會逐步降低。這個階段我們在做雲研發,在做運維工程師的培訓,在整個生態拓展的引入方面投入也好,收入也好,就會逐步的增加。
國仁:在去年跟您聊的時候,您提到英博數科跑贏同行的主要優勢是“有算力”。但存量算力是有限的,英博數科這一優勢能保持多久?如何保持?
周韡韡:我覺得這到最後就是結果決定關係,我們看一個結果就可以了。不管今天說你是有算力還是沒算力,能幹還是不能幹,結果是你有沒有客戶,你的客戶有沒有變多。那從這個角度上來講,英博以前的老客戶仍然存在,新的客戶不斷進來,我覺得這個就已經說明了我們的所有能力。
國仁:您之前談到“英偉達幾乎是提供算力硬件的最佳選擇”,這是不是意味着英博數科不太會去考慮國產硬件?
周韡韡:會,我們現在一直在嘗試。我們去嘗試了很多種,不只是國產,像非常早的時候AMD的卡還沒有做限售通知的時候,就提供給我們了。我們做過AMD的,也試過海光的,然後我們也通過跟合作方像百川智能和智源研究院這種去看過華爲昇騰、寒武紀這些。包括我們跟軟通、華鯤這邊的溝通都非常頻繁。
而且當我們的客戶發展到一定階段,推理的需求一定會上漲。那這個時候就會有大量的國產算力去填補這個市場的,這跟英偉達的合作是不衝突的。
國仁:在英博數科的規劃中,公司要跟英偉達學生態做中國版App Store+Hugging Face。爲什麼不延用英偉達的生態,或延用其他雲巨頭的生態?
周韡韡:這個其實回到我們剛開始第一個問題,跟討論CoreWeave有點類似了。英偉達的成功使我們看到了生態的價值。但是在哪裡去發展這個生態,用什麼樣的方式發展,是要結合我們自己的情況。這就有個“橘生淮南還是淮北”的問題了。我們是存在着硬件軟件各方面先天性受限的,在這種情況下,我們要想發展生態,首先你得有足夠的基數人羣。
這就解釋了我們爲什麼那麼看重像Hugging Face模式。因爲他適不適合做這一行,你得先讓他看到這一行。你要爲這個產業考慮,只有加入進來的人越多,你纔在有可能在以後賺得更多。其實國內是完全具備這個條件,包括我們也看到阿里雲的魔塔社區,也是在走這個方向。我們必須去找更多的人進來加入,才能去找到更多的可能性。
然後像App Store這種方式,我們主要強調是它對於我們平臺在未來的一種盈利的模式。就比如說現在蘋果它其實是硬件賺錢,但是它的App Store毛利更高,幾乎收入接近於毛利。
所以我們未來給自己的一個目標和盈利模式的定位,就是我剛纔所謂的雲收入,我們的企業服務收入。
國仁:英博數科有哪些獲利模型?方便透露英博數科的盈利情況嗎?
周韡韡:鴻博股份去年的年報做了扭虧的預告,這個扭虧主要是來自於英博數科。實事求是地說,目前收入來源仍是以算力服務爲主,此外,我們也跟京能合作共建算力中心項目,在2023年底,這一部分收入貢獻較大。但是在未來的話,智算中心的運營服務也會是一個重要收入來源。然後像隨着雲業務、數據業務一點點起來,還有具體應用場景撮合,這些服務收入肯定是要越來越高的。
國仁:那如果要拓展這些創新服務,咱們的銷售體系架構就不一樣了?
周韡韡:實話實說,我們現在沒有(主動)銷售。因爲我們不需要靠銷售,反而需要挑客戶,因爲我們沒有東西可賣。那我們的這個商務團隊是在幹嘛呢?他們在去尋找生態合作伙伴,就是找一些想要在當地開展AI業務的項目,以算力或者是資金的形式去扶植加速他們的發展。
國仁:公司接下來有什麼重要新品要發佈,有什麼樣的時間表可以公佈嗎?
周韡韡:我們去年做了一個AI Tech Day的活動,今年會把這個活動延續下來。
一方面,是會發布我們自己的產品和解決方案,但是以後佔的比例肯定會越來越少了。我們自己產品解決方案主要是集中在搏博雲的進展,還有大型集羣通訊到了哪個階段,這方面的一些討論。
另一方面,我們最主要的是想給客戶創造一個展示自己的平臺。應該說是會有更多的客戶,不管是競品之間的交流,還是已經有的垂類應用,在過去已經產生的這種貢獻和作用。類似於算力接入各種生產力的場景,也是我們以後想在本次中國生成式AI大會活動中展現出來的。