本文系深潛atom第841篇原創(chuàng)作品
大模型和智算已成為引領(lǐng)數(shù)字化轉(zhuǎn)型的新質(zhì)生產(chǎn)力,提升各行業(yè)效率勢不可擋。8月27日,商湯發(fā)布上半年財報。財報顯示,商湯科技總營收17.4億元,同比增長21%。整體毛利潤為近8億元,同比增長18%,毛利率為44%。
其中尤其值得關(guān)注的是,商湯已經(jīng)階段性完成了從傳統(tǒng)AI向生成式AI的轉(zhuǎn)型。2024年上半年,商湯生成式AI業(yè)務(wù)收入大幅增長256%至近11億元,占總收入比重的60%。
現(xiàn)如今,國內(nèi)大模型價格戰(zhàn)將市場競爭推向白熱化,大模型企業(yè)脫穎而出的關(guān)鍵,一個是算力基礎(chǔ),另外一個是大模型服務(wù)能力。商湯生成式AI營收增長,核心在于其同時抓住了這兩點技術(shù)和服務(wù)優(yōu)勢。
自2018年起,商湯科技就開始了對于大模型的研發(fā);2021年推出AI基礎(chǔ)設(shè)施商湯大裝置SenseCore。大裝置+大模型的深度協(xié)同,在技術(shù)迭代更快的同時,還能充分利用龐大的算力資源,來優(yōu)化推理成本,實現(xiàn)推理彈性,更早地產(chǎn)生規(guī)模效應(yīng)。
在市場層面,具備技術(shù)和服務(wù)優(yōu)勢,又能夠以AI原生公司中立身份和開放合作的姿態(tài),深入到智能硬件、新能源汽車、機器人、醫(yī)療、金融等行業(yè)細分賽道,讓商湯更容易獲得客戶認可,從而順利完成戰(zhàn)略轉(zhuǎn)型。
“大裝置+大模型”深度協(xié)同,解決應(yīng)用端兩大基礎(chǔ)需求
短短半年時間,生成式AI的市場接受度,已經(jīng)超過了傳統(tǒng)AI。伴隨著商湯科技生成式AI的大幅度提升,似乎也昭示著,我們已經(jīng)一只腳邁入了通用人工智能(AGI)時代。
商湯董事長兼CEO徐立表示,商湯科技全面向生成式AI轉(zhuǎn)型升級的戰(zhàn)略目標(biāo)已階段性達成,生成式AI迎來黃金發(fā)展時期,商湯科技正處于下一波增長的有利位置。
在深潛atom看來,商湯能夠快速實現(xiàn)戰(zhàn)略轉(zhuǎn)型,背后的核心離不開大模型和大裝置的深度協(xié)同,這使得商湯能夠快速迭代模型并降低推理成本。
大模型井噴的年代,幾乎所有公司都已經(jīng)高度認可大模型的重要性。然而,總有一些公司是超前預(yù)判到這一市場的發(fā)展軌跡。商湯科技是最早布局生成式AI領(lǐng)域的公司之一,早在2018年起便致力于AI大模型的研發(fā),并且是國內(nèi)最早一批投入人工智能基礎(chǔ)設(shè)施的公司之一。
2024年4月,商湯推出“日日新5.0”大模型,并在7月升級為“日日新5.5”。能夠在短短半年時間,完成兩次大模型的迭代,對商湯科技的技術(shù)實力評估,并不能單純被放到應(yīng)用層。更為重要的是,商湯科技構(gòu)建的AI基礎(chǔ)設(shè)施大裝置,其平臺規(guī)模和算力資源為生成式AI(包括大模型研究及產(chǎn)品開發(fā))的進一步發(fā)展打下基矗
算力基礎(chǔ)設(shè)施的完善為技術(shù)突破提供重要支撐,通過SenseCore大裝置與生成式AI算法的協(xié)同,模型性能和效率不斷提升,智算服務(wù)的規(guī);(yīng)已經(jīng)逐步顯露。
在智算服務(wù)方面,商湯大裝置運營總算力規(guī)模已突破20,000P,上線GPU數(shù)量達到5.4萬張,穩(wěn)居行業(yè)領(lǐng)先地位。具備從千卡集群到萬卡集群的設(shè)計、建設(shè)、和靈活調(diào)度運營的成熟能力,能夠支持高達2萬億參數(shù)的MoE多模態(tài)模型的穩(wěn)定高效訓(xùn)練和推理。在推理場景中,以創(chuàng)新的技術(shù)架構(gòu)實現(xiàn)了相同算力及電力成本下的每秒請求數(shù)(QPS)提升4倍,并實現(xiàn)了推理服務(wù)彈性按需伸縮,優(yōu)化了大規(guī)模AI推理的整體成本。此外,基于原創(chuàng)的訓(xùn)推一體、算電協(xié)同等技術(shù)創(chuàng)新,持續(xù)提高萬卡集群的GPU資源利用率至最高80%以上,提升AIDC的整體運營回報率。
在足夠的算力基礎(chǔ)上,大模型可以更快速地完成更新迭代。這也是日日新大模型,能夠支持多達10T Tokens的中英文訓(xùn)練數(shù)據(jù),推理合成數(shù)據(jù)高達數(shù)千億Token的數(shù)據(jù)規(guī)模下,還能夠保持迭代能力,讓“日日新5.5”能力對標(biāo)GPT-4o的原因。
商湯基于“日日新5.5”生成不同規(guī)模的模型,以提供全面的企業(yè)級生成式AI解決方案,覆蓋云端、本地數(shù)據(jù)中心和終端設(shè)備,從而持續(xù)賦能各行各業(yè)。而大模型和智算成為新質(zhì)生產(chǎn)力,商湯把握這波機遇,也幫助客戶贏得生成式AI時代的收入增長機會。除互聯(lián)網(wǎng)行業(yè)外,智能硬件、新能源汽車、機器人、醫(yī)療、金融等行業(yè)也積極采用生成式AI技術(shù),形成多個巨大的垂直市場,機遇隨之井噴。
大模型進入應(yīng)用下半場,跨賽道輻射3000+客戶
根據(jù)IDC近期發(fā)布的市場份額報告,商湯的大模型平臺及應(yīng)用以16%市場份額排名行業(yè)第二,智算服務(wù)以15.4%市場份額躋身行業(yè)前三。
商湯生成式AI已深入各行各業(yè),為超過3000家行業(yè)頭部企業(yè)提供大模型及AIDC服務(wù)。其中AIDC服務(wù)客戶包括京東、小米、金山辦公等互聯(lián)網(wǎng)公司、三大運營商、以吉利為代表的車企、以清華為代表的高校、頭部大模型創(chuàng)業(yè)公司等。
智能汽車也成為了大模型應(yīng)用賦能的重要領(lǐng)域。2024年上半年,商湯絕影智能汽車新增交付70.5萬輛,同比增長80.0%,累計交付車輛數(shù)達到260萬輛、覆蓋104個車型,與奧迪、大眾、本田、寶馬、小米、上汽智己、吉利等10余家海內(nèi)外車廠建立車艙大模型的合作。從營收上看,絕影智能汽車業(yè)務(wù)帶來了1.68億元收入,同比增長100.4%。
2024年4月23日,伴隨“日日新 5.0”體系上線,帶來了首個面向金融行業(yè)的多模態(tài)全棧式大模型,結(jié)合海通證券的真實應(yīng)用場景,構(gòu)建了符合金融行業(yè)的完整思維鏈,重點落地智能問答、智能研發(fā)、智能研報等業(yè)務(wù)環(huán)節(jié),標(biāo)志著大模型技術(shù)在金融行業(yè)應(yīng)用實現(xiàn)了重要突破。
生成式AI的出現(xiàn),讓智慧醫(yī)療大跨步邁入3.0時代。2024年上半年,商湯醫(yī)療智能調(diào)度覆蓋醫(yī)學(xué)文本、放射影像、病理圖像等多種數(shù)據(jù)模態(tài)的專用模型,輔助醫(yī)生完成跨科室、跨模態(tài)的復(fù)雜診斷推理的大語言模型“大醫(yī)”,已經(jīng)在上海交通大學(xué)醫(yī)學(xué)院附屬瑞金醫(yī)院、四川大學(xué)華西醫(yī)院、上海交通大學(xué)醫(yī)學(xué)院附屬新華醫(yī)院、空軍軍醫(yī)大學(xué)西京醫(yī)院、中國科學(xué)技術(shù)大學(xué)附屬第一醫(yī)院、清華大學(xué)附屬北京清華長庚醫(yī)院等醫(yī)院建立智慧醫(yī)院建設(shè)示范樣板。
此外,基于語言大模型打造的 AI Native 生產(chǎn)力系列工具,商湯推出了小浣熊家族,現(xiàn)已擁有代碼小浣熊和辦公小浣熊兩位產(chǎn)品成員,覆蓋軟件開發(fā)、數(shù)據(jù)分析、編程教育諸多場景,成為國內(nèi)增長最快的Copilot產(chǎn)品之一。在中國信通院“可信AI代碼大模型評估”中,代碼小浣熊大模型榮獲4+級最高評級。上線以來,代碼小浣熊累計為10萬+個人用戶提供服務(wù),并且被200+企業(yè)客戶使用。中國電信、金山辦公等大型企業(yè)用戶,以及數(shù)十萬個人用戶和開發(fā)者已經(jīng)成為了“小浣熊”的用戶。
在數(shù)字人領(lǐng)域,商湯基于“商量”語言大模型和“如影”數(shù)字人視頻生成技術(shù),與上海銀行聯(lián)合打造了AI數(shù)字員工“海小智”和“海小慧”,均完成了2000條問答數(shù)據(jù)和10萬條語料數(shù)據(jù)的知識庫訓(xùn)練,具備專業(yè)豐富的金融知識問答能力,且精通全行4000多款金融產(chǎn)品所有細節(jié),F(xiàn)如今,兩個數(shù)字人員工已經(jīng)在上海銀行手機銀行APP、e事通APP、元宇宙銀行等多種渠道上線,讓老年客戶輕松辦理手機銀行業(yè)務(wù)。
總而言之,“大裝置+大模型”深度協(xié)同的戰(zhàn)略模式,讓商湯科技在原生多模態(tài)、視頻流自然交互、以及低成本模型推理架構(gòu)上構(gòu)建獨特的優(yōu)勢,從而在激烈的市場競爭中脫穎而出。但這并不意味著這可以在短時間內(nèi)成為現(xiàn)實。
《中國人工智能軟件市場份額,2023:大模型帶來新生機》顯示,商湯連續(xù)八年蟬聯(lián)第一。可見,商湯在AI1.0時代積累了足夠多的客戶。新的戰(zhàn)略下,商湯憑借AI1.0時代積累的大量優(yōu)質(zhì)客戶和口碑,可以迅速轉(zhuǎn)化為生成式AI時代的新動力。
正因如此,商湯科技生成式AI才能夠迎來多元化落地。生成式AI實現(xiàn)營收10.5億元,以及日日新整體調(diào)用量實現(xiàn)400%的增長,客戶數(shù)和客戶平均調(diào)用規(guī)模均大幅增長。
在技術(shù)、服務(wù)和市場的多重加持下,商湯科技的應(yīng)用用戶增長和用戶活躍度增加是可預(yù)見的現(xiàn)實。與此同時,用戶的表現(xiàn)也將帶動商湯大模型和算力的使用量、調(diào)用量的增加。雙贏的合作中,行業(yè)也將迎來正向發(fā)展,AGI時代也將加速而來。