兩年前，ChatGPT點(diǎn)燃了全球生成式AI技術(shù)研發(fā)熱潮，端側(cè)AI應(yīng)運(yùn)而生。近兩個(gè)月以來，DeepSeek以開源之姿，再次在全球人工智能領(lǐng)域掀起一股AI新潮。在AI大潮的諸多“弄潮兒”中，端側(cè)AI率先沖刺，助推AI應(yīng)用進(jìn)一步落地。就在端側(cè)AI發(fā)展黃金期到來之際，作為硬件基礎(chǔ)的芯片，通過算力優(yōu)化和場景適配成為其中的核心驅(qū)動(dòng)力；與此同時(shí)，率先布局的相關(guān)企業(yè)將有望吃到端側(cè)AI爆發(fā)的第一波紅利。端側(cè)AI奏響“集結(jié)號(hào)”
蘋果M3 Ultra機(jī)型支持本地部署大模型
近期，端側(cè)AI在多領(lǐng)域落地的動(dòng)作不斷。消費(fèi)電子領(lǐng)域，聯(lián)想于2月25日發(fā)布其AI PC新品YOGA2025系列，本地部署DeepSeek-7B，成為全球首家在終端設(shè)備上部署此規(guī)模大模型的廠商。3月5日，蘋果時(shí)隔兩年重磅更新的MacStudio配備了全新M3 Ultra和M4 Max芯片兩個(gè)版本，蘋果宣稱 M3 Ultra 版本 Mac Studio 支持本地部署 6000億參數(shù)的AI大模型運(yùn)行。此外，近日華為的AI PC也傳出新消息，預(yù)計(jì)其自研商用AI筆記本將在四月發(fā)布，除了搭載全面集成的DeepSeek大模型，其芯片及零部件或?qū)?shí)現(xiàn)全自研。汽車領(lǐng)域，小米SU7 Ultra于2月27日上市，雷軍通過微博宣布Xiaomi HAD端到端全場景智駕開啟全量推送，小米SU7 Ultra出廠即搭載該智駕系統(tǒng)。吉利在3月3日的AI智能科技發(fā)布會(huì)上宣布完成全域AI智能化布局，其中階躍星辰提供通用大模型技術(shù)，與吉利聯(lián)合開源多模態(tài)交互框架，實(shí)現(xiàn)文本、語音、圖像數(shù)據(jù)的融合理解。此外，吉利自研的超級智算中心2.0，算力資源超越萬卡，綜合算力達(dá)到23.5EFLOPS。
吉利千里浩瀚H9配備雙 Thor芯片，還運(yùn)用了車端AI大模型事實(shí)上，除了上述高熱度的領(lǐng)域，端側(cè)AI還在涉及面更加廣闊的IoT等領(lǐng)域加速落地。例如，今年2月，深思考人工智能在全球開發(fā)者大會(huì)上正式發(fā)布鴻蒙系統(tǒng)TinyDongni&deepseek超小端側(cè)多模態(tài)大模型及硬件模組，并聯(lián)合國產(chǎn)模組廠商推出兩大解決方案，一方面為車載、機(jī)器人等場景提供實(shí)時(shí)AI處理能力，另一方面賦能工業(yè)檢測、AI攝像頭等高精度場景。深思考創(chuàng)始人& CEO楊志明表示，超小端側(cè)多模態(tài)大模型及硬件模組的發(fā)布，不僅是技術(shù)的突破，更是端側(cè)AI普惠化的里程碑。未來將持續(xù)優(yōu)化多模態(tài)交互能力，推動(dòng)AI在醫(yī)療、工業(yè)、消費(fèi)等領(lǐng)域的深度應(yīng)用�！暗靡嬗谒懔εc模型優(yōu)化，端側(cè)人工智能的進(jìn)步速度將呈現(xiàn)指數(shù)級躍升�！甭�(lián)想集團(tuán)董事長兼 CEO 楊元慶認(rèn)為，兩者進(jìn)步的疊加效應(yīng)有望在未來12個(gè)月實(shí)現(xiàn)3倍的整體性能提升。高質(zhì)量AI模型是普及關(guān)鍵大模型紛紛部署于端側(cè)之際，科技企業(yè)高調(diào)發(fā)力端側(cè)AI，相關(guān)產(chǎn)品和應(yīng)用紛紛上市。這背后的動(dòng)作并不算新鮮，但根本動(dòng)力卻與以往大不相同。那么，端側(cè)AI落地，時(shí)機(jī)是否已經(jīng)成熟？在AI百模大戰(zhàn)的時(shí)代，焦點(diǎn)在云數(shù)據(jù)中心的集中式訓(xùn)練，但AI釋放價(jià)值的關(guān)鍵更多在于推理。
聯(lián)想三折疊AI PC概念機(jī)“AI推理將從云端下沉到我們身邊，無處不在�！盇rm物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健告訴記者解釋道，如果我們生活在連接帶寬無限大、延時(shí)無限低、成本接近零的世界，那么AI部署在集中式數(shù)據(jù)中心是最有效的。但是這個(gè)假設(shè)并不成立，來自海量傳感器、攝像頭的視覺、聲音等數(shù)據(jù)都回傳到云端是不現(xiàn)實(shí)的，尤其是在對延時(shí)、隱私以及可靠性有嚴(yán)格要求的場景，邊緣AI勢在必行。以DeepSeek為代表的開源模型，加速了AI從云走向端的進(jìn)程，其帶來的影響之一就是支持邊緣設(shè)備，使得高性能AI應(yīng)用能夠在邊緣設(shè)備上順利運(yùn)行。達(dá)摩院首席科學(xué)家、知合計(jì)算CEO孟建熠指出，大模型在云端的話，實(shí)施成本比較高，只有有限的企業(yè)可能在部分領(lǐng)域應(yīng)用，而一旦到了端側(cè)，就有大量的應(yīng)用都會(huì)發(fā)展起來。從目前的一些趨勢來看，終端AI模型的質(zhì)量、性能和效率正在顯著提高。為此，高通高級副總裁兼技術(shù)規(guī)劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉（DurgaMalladi）以及市場資深經(jīng)理Jerry Chang在其博文中從以下四方面進(jìn)行了總結(jié)。首先，當(dāng)前先進(jìn)的AI小模型已具有卓越性能。模型蒸餾和新穎的AI網(wǎng)絡(luò)架構(gòu)等新技術(shù)能夠在不影響質(zhì)量的情況下簡化開發(fā)流程，讓新模型的表現(xiàn)超越一年前推出的僅能在云端運(yùn)行的更大模型。其次，模型參數(shù)規(guī)模正在快速縮小。先進(jìn)的量化和剪枝技術(shù)使開發(fā)者能夠在不對準(zhǔn)確性產(chǎn)生實(shí)質(zhì)影響的情況下，縮小模型參數(shù)規(guī)模。第三，開發(fā)者能夠在邊緣側(cè)打造更豐富的應(yīng)用。高質(zhì)量AI模型快速激增，意味著文本摘要、編程助手和實(shí)時(shí)翻譯等特性在智能手機(jī)等終端上的普及，讓AI能夠支持跨邊緣側(cè)規(guī)�；渴鸬纳逃脩�(yīng)用。第四，AI正在成為新的UI。個(gè)性化多模態(tài)AI智能體將簡化交互，高效地跨越各種應(yīng)用完成任務(wù)。芯片是新周期核心驅(qū)動(dòng)力雖然DeepSeek等大模型通過技術(shù)革新降低了端側(cè)AI的門檻，但不足以構(gòu)成端側(cè)AI起飛的充分條件。作為硬件基礎(chǔ)的芯片，通過算力優(yōu)化和場景適配成為端側(cè)AI落地的核心驅(qū)動(dòng)力。對于硬件玩家來說，端側(cè)形態(tài)各異的設(shè)備與豐富應(yīng)用，蘊(yùn)藏著巨大的市場空間。為此，相關(guān)芯片企業(yè)爭相在端側(cè)AI領(lǐng)域布局。大模型、智能體在邊緣側(cè)的落地需要具備更高性能和能效的邊緣計(jì)算平臺(tái)。2月底，Arm發(fā)布新一代邊緣AI計(jì)算平臺(tái)Armv9，可運(yùn)行超10億參數(shù)的端側(cè)AI模型。此外，Arm近日與阿里巴巴合作，通過 KleidiAI 與通義千問模型的集成，加速端側(cè)多模態(tài)AI體驗(yàn)。多年前高通就已經(jīng)為此做了準(zhǔn)備。高通早在十五年前就開始在終端側(cè)開展針對AI的研究，其AI引擎已迭代到第十代；去年3月推出AIHUB，幫助不同開發(fā)者優(yōu)化模型，使其部署在不同平臺(tái)上。
搭載瑞芯微SOC芯片的桌面機(jī)器人可作為智能家居的主控中心對于芯片企業(yè)而言，通過硬件創(chuàng)新推動(dòng)端側(cè)AI市場向上攀升的同時(shí)，也讓自身吃到更多紅利。以我國AIoT芯片領(lǐng)域的代表性企業(yè)瑞芯微為例，其在端側(cè)AI方面可提供從0.2TOPs到6TOPs的不同算力水平的AIoT芯片。據(jù)悉，當(dāng)前已有多個(gè)領(lǐng)域的客戶基于瑞芯微主控芯片研發(fā)在端側(cè)支持AI大模型的新硬件，如教育平板、AI 玩具、桌面機(jī)器人、算力終端、會(huì)議主機(jī)等產(chǎn)品。根據(jù)瑞芯微公布的2024年業(yè)績預(yù)告，預(yù)計(jì)其2024年?duì)I收31億元到31.5億元，同比增長45.23%到47.57%；預(yù)計(jì)實(shí)現(xiàn)凈利潤5.5億到6.3億元，同比增長307.75%到367.06%。業(yè)績增長背后，是AI技術(shù)快速發(fā)展、應(yīng)用場景不斷拓展對AIoT業(yè)務(wù)的帶動(dòng)。業(yè)內(nèi)人士向記者表示，端側(cè)AI芯片的核心需求包括低功耗、高能效比和靈活適配多樣化場景。伴隨端側(cè)AI發(fā)展黃金期的到來，芯片行業(yè)在推動(dòng)AI應(yīng)用普及的同時(shí)，將擁有更多成長機(jī)會(huì)。作者丨楊鵬岳編輯丨張心怡監(jiān)制丨連曉東
