展會(huì)信息港展會(huì)大全

端側(cè)AI如何起飛?
來源:互聯(lián)網(wǎng)   發(fā)布日期:2025-03-14 08:54:02   瀏覽:128次  

導(dǎo)讀:兩年前,ChatGPT點(diǎn)燃了全球生成式AI技術(shù)研發(fā)熱潮,端側(cè)AI應(yīng)運(yùn)而生。近兩個(gè)月以來,DeepSeek以開源之姿,再次在全球人工智能領(lǐng)域掀起一股AI新潮。在AI大潮的諸多“弄潮兒”中,端側(cè)AI率先沖刺,助推AI應(yīng)用進(jìn)一步落地。就在端側(cè)AI發(fā)展黃金期到來之際,作為硬件基礎(chǔ)的芯片,通過算力優(yōu)化和場景適配成為其中的核心驅(qū)動(dòng)力;與此同時(shí),率先布局的相關(guān)企業(yè)將有望吃到端側(cè)AI爆發(fā)的第一 ......

兩年前,ChatGPT點(diǎn)燃了全球生成式AI技術(shù)研發(fā)熱潮,端側(cè)AI應(yīng)運(yùn)而生。近兩個(gè)月以來,DeepSeek以開源之姿,再次在全球人工智能領(lǐng)域掀起一股AI新潮。在AI大潮的諸多“弄潮兒”中,端側(cè)AI率先沖刺,助推AI應(yīng)用進(jìn)一步落地。就在端側(cè)AI發(fā)展黃金期到來之際,作為硬件基礎(chǔ)的芯片,通過算力優(yōu)化和場景適配成為其中的核心驅(qū)動(dòng)力;與此同時(shí),率先布局的相關(guān)企業(yè)將有望吃到端側(cè)AI爆發(fā)的第一波紅利。端側(cè)AI奏響“集結(jié)號(hào)”端側(cè)AI如何起飛?

蘋果M3 Ultra機(jī)型支持本地部署大模型

近期,端側(cè)AI在多領(lǐng)域落地的動(dòng)作不斷。消費(fèi)電子領(lǐng)域,聯(lián)想于2月25日發(fā)布其AI PC新品YOGA2025系列,本地部署DeepSeek-7B,成為全球首家在終端設(shè)備上部署此規(guī)模大模型的廠商。3月5日,蘋果時(shí)隔兩年重磅更新的MacStudio配備了全新M3 Ultra和M4 Max芯片兩個(gè)版本,蘋果宣稱 M3 Ultra 版本 Mac Studio 支持本地部署 6000億參數(shù)的AI大模型運(yùn)行。此外,近日華為的AI PC也傳出新消息,預(yù)計(jì)其自研商用AI筆記本將在四月發(fā)布,除了搭載全面集成的DeepSeek大模型,其芯片及零部件或?qū)?shí)現(xiàn)全自研。汽車領(lǐng)域,小米SU7 Ultra于2月27日上市,雷軍通過微博宣布Xiaomi HAD端到端全場景智駕開啟全量推送,小米SU7 Ultra出廠即搭載該智駕系統(tǒng)。吉利在3月3日的AI智能科技發(fā)布會(huì)上宣布完成全域AI智能化布局,其中階躍星辰提供通用大模型技術(shù),與吉利聯(lián)合開源多模態(tài)交互框架,實(shí)現(xiàn)文本、語音、圖像數(shù)據(jù)的融合理解。此外,吉利自研的超級智算中心2.0,算力資源超越萬卡,綜合算力達(dá)到23.5EFLOPS。端側(cè)AI如何起飛?

吉利千里浩瀚H9配備雙 Thor芯片,還運(yùn)用了車端AI大模型事實(shí)上,除了上述高熱度的領(lǐng)域,端側(cè)AI還在涉及面更加廣闊的IoT等領(lǐng)域加速落地。例如,今年2月,深思考人工智能在全球開發(fā)者大會(huì)上正式發(fā)布鴻蒙系統(tǒng)TinyDongni&deepseek超小端側(cè)多模態(tài)大模型及硬件模組,并聯(lián)合國產(chǎn)模組廠商推出兩大解決方案,一方面為車載、機(jī)器人等場景提供實(shí)時(shí)AI處理能力,另一方面賦能工業(yè)檢測、AI攝像頭等高精度場景。深思考創(chuàng)始人& CEO楊志明表示,超小端側(cè)多模態(tài)大模型及硬件模組的發(fā)布,不僅是技術(shù)的突破,更是端側(cè)AI普惠化的里程碑。未來將持續(xù)優(yōu)化多模態(tài)交互能力,推動(dòng)AI在醫(yī)療、工業(yè)、消費(fèi)等領(lǐng)域的深度應(yīng)用!暗靡嬗谒懔εc模型優(yōu)化,端側(cè)人工智能的進(jìn)步速度將呈現(xiàn)指數(shù)級躍升!甭(lián)想集團(tuán)董事長兼 CEO 楊元慶認(rèn)為,兩者進(jìn)步的疊加效應(yīng)有望在未來12個(gè)月實(shí)現(xiàn)3倍的整體性能提升。高質(zhì)量AI模型是普及關(guān)鍵大模型紛紛部署于端側(cè)之際,科技企業(yè)高調(diào)發(fā)力端側(cè)AI,相關(guān)產(chǎn)品和應(yīng)用紛紛上市。這背后的動(dòng)作并不算新鮮,但根本動(dòng)力卻與以往大不相同。那么,端側(cè)AI落地,時(shí)機(jī)是否已經(jīng)成熟?在AI百模大戰(zhàn)的時(shí)代,焦點(diǎn)在云數(shù)據(jù)中心的集中式訓(xùn)練,但AI釋放價(jià)值的關(guān)鍵更多在于推理。端側(cè)AI如何起飛?

聯(lián)想三折疊AI PC概念機(jī)“AI推理將從云端下沉到我們身邊,無處不在!盇rm物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健告訴記者解釋道,如果我們生活在連接帶寬無限大、延時(shí)無限低、成本接近零的世界,那么AI部署在集中式數(shù)據(jù)中心是最有效的。但是這個(gè)假設(shè)并不成立,來自海量傳感器、攝像頭的視覺、聲音等數(shù)據(jù)都回傳到云端是不現(xiàn)實(shí)的,尤其是在對延時(shí)、隱私以及可靠性有嚴(yán)格要求的場景,邊緣AI勢在必行。以DeepSeek為代表的開源模型,加速了AI從云走向端的進(jìn)程,其帶來的影響之一就是支持邊緣設(shè)備,使得高性能AI應(yīng)用能夠在邊緣設(shè)備上順利運(yùn)行。達(dá)摩院首席科學(xué)家、知合計(jì)算CEO孟建熠指出,大模型在云端的話,實(shí)施成本比較高,只有有限的企業(yè)可能在部分領(lǐng)域應(yīng)用,而一旦到了端側(cè),就有大量的應(yīng)用都會(huì)發(fā)展起來。從目前的一些趨勢來看,終端AI模型的質(zhì)量、性能和效率正在顯著提高。為此,高通高級副總裁兼技術(shù)規(guī)劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉(DurgaMalladi)以及市場資深經(jīng)理Jerry Chang在其博文中從以下四方面進(jìn)行了總結(jié)。首先,當(dāng)前先進(jìn)的AI小模型已具有卓越性能。模型蒸餾和新穎的AI網(wǎng)絡(luò)架構(gòu)等新技術(shù)能夠在不影響質(zhì)量的情況下簡化開發(fā)流程,讓新模型的表現(xiàn)超越一年前推出的僅能在云端運(yùn)行的更大模型。其次,模型參數(shù)規(guī)模正在快速縮小。先進(jìn)的量化和剪枝技術(shù)使開發(fā)者能夠在不對準(zhǔn)確性產(chǎn)生實(shí)質(zhì)影響的情況下,縮小模型參數(shù)規(guī)模。第三,開發(fā)者能夠在邊緣側(cè)打造更豐富的應(yīng)用。高質(zhì)量AI模型快速激增,意味著文本摘要、編程助手和實(shí)時(shí)翻譯等特性在智能手機(jī)等終端上的普及,讓AI能夠支持跨邊緣側(cè)規(guī);渴鸬纳逃脩(yīng)用。第四,AI正在成為新的UI。個(gè)性化多模態(tài)AI智能體將簡化交互,高效地跨越各種應(yīng)用完成任務(wù)。芯片是新周期核心驅(qū)動(dòng)力雖然DeepSeek等大模型通過技術(shù)革新降低了端側(cè)AI的門檻,但不足以構(gòu)成端側(cè)AI起飛的充分條件。作為硬件基礎(chǔ)的芯片,通過算力優(yōu)化和場景適配成為端側(cè)AI落地的核心驅(qū)動(dòng)力。對于硬件玩家來說,端側(cè)形態(tài)各異的設(shè)備與豐富應(yīng)用,蘊(yùn)藏著巨大的市場空間。為此,相關(guān)芯片企業(yè)爭相在端側(cè)AI領(lǐng)域布局。大模型、智能體在邊緣側(cè)的落地需要具備更高性能和能效的邊緣計(jì)算平臺(tái)。2月底,Arm發(fā)布新一代邊緣AI計(jì)算平臺(tái)Armv9,可運(yùn)行超10億參數(shù)的端側(cè)AI模型。此外,Arm近日與阿里巴巴合作,通過 KleidiAI 與通義千問模型的集成,加速端側(cè)多模態(tài)AI體驗(yàn)。多年前高通就已經(jīng)為此做了準(zhǔn)備。高通早在十五年前就開始在終端側(cè)開展針對AI的研究,其AI引擎已迭代到第十代;去年3月推出AIHUB,幫助不同開發(fā)者優(yōu)化模型,使其部署在不同平臺(tái)上。端側(cè)AI如何起飛?

搭載瑞芯微SOC芯片的桌面機(jī)器人可作為智能家居的主控中心對于芯片企業(yè)而言,通過硬件創(chuàng)新推動(dòng)端側(cè)AI市場向上攀升的同時(shí),也讓自身吃到更多紅利。以我國AIoT芯片領(lǐng)域的代表性企業(yè)瑞芯微為例,其在端側(cè)AI方面可提供從0.2TOPs到6TOPs的不同算力水平的AIoT芯片。據(jù)悉,當(dāng)前已有多個(gè)領(lǐng)域的客戶基于瑞芯微主控芯片研發(fā)在端側(cè)支持AI大模型的新硬件,如教育平板、AI 玩具、桌面機(jī)器人、算力終端、會(huì)議主機(jī)等產(chǎn)品。根據(jù)瑞芯微公布的2024年業(yè)績預(yù)告,預(yù)計(jì)其2024年?duì)I收31億元到31.5億元,同比增長45.23%到47.57%;預(yù)計(jì)實(shí)現(xiàn)凈利潤5.5億到6.3億元,同比增長307.75%到367.06%。業(yè)績增長背后,是AI技術(shù)快速發(fā)展、應(yīng)用場景不斷拓展對AIoT業(yè)務(wù)的帶動(dòng)。業(yè)內(nèi)人士向記者表示,端側(cè)AI芯片的核心需求包括低功耗、高能效比和靈活適配多樣化場景。伴隨端側(cè)AI發(fā)展黃金期的到來,芯片行業(yè)在推動(dòng)AI應(yīng)用普及的同時(shí),將擁有更多成長機(jī)會(huì)。作者丨楊鵬岳編輯丨張心怡監(jiān)制丨連曉東

贊助本站

相關(guān)熱詞: 端側(cè)ai 集成電路 小米 吉利

相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開

熱門欄目HotCates

Copyright © 2010-2025 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港