展會信息港展會大全

“80元部署個(gè)人語音助手”!DeepSeek開啟AI普惠時(shí)代 端側(cè)應(yīng)用打開想象空間
來源:互聯(lián)網(wǎng)   發(fā)布日期:2025-02-08 08:12:14   瀏覽:245次  

導(dǎo)讀:《科創(chuàng)板日報(bào)》2月8日訊(記者 郭輝) “80塊打造個(gè)人語音助手”、“150塊DIY豆包智能機(jī)器人”……隨著DeepSeek的爆火,個(gè)人用戶部署AI大模型一夜間“出圈”?萍冀鐕@AI降本所做的工作并非一夕之功。有業(yè)內(nèi)人士表示,DeepSeek在算法層面的推理成本優(yōu)化,為國產(chǎn)算力芯片和計(jì)算集群網(wǎng)絡(luò)等硬件端的發(fā)展?fàn)幦×烁嗫臻g,而軟硬件成本的減少,也將相應(yīng)為國內(nèi)AI應(yīng)用帶來機(jī)會,由此 ......

《科創(chuàng)板日報(bào)》2月8日訊(記者 郭輝) “80塊打造個(gè)人語音助手”、“150塊DIY豆包智能機(jī)器人”……隨著DeepSeek的爆火,個(gè)人用戶部署AI大模型一夜間“出圈”。

科技界圍繞AI降本所做的工作并非一夕之功。有業(yè)內(nèi)人士表示,DeepSeek在算法層面的推理成本優(yōu)化,為國產(chǎn)算力芯片和計(jì)算集群網(wǎng)絡(luò)等硬件端的發(fā)展?fàn)幦×烁嗫臻g,而軟硬件成本的減少,也將相應(yīng)為國內(nèi)AI應(yīng)用帶來機(jī)會,由此形成產(chǎn)業(yè)發(fā)展正向循環(huán)。

越來越多個(gè)人開發(fā)者低成本的AI模型部署實(shí)踐,讓公眾更加清醒地認(rèn)識到,AI普惠時(shí)代已來,端側(cè)AI落地箭在弦上。PC產(chǎn)品被認(rèn)為是端側(cè)AI模型落地的首站。而受訪的供應(yīng)鏈人士認(rèn)為,當(dāng)前更大的想象空間還在智能眼鏡、AI玩具等智能體等應(yīng)用中,DeepSeek帶來的輕量化模型,將為智能終端行業(yè)帶來積極影響。

個(gè)人用戶部署大模型火爆 40元開發(fā)板月售萬件

“80塊買一塊開發(fā)板,按照教程進(jìn)行硬件連接和固件燒錄,就能接入DeepSeek等大模型,打造個(gè)人語音助手系統(tǒng)!痹诩夹g(shù)社群中,有開發(fā)者分享了部署AI的技術(shù)帖。

不僅如此,《科創(chuàng)板日報(bào)》記者關(guān)注到,花150元還能自行搭建一個(gè)豆包智能機(jī)器人,358元能搭建接入大模型且具備手勢識別、觸摸交互的機(jī)器人……可以說,DeepSeek近期的持續(xù)爆火,使得AI大模型部署的知識交流同樣火熱,也讓低成本搭建AI智能工具進(jìn)入更廣泛的公眾視野。

“萬能的淘寶”和技術(shù)開源貢獻(xiàn),讓這一切加速走進(jìn)現(xiàn)實(shí)。

據(jù)了解,以上方案均基于樂鑫科技的ESP系列芯片。在淘寶搜索ESP32關(guān)鍵詞,可以看到包括樂鑫官方企業(yè)店在內(nèi),有多個(gè)商家售賣開發(fā)板或套件,不同套件價(jià)格低可至20元、配備屏幕及揚(yáng)聲器、麥克風(fēng)的套件價(jià)格可高至340元。

“80元部署個(gè)人語音助手”!DeepSeek開啟AI普惠時(shí)代 端側(cè)應(yīng)用打開想象空間

《科創(chuàng)板日報(bào)》記者關(guān)注到,一套價(jià)格80元的聊天機(jī)器人ESP32-S3開發(fā)套件,全網(wǎng)銷量已超1000件;價(jià)格40元的ESP32-S3開發(fā)板,則顯示月售超1萬件。

在評論區(qū)中,消費(fèi)者以個(gè)人開發(fā)者居多。在購買商品后,商家會附送教學(xué)視頻,同時(shí)還會為用戶提供技術(shù)支持。

“一站式搞定,新手小白也可以操作”、“老板教我教到(晚上)12點(diǎn)半”、“老板晚上10點(diǎn)還在教我燒錄”……多名買家如是反饋產(chǎn)品購買體驗(yàn)。

“80元部署個(gè)人語音助手”!DeepSeek開啟AI普惠時(shí)代 端側(cè)應(yīng)用打開想象空間

據(jù)樂鑫科技介紹,其ESP32-S3芯片硬件具備加速神經(jīng)網(wǎng)絡(luò)計(jì)算和信號處理等工作的向量指令,AI開發(fā)者們通過ESP-DSP和ESP-NN庫使用這些向量指令,能夠?qū)崿F(xiàn)高性能的圖像識別、語音喚醒和識別等應(yīng)用。

有開發(fā)者稱,ESP32-S3支持在本地離線運(yùn)行一些AI模型,比如語音識別、人臉識別和移動檢測。但大部分自然語言對話交互仍需要線上接入大語言模型。

除樂鑫科技外,恒玄科技、中科藍(lán)訊、炬芯科技等公司的SoC芯片在終端AI部署中有所應(yīng)用。

其中,恒玄科技應(yīng)用于可穿戴設(shè)備中的BECO嵌入式AI協(xié)處理器,能夠和主CPU核心配合工作,完成基于神經(jīng)網(wǎng)絡(luò)AI算法的音頻處理,同時(shí)保持較低功耗水準(zhǔn)。

炬芯科技則在其最新一代產(chǎn)品中整合了低功耗AI加速引擎,采用基于SRAM的存內(nèi)計(jì)算技術(shù),同時(shí)將產(chǎn)品逐步升級為CPU、DSP加NPU的三核異構(gòu)計(jì)算架構(gòu),打造低功耗端側(cè)AI算力。

產(chǎn)業(yè)鏈人士:看好DeepSeek對AI端側(cè)的積極影響

DeepSeek的橫空出世,為端側(cè)AI落地應(yīng)用進(jìn)一步打開想象空間。

據(jù)了解,通過蒸餾,大模型推理能力可遷移至小參數(shù)模型,能夠大幅提升AI部署的靈活性。據(jù)光大證券分析師劉凱在2月6日發(fā)布的研報(bào)稱,蒸餾模型有1.5B、7B、8B、14B、32B、70B等多個(gè)版本,雖然蒸餾會損失部分能力,但更小的參數(shù)意味著更大的靈活性。第三方可以從DeepSeek-R1中蒸餾出更多版本的小參數(shù)模型并部署至手機(jī)、筆記本電腦、智能家居產(chǎn)品等各類終端產(chǎn)品中,預(yù)計(jì)將助力硬件銷量提升、并涌現(xiàn)出更多基于AI服務(wù)的付費(fèi)點(diǎn)。

端側(cè)AI落地來勢洶涌,其前景也得到了產(chǎn)業(yè)鏈人士的證實(shí)和看好。

一家存儲芯片廠商人士則向《科創(chuàng)板日報(bào)》記者稱,DeepSeek對于AI端側(cè)的存儲有積極的影響,目前尤其看好端側(cè)AI智能眼鏡產(chǎn)品當(dāng)中的落地。從行業(yè)來看,海外公司Meta的AI眼鏡是32GB容量+2GB的配置,大模型在其中已經(jīng)能夠當(dāng)成本地化工具來使用,而未來可能智能眼鏡存儲容量還要加大。

該人士稱,“預(yù)計(jì)今年國內(nèi)的智能眼鏡肯定會大爆發(fā),起量會在2026年!

一家國內(nèi)消費(fèi)電子配套芯片公司人士向《科創(chuàng)板日報(bào)》記者表示,盡管他們的產(chǎn)品在產(chǎn)業(yè)鏈幾乎最上游,但還是能感受到DeepSeek為智能終端行業(yè)帶來的積極影響。“AI降本之后,終端應(yīng)用預(yù)計(jì)會有大的爆發(fā),繼續(xù)看好眼鏡、玩具、AI手機(jī)、AI PC等消費(fèi)電子!

華安證券分析師陳耀波在2月6日發(fā)布的研報(bào)中表示,端側(cè)實(shí)現(xiàn)AI能力需要端側(cè)AI大模型的落地。從國內(nèi)手機(jī)整機(jī)廠商看,均推出文檔摘要、AI修圖等端側(cè)AI功能,包括華為的盤古模型、小米的MiLM、vivo的藍(lán)心大模型等,基于DeepSeekR1在推理能力上表現(xiàn)出色,若能進(jìn)入AI智能終端,將推出具有強(qiáng)大AI功能的產(chǎn)品,有望提升用戶體驗(yàn)。

以AI眼鏡的產(chǎn)業(yè)鏈為例,光大證券表示,看好與日常需求相結(jié)合產(chǎn)生的巨大市場空間,建議關(guān)注恒玄科技、中科藍(lán)訊、星宸科技、富瀚微、云天勵飛-U、炬芯科技等SoC芯片商;以及普冉股份、兆易創(chuàng)新、佰維存儲、長盈精密等零部件環(huán)節(jié)。

DeepSeek為國產(chǎn)硬件端發(fā)展?fàn)幦「嗫臻g

PC產(chǎn)品同時(shí)包含生產(chǎn)力工具和個(gè)人智能管家兩大屬性,被認(rèn)為是端側(cè)模型落地的首站。以部分PC主機(jī)廠為主導(dǎo),DeepSeek模型與國產(chǎn)算力芯片的適配進(jìn)展超過不少人的想象。

《科創(chuàng)板日報(bào)》記者了解到,日前搭載龍芯中科3A6000處理器的信創(chuàng)PC宣布實(shí)現(xiàn)DeepSeek本地化部署。據(jù)誠邁科技表示,DeepSeek實(shí)現(xiàn)本地部署后,無需依賴云端服務(wù)器,避免了因網(wǎng)絡(luò)波動或服務(wù)器過載導(dǎo)致的服務(wù)中斷,并且也保障了信息安全。比如在黨政機(jī)關(guān)等涉及大量敏感信息和個(gè)人隱私的場景中,用戶通過誠邁信創(chuàng)電腦上的本地部署DeepSeek,能夠完成文檔處理、數(shù)據(jù)分析、內(nèi)容創(chuàng)作、圖片編輯及代碼生成等多項(xiàng)工作,防止數(shù)據(jù)外泄。

國產(chǎn)GPU廠商沐曦則與聯(lián)想合作,推出了面向敏捷部署的DeepSeek智能體一體機(jī)解決問題。該產(chǎn)品搭載的聯(lián)想AI Force智能體開發(fā)平臺,深度融合DeepSeek等主流大模型庫,并通過私有化部署實(shí)現(xiàn)安全合規(guī)以及高度定制化、再開發(fā)能力等。實(shí)測數(shù)據(jù)顯示,在相同并發(fā)條件下,沐曦曦思N260 GPU在Qwen2.5-14B模型推理實(shí)測性能達(dá)到NVIDIA L20 GPU的110%-130%,可支持本地部署DeepSeek各種參數(shù)蒸餾模型推理。

除了本地化部署,DeepSeek作為開源模型,還通過各大云計(jì)算平臺向中小企業(yè)及個(gè)人用戶提供AI服務(wù)資源。

有業(yè)內(nèi)人士向《科創(chuàng)板日報(bào)》記者表示,從商業(yè)模式上來看,目前DeepSeek處于開源狀態(tài),云計(jì)算平臺方遵循開源協(xié)議均可使用。對用戶而言,算力平臺可能會附加算力成本或相關(guān)服務(wù)本,但考慮到算法模型公司的資產(chǎn)投入,云計(jì)算平臺作為“賣水人”,相對而言仍是高效穩(wěn)定的選擇。事實(shí)上,“近期DeepSeek火熱,使得算力平臺需求明顯增多”。

該人士還表示,基于主流云平臺異構(gòu)計(jì)算方案,DeepSeek也在一定程度上推動國產(chǎn)大算力芯片和異構(gòu)計(jì)算方案被市場接納,進(jìn)一步降低了AI訓(xùn)練成本。

目前,阿里、騰訊、超算互聯(lián)網(wǎng)等算力平臺,均已經(jīng)上線DeepSeek系列模型。在算法和算力網(wǎng)絡(luò)的共同優(yōu)化之下,云計(jì)算平臺對DeepSeek模型進(jìn)行適配并提供服務(wù),降低了終端接入大模型的成本和部署門檻。

以阿里云為例,用戶無需編寫代碼,即可云上一鍵部署DeepSeek-V3、DeepSeek-R1,實(shí)現(xiàn)從模型訓(xùn)練到部署再到推理的全過程,極大地簡化了AI模型的開發(fā)流程。在價(jià)格成本方面,阿里云服務(wù)用戶可選取公共資源組搭配節(jié)省計(jì)劃,或購買預(yù)付費(fèi)EAS資源組等方式來節(jié)約成本。超算互聯(lián)網(wǎng)平臺則無需用戶部署或進(jìn)行復(fù)雜操作,可開箱即用DeepSeek模型,并提供不限量免費(fèi)體驗(yàn)服務(wù)。

“端側(cè)大模型的線上接入,相對本地部署更為容易,但整體來看,DeepSeek確實(shí)讓更多AI應(yīng)用落地的軟硬件成本有所減少。”有算力產(chǎn)業(yè)人士表示,DeepSeek在算法層面的優(yōu)化,給了國產(chǎn)硬件端的發(fā)展?fàn)幦×烁嗫臻g,相應(yīng)地也為國內(nèi)AI應(yīng)用帶來機(jī)會,并進(jìn)一步強(qiáng)化了國產(chǎn)AI從算法、算力到應(yīng)用的生態(tài)閉環(huán)。

(科創(chuàng)板日報(bào)記者 郭輝)

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
展開

熱門欄目HotCates

Copyright © 2010-2025 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會 | 展會港