今年11月初,炬芯科技正式發(fā)布了第一代基于模數(shù)混合電路實現(xiàn)的SRAM based CIM(Mixed-mode SRAM based CIM,簡稱MMSCIM)端側AI音頻芯片,引發(fā)了市場的關注。
近日,炬芯科技在珠海總部召開媒體溝通會,炬芯科技董事長兼CEO周正宇博士介紹了公司發(fā)展現(xiàn)狀及產(chǎn)品布局的同時,也詳細解析了最新的MMSCIM端側AI音頻芯片。
到國際市場上去替代:成功進入三大頂級音響品牌
炬芯團隊源于2001年成立的炬力集成電路設計有限公司(以下簡稱“炬力”),期間經(jīng)歷了炬力登陸納斯達克,隨后又從納斯達克私有化退市,再到成立炬芯,2021年成功登陸科創(chuàng)板,發(fā)展至今已有了20多年的時間,是國內(nèi)最早一批集成電路設計企業(yè)之一。
炬芯成立以來一直聚焦于低功耗無線音頻芯片領域(相關產(chǎn)品在其營收當中占比約70%,此外也有便攜式音視頻SoC芯片和端側AI處理器),憑借專業(yè)的研發(fā)團隊以及20多年的技術沉淀和積累,多元化的產(chǎn)品布局,成功覆蓋了藍牙音箱、TWS/OWS耳機、智能手表、錄音筆、語音遙控器、無線麥克風、無線電競耳機、無線家庭影院、AR眼鏡等眾多市場。
截至目前,炬芯已經(jīng)擁有了超過300項全球?qū)@约俺^100家品牌客戶,其中除了華為、OPPO、小米、榮耀、傳音、realme、TCL、海信等國產(chǎn)智能手機/智能硬件/家電品牌客戶,還有羅德、猛瑪、DJI等專業(yè)的無線麥克風品牌廠商,除此以外還包括安克創(chuàng)新、西伯利亞、TOZO等知名品牌,更為關鍵的是,炬芯還進入了國際一線音響品牌哈曼、索尼、BOSE的供應鏈。
“近年來,國內(nèi)國產(chǎn)替代比較熱,炬芯也確實受益于國產(chǎn)替代,我們在國內(nèi)也成為了很多國產(chǎn)品牌替代高通、NXP、AKM的選擇。但是,我想要強調(diào)的是,炬芯是一家具備全球視野的專業(yè)音頻芯片品牌廠商。”周正宇博士面帶微笑地指出:“我們是以國際的芯片品牌(例如高通、聯(lián)發(fā)科)為主要目標,在國際市場上去進行替代,并且近兩年也成功獲得了哈曼、索尼、BOSE這三大國際一線品牌客戶的認可!
對于炬芯為何能夠獲得這些頂級品牌和頭部品牌的認可,周正宇博士給出的三大關鍵要素是:品質(zhì)、供應鏈和專利布局以及合規(guī)。
第一,一線品牌廠商對于產(chǎn)品的品質(zhì)的要求非常高,所以需要提供的高品質(zhì)的音頻芯片,核心就是高音質(zhì)、低延時、低功耗、,高一致性,高可靠性。而炬芯在低功耗無線音頻芯片方面有著20多年的技術沉淀和經(jīng)驗積累和品牌合作經(jīng)驗。
第二,一線品牌廠商對于供應鏈安全非常注重,需要有穩(wěn)妥的供應保障,產(chǎn)能保障,產(chǎn)品長生命周期功耗保障等。
第三,一線品牌廠商在技術專利布局以及合規(guī)方面也很看重,芯片供應商需要在技術和專利上干凈、沒有漏洞以及有自己創(chuàng)新專利技術,讓品牌客戶用的放心。
憑借20多年在音頻領域的技術積累以及海內(nèi)外上市的經(jīng)驗,炬芯在產(chǎn)品品質(zhì)、供應鏈和專利布局以及合規(guī)方面早已經(jīng)具備了與一線品牌客戶匹配的能力。
比如在音質(zhì)方面,一方面是需要把信號鏈做得足夠好,另一方面則是要基于對聲學心理學的理解,開發(fā)出各種優(yōu)秀的音效算法和調(diào)音技術。
周正宇博士告訴芯智訊:“我們內(nèi)置在SoC里的ADC/DAC的信噪比和底噪,已經(jīng)可以做到跟外置的ADC/DAC的信噪比和底噪差不多,可以對標高通和德州儀器的同類產(chǎn)品?梢哉f,我們把整個的信號鏈全都整合進了SoC,并且達到分立器件才能實現(xiàn)的信號鏈的性能指標如線性度、底噪以及SNR,這個是必要條件。同時,我們基于過去多年的對于主觀聲學的理解,也開發(fā)出了一系列音效算法,簡單來說就是把聲音以符合用戶喜好的效果呈現(xiàn)出來。當然,我們也支持客戶的自有音效算法,幫助他們更好的呈現(xiàn)出來,在這個基礎上調(diào)音技術也極其重要這就是前一個必要條件(得到干凈的電信號)基礎上需要繼續(xù)達成的充分條件!
為了進一步提升國際影響力,近兩年炬芯還在上海、韓國組建了專門面對國際市場的營銷團隊,助力炬芯對于海外市場以及海外品牌客戶的開拓。周正宇博士向芯智訊透露,炬芯今年業(yè)績的快速增長與此也有非常大的關系。
根據(jù)財報顯示,今年前三季度炬芯業(yè)績創(chuàng)歷史新高,實現(xiàn)營收4.67億元,同比增長24.05%;歸母凈利潤7091.3萬元,同比增長51.12%。其中,第三季度實現(xiàn)營收1.86億元,同比增長18.66%;歸母凈利潤達到2997.26萬元,同比增長34.87%。
開拓低延遲私有協(xié)議音頻市場
對于炬芯傳統(tǒng)聚焦的便攜式無線音頻設備來說,因為主要是電池供電設備,所以低功耗非常重要,對于音質(zhì)的要求近年來也有持續(xù)提高,但對于低延遲卻并不嚴苛。
雖然相對于智能手機、藍牙音箱、TWS耳機等產(chǎn)品的龐大出貨量來說,對于低延遲要求更高的音頻設備市場看似規(guī)模不大,但是依然是一個不容忽視的高價值市場。
比如在插電的電視周邊、家庭影院市場,隨著對于音響的要求從杜比數(shù)字(Dolby Digtial)升級到杜比全景聲(Dolby Atmos),對于音頻傳輸?shù)臅r延要求非常高。如果時延高,可能就會出現(xiàn)聲音與畫面不同步的問題(本來應該是聽到來自后方的聲音,但是因為延遲過大,畫面進入到出現(xiàn)另一個方位的音源,后方聲音才被聽到)。
在周正宇看來,電視周邊、家庭影院市場將是炬芯未來增長的一個重要方向!凹僭O智能手表/手環(huán)一年出貨2億只,每個里面也只有一顆音頻芯片,所以一年就是2億顆音頻芯片;假設TWS耳機一年出貨也是2億副,一副耳機需要兩顆芯片,所以一年就是4億顆音頻芯片。而電視周邊、家庭影院市場的音響系統(tǒng)假設一年出貨2000萬套,但是它并不是只需要一顆無線音頻芯片如果是杜比全景聲通常需要五顆無線音頻芯片(Soundbar里2顆,兩個環(huán)繞音箱和一個低音炮各1顆),這里可能就是1億顆無線音頻芯片的需求,所以這個市場看似很小,其實并不小,而且價值量更高!
據(jù)了解,目前國內(nèi)的海信、TCL等電視品牌廠商都在用炬芯的無線音頻芯片在做無線環(huán)繞音響的無線傳輸。
再比如像無線麥克風、無線電競耳機、無線話務耳機、多鏈接高清會議系統(tǒng)等需要音視頻同步或有互動需求的音頻產(chǎn)品,對于低延遲要求都是非常的高,需要聲音能夠做到幾乎實時的同步。
對于應用最廣的藍牙音頻技術來說,其帶寬是比較有限的,在標準的藍牙傳輸協(xié)議下,通常延遲最低也有40-100ms,想要把延時做低,就需要采用私有協(xié)議,降低傳輸?shù)姆獍徒獍难訒r。比如一個數(shù)據(jù)封包是10ms,一發(fā)一收就是要20ms。同時,還需要低延遲的音頻編解碼技術,比如采用最新的LC3和其增強版本LC3 Plus技術等。
對于炬芯來說,主要是從三個方面去解決:一是優(yōu)化硬件通路,降低ADC-DAC信號鏈路的延遲,直接集成到SoC當中;二是優(yōu)化傳輸協(xié)議,縮短封包的包長,目前炬芯最低已經(jīng)做到了1.25ms的包長;三是在支持LC3/LC3 Plus等低延遲的音頻編解碼技術的同時,炬芯也有自己私有編解碼技術,可以將延時做得更低。
那么對于音頻傳輸技術的未來,怎么才能做到極低的延遲呢?理想狀態(tài)下是采用大帶寬的傳輸技術,這樣無需對音頻進行壓縮,可以直接進行音頻傳輸,時延還會非常低。目前炬芯也在研究基于私有協(xié)議的超寬帶無線音頻傳輸技術,有機會進一步提升音質(zhì)和降低延遲,持續(xù)給用戶帶來更低延遲高音質(zhì)的無線音頻產(chǎn)品體驗。
存內(nèi)計算,發(fā)力AI音頻市場
隨著生成式AI技術的快速發(fā)展,以及終端設備性能的持續(xù)提升,AI計算也開始由云端進入終端側。相對于依賴于云的AI來說,邊緣側AI有著不依賴于網(wǎng)絡(離線也能工作)、反饋更實時(延時更低)、隱私安全(不需要將數(shù)據(jù)傳輸?shù)皆贫耍┑确矫娴膬?yōu)勢。雖然,云端的AI也有著模型更大,算力更強,更智能的優(yōu)勢。不過,現(xiàn)在也涌現(xiàn)出了很多符合邊緣側需求的更專業(yè)化的AI小模型。
炬芯認為,未來AI的發(fā)展趨勢將會走向混合AI架構,即在云端和邊緣端之間分配并協(xié)調(diào)AI工作。比如現(xiàn)在很多的AI PC、AI手機、AI眼鏡等也是基于這種混合AI架構。
由于炬芯過去一直專注于低功耗無線音頻市場,因此炬芯主要關注的是對于AI算力要求并不高的由電池供電的中小型模型端側AI市場。具體來說,主要覆蓋算力要求在0.01-3TOPS之間,存儲空間小于10MB,模型參數(shù)大小在0.01-10MB之間,功耗小于10mW的目標市場。
但是現(xiàn)有的端側AI解決方案存在著很多的挑戰(zhàn)。比如CPU+DSP的解決方案,算力低、性能弱,能效比也比較差;而基于CPU+NPU的解決方案,難以適應新模型的涌現(xiàn),也沒有升級的彈性。
對此,炬芯選擇了全新一代基于模數(shù)混合SRAM存內(nèi)計算(MMSCIM)解決方案,由于無需再像傳統(tǒng)的馮諾依曼架構那樣,需要在處理器和外部DRAM/FLASH之間不停地搬運數(shù)據(jù)。根據(jù)英特爾的一份數(shù)據(jù)顯示,處理器的功耗,大約67%都是消耗在了數(shù)據(jù)搬運過程中,只有30%多是實際消耗在了計算上。
因此,SRAM存內(nèi)計算解決方案可以實現(xiàn)在更低的功耗下發(fā)揮出更高的端側AI性能,即大幅提升端側AI的能效表現(xiàn)。據(jù)介紹,目前炬芯的SRAM存內(nèi)計算方案已經(jīng)能夠?qū)崿F(xiàn)近10TOPS/W的高能效表現(xiàn),即在1TOPS算力下,功耗僅100mW。未來炬芯希望繼續(xù)朝著100TOPS/W的能效表現(xiàn)邁進。此外,由于無需進行數(shù)據(jù)搬運,SRAM存內(nèi)計算也可以帶來更低的延時表現(xiàn)。
周正宇博士坦言,雖然SARM相對于其他存儲介質(zhì)成本更高,面積更大,但是技術卻是目前最為成熟的,性能表現(xiàn)也非常不錯。相比之下,雖然新興的NVRAM如RRAM或MRAM等技術很美好,但當下都不夠成熟。周正宇博士預期未來當RRAM技術成熟以后,SRAM 跟RRAM的混合技術有機會成為最佳技術路徑,需要經(jīng)常寫的AI計算可以基于SRAM的CIM實現(xiàn),不經(jīng);蛘哂邢薮螖(shù)寫的AI計算由RRAM的CIM實現(xiàn),基于這種混合技術有望實現(xiàn)更大算力和更高的能效比。
炬芯最新發(fā)布三款基于MMSCIM的端側AI音頻芯片:包括主要面向低延遲私有無線音頻領域的ATS323X系列;面向藍牙AI音頻領域的ATS286X系列;面向AI DSP領域的ATS362X。
三個系列芯片均基于22nm工藝,采用了 CPU+ DSP + NPU(MMSCIM)三核異構的設計架構。炬芯的研發(fā)人員將MMSCIM和先進的HiFi5 DSP融合設計形成了炬芯科技“Actions Intelligence NPU(AI-NPU)”架構,并通過協(xié)同計算,形成一個既高彈性又高能效比的NPU架構。在這種AI-NPU架構中MMSCIM支持基礎性通用AI算子和模型,提供低功耗大算力。同時,由于AI新模型新算子的不斷涌現(xiàn),MMSCIM沒覆蓋的新興算子或模型則由HiFi5 DSP來予以補充。
據(jù)介紹,單個MMSCIM核心算力為100GOPS@500MHz,能效高達6.4TOS/W@INT8,具備低功耗大算力、極致的能效比的特性。在同等條件下,相較于DSP HiFi5,實際應用算力和能效比分別可提升約16倍和60倍,功耗可降低90%以上。
而通過MMSCIM和HiFi5 DSP的協(xié)同設計,NPU支持基礎性通用AI算子,DSP予以特殊算子的補充,形成一個既高彈性又高能效比的AI NPU融合架構,使得芯片在算力和能效方面實現(xiàn)顯著突破。
同時,炬芯還推出了自己的開發(fā)工具鏈, 搭配芯片支持TensorFlow、Caffe、TFLite、PyTorch和ONNX等主流深度學習框架,并支持目前所有主流的AI模型,可為各類終端產(chǎn)品提供強大的算力支撐,并便于品牌客戶進行個性化AI算法開發(fā)及AI應用的移植。
此外,客戶只要按照標準的TensorFlow、 PyTorch 這類框架來設計自己算法,然后導入炬芯的開發(fā)工具,它就能夠自動選擇最適合的DSP或者NPU來進行處理,不需要人為的去分配,極大了簡化了開發(fā)的效率。
ATS323X系列作為炬芯科技第一代搭載AI-NPU的三核異構SoC芯片,同時也是炬芯科技第三代高音質(zhì)低延遲無線收發(fā)音頻芯片,該芯片系列可廣泛應用于無線麥克風、無線電競耳機、無線話務耳機、多鏈接高清會議系統(tǒng)以及無線收發(fā)一體器等多種產(chǎn)品中,將為此類產(chǎn)品實現(xiàn)AI賦能,助力終端品牌產(chǎn)品邁進AI新時代。
據(jù)介紹,目前該芯片方案正與品牌客戶協(xié)同開發(fā)中,明年上半年將在終端品牌產(chǎn)品中落地應用,可以為用戶帶來特別的AI產(chǎn)品體驗。
根據(jù)炬芯公布的路線圖顯示,其將于2025年推出的第二代基于MMSCIM的端側AI音頻芯片,雖然還是22nm制程,算力會提升到單核300GOPS,但是會加入對于Transformer模型的硬件化支持,AI能效將提升至7.8TOPS/W@INT8;2026年推出的第三代基于MMSCIM的端側AI音頻芯片將升級至12nm制程,單核算力提升至1TOPS,同樣支持Transformer模型,AI能效將進一步提升至15.6TOPS/W@INT8!
小結:
從上面的介紹我們可以看到,炬芯目前業(yè)績的增長主要來源于三個方面:第一個是與國際一線品牌的合作;第二個是來自低延遲、高音質(zhì)需求的私有協(xié)議音頻設備市場;第三是來自端側AI音頻設備。
“國際一線品牌突破、私有協(xié)議音頻市場的增長和端側AI音頻市場增長是驅(qū)動炬芯業(yè)績增長的三個主要動力。其中,端側AI音頻領域?qū)⑹蔷嫘景l(fā)力的重點。從去年開始,我們來自AI芯片的收入基本呈現(xiàn)每年一倍的增長速度,我相信2025年還將繼續(xù)保持較高的增長!敝苷畈┦靠偨Y說道。
編輯:芯智訊-浪客劍