機器之心發(fā)布
機器之心編輯部
12 月 12 日，由中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）指導(dǎo)、北京中關(guān)村科金技術(shù)有限公司主辦的【2024 大模型技術(shù)與應(yīng)用創(chuàng)新論壇】在北京成功舉辦。
論壇現(xiàn)場，中關(guān)村科金總裁喻友平正式發(fā)布大模型時代的 “三級引擎戰(zhàn)略”，推出重磅升級的得助大模型平臺 2.0，以及一系列大模型應(yīng)用。其中，得助大模型平臺 2.0 具備算力統(tǒng)一調(diào)度能力、一站式模型訓(xùn)推、應(yīng)用快速構(gòu)建三大核心能力，并基于企業(yè)級最佳實踐沉淀上百個全場景套件，能夠幫助各類企業(yè)快速構(gòu)建和部署自己的大模型應(yīng)用，顯著降低企業(yè)大模型落地成本。基于得助大模型平臺 2.0，中關(guān)村科金已與各行業(yè)伙伴一起構(gòu)建了 200 + 覆蓋智能營銷、智能客服、智能運營和知識管理四大核心場景的應(yīng)用，現(xiàn)場重點展示了大模型外呼、大模型接警助手、大模型陪練和大模型財富助手在幫助企業(yè)實現(xiàn)對外增長和對內(nèi)提效的實戰(zhàn)效果。喻友平認為，大模型行業(yè)的發(fā)展已不再是暴風(fēng)驟雨的狂飆狀態(tài)，而是真正進入到精細化落地的進程中，平臺＋應(yīng)用＋服務(wù)是企業(yè)大模型落地的最佳路徑。以下為演講實錄尊敬的各位領(lǐng)導(dǎo)、朋友，歡迎大家來到今天下午這個論壇。今天非常熱鬧，人非常多，就像大模型技術(shù)和應(yīng)用現(xiàn)在非常熱烈的狀態(tài)，非常應(yīng)景。過去一年多的時間里，大模型技術(shù)一直在不斷進步，無論是鄭院士還是斯坦利（Kenneth Stanley）對大模型技術(shù)都提出了一些觀察、預(yù)測，當(dāng)然還有一些擔(dān)憂。對企業(yè)界來說，特別是對中關(guān)村科金這樣的 "大模型 + X" 的企業(yè)來說，我們更關(guān)心的是如何將大模型應(yīng)用到企業(yè)以及各種場景中，真正找到價值。可以看到，整個業(yè)界對行業(yè)大模型和 AI 大模型解決方案的發(fā)展還是非常樂觀。從兩家國際知名咨詢公司的報告來看，從 2024 年到 2028 年，大模型市場復(fù)合增長率的預(yù)測基本是 40%-50% 以上的增速。在這種情況下，大模型應(yīng)用將必然有一個蓬勃的爆發(fā)。
中關(guān)村科金作為一線參與者來說，還是看到很多挑戰(zhàn)。比如成本的問題。現(xiàn)在把大模型應(yīng)用到實際的業(yè)務(wù)中，成本不低。即使不做基礎(chǔ)大模型研發(fā)，就是做 TTS/NLP，算力還好，最關(guān)鍵的是標注成本，尤其是需要很多高精度、高準確的數(shù)據(jù)，這都是時間成本和人力成本。在數(shù)據(jù)的獲取方面，本身處理的難度不小。其實構(gòu)建一個場景大模型，并不需要海量數(shù)據(jù)，萬級別的數(shù)據(jù)就可以解決很多問題。但技術(shù)和需求的匹配也是實踐過程中的問題，如何把技術(shù)和需求匹配，相信也是今天在座大部分人非常關(guān)心的問題。雖然媒體對大模型的普及做得非常好，但我們對大模型邊界的認知程度，分析業(yè)務(wù)場景中問題和提供解決辦法的能力，以及跟公司業(yè)務(wù)系統(tǒng)和流程如何建立鏈接形成技術(shù)解決方案，在這些方面坦率說我們還處于非常早期的階段，仍有許多需要探索的，所以這些方面的人才也是非常缺乏的。除了大模型技術(shù)，大模型應(yīng)用人才的需求量也遠大于市場供給。對企業(yè)來說行業(yè) Know-how 上也有很多不足。每個行業(yè)都有行業(yè)獨特的問題，有些問題在一個行業(yè)里很關(guān)鍵，但換一個行業(yè)就會發(fā)生變化。在非常細分的場景中，需要大模型應(yīng)用廠商和客戶有非常深度的溝通。此外，新技術(shù)在法規(guī)和倫理風(fēng)險方面都會面臨新挑戰(zhàn)，比如數(shù)據(jù)安全性，用戶隱私安全，所以對于大模型應(yīng)用，法律法規(guī)和制度的健全也是迫在眉睫的。
當(dāng)然市場在不斷進步，在過去一年多時間，我們在不斷跟大模型客戶交流的過程中略有心得。第一，無論是大模型還是任何技術(shù)，其商業(yè)本質(zhì)還是要幫客戶解決問題。比如一個家裝公司，希望通過電話外呼觸達客戶后從公域轉(zhuǎn)私域加友，這個場景看起來就是做訓(xùn)練、部署、外呼，TTS 跟 ASR 結(jié)合起來就可以搭建。但想在業(yè)務(wù)中發(fā)揮作用，提高轉(zhuǎn)化率，就不能這么簡單。其中有很多具體的技術(shù)問題，比如大模型幻覺消除，在企業(yè)的應(yīng)用中是非常普遍的需求。我們和家裝行業(yè)公司的合作，經(jīng)過七次迭代，把私域加友轉(zhuǎn)化率從 1.5% 提升到 3.5%。第二，端到端的解決方案。大模型可以生成 Agent，硅谷現(xiàn)在已經(jīng)把 Agent 當(dāng)成一個新的 API，但一個 API 無法構(gòu)成一個業(yè)務(wù)系統(tǒng)，也無法讓你的業(yè)務(wù)有質(zhì)的飛躍。在這個過程中非常重要的是實現(xiàn)端到端的產(chǎn)品體系。舉一個例子，中關(guān)村科金重點在做的是連接企業(yè)和客戶全流程的智能化。這個過程中有幾個關(guān)鍵點。首先是全媒體聯(lián)絡(luò)中心，這是企業(yè)跟客戶連接的基礎(chǔ)平臺，這個平臺看似是基礎(chǔ)軟件，但其中的業(yè)務(wù)流程、業(yè)務(wù)邏輯非常復(fù)雜。中關(guān)村科金過去花了很多年才把這一套產(chǎn)品建設(shè)得比較完善。純粹做大模型技術(shù)的公司沒有這樣的平臺能力，需要建立在別人的平臺能力之上，那提供的產(chǎn)品解決方案就是硬湊出來的，適配就差很多。中關(guān)村科金在一個全媒體聯(lián)絡(luò)中心打造了語音和文本兩類機器人，同時提供面向坐席效能優(yōu)化的助手、質(zhì)檢和陪練的三件套。這三件套在任何場景下都可以使用，幫企業(yè)做好培訓(xùn)，還可以監(jiān)督效果。在金融行業(yè)落地智能客服，不能只做客服機器人，而是把 “1 個聯(lián)絡(luò)中心 + 2 個機器人 + 3 個套件” 的全套解決方案提供給客戶，實現(xiàn)端到端的智能化。大模型時代，數(shù)字化 + 智能化的升級思路是一個非常關(guān)鍵的點。第三，全鏈條的服務(wù)。各行各業(yè)有著豐富的應(yīng)用場景，既有面向外部客戶的，也有面向內(nèi)部員工的，這兩類體驗的提升就是大模型在企業(yè)落地的兩個最重要方向。在這個過程中，企業(yè)需要建立大模型的內(nèi)生能力。大模型基于企業(yè)內(nèi)部的數(shù)據(jù)做一個發(fā)電站，電發(fā)出來之后，具體用在什么地方需要企業(yè)內(nèi)部有管理和調(diào)配的能力。我們?yōu)閲鴥?nèi)若干個頭部央國企提供了平臺解決方案及實施，同時在平臺之上合作應(yīng)用開發(fā)，幫助客戶解決內(nèi)部的辦公、寫作、客服、營銷等各類場景的需求。更重要的是，我們還提供陪伴式服務(wù)，包括數(shù)據(jù)標注、問題定義、檢測方案的實施等等。所以這三個方向是我們現(xiàn)在認為市場上真正需要的大模型應(yīng)用，既要能夠解決客戶的核心問題，又要能提供端到端解決方案，同時還要有全鏈條的服務(wù)。
中關(guān)村科金基于 10 年來積累的 ToB 服務(wù)經(jīng)驗，加上大模型智能升級過程中的沉淀，我們今天正式發(fā)布中關(guān)村科金大模型時代企業(yè)智能化升級的 “三級引擎戰(zhàn)略”。首先是平臺，智能化平臺 + 數(shù)字化平臺才能讓企業(yè)的數(shù)字化真正進入一個智能化階段。所以平臺本身是大模型落地的技術(shù)引擎。其次是應(yīng)用，在企業(yè)經(jīng)營全流程的各個環(huán)節(jié)中，都可以通過大模型進行智能化的升級，包括營銷、運營、服務(wù)、知識管理等，甚至像生產(chǎn)、供應(yīng)鏈、財務(wù)等場景都有可能利用智能化和數(shù)字化的平臺相結(jié)合，打造智能化的應(yīng)用。所以應(yīng)用是大模型落地的產(chǎn)品引擎。第三是服務(wù)。企業(yè) “最后一公里” 的交付還有一個關(guān)鍵點就是服務(wù)。服務(wù)是一個價值引擎，最終要讓客戶、企業(yè)把大模型用起來，包括咨詢服務(wù)、平臺搭建、應(yīng)用調(diào)試和效果運營都是缺一不可的。因此，平臺 + 應(yīng)用 + 服務(wù)是企業(yè)大模型真正實現(xiàn)落地的最佳路徑。這既是我們的心得，也是希望跟各行業(yè)進行分享探索，如何讓中國的大模型落地更快更好。
對中關(guān)村科金來說，我們定位是領(lǐng)先的大模型技術(shù)與應(yīng)用公司。在 2018 年，我們發(fā)布了全媒體聯(lián)絡(luò)中心。2019 年把傳統(tǒng)的基礎(chǔ) AI 能力，如 OCR、TTS、ASR 用到了平臺智能化里。中關(guān)村科金一直緊隨著人工智能技術(shù)，從上一代以 CV 和語音為主的智能化技術(shù)到現(xiàn)在的大模型技術(shù)，一直跟隨著大模型技術(shù)不斷演進，面向企業(yè)的服務(wù)和產(chǎn)品進行升級。2020 年發(fā)布了音視頻平臺、遠程雙錄等，其中用到如 OCR、人臉識別技術(shù)，讓雙錄場景效率和效果更優(yōu)。2021 年發(fā)布了坐席效能優(yōu)化套件，2022 年發(fā)布了營銷服一體化平臺，2023 年發(fā)布了行業(yè)大模型。2024 年，一年的過程中我們不斷利用大模型能力重構(gòu)所有的應(yīng)用產(chǎn)品。
基于中關(guān)村科金的 “三級引擎戰(zhàn)略”，向大家介紹我們的產(chǎn)品全景圖。通過全媒體聯(lián)絡(luò)中心和音視頻平臺這兩大數(shù)字化平臺，把企業(yè)與客戶連接的各種渠道、各種媒介進行很好的整合，以及企業(yè)與內(nèi)容員工的連接。在此之上，得助大模型平臺可以提供從算力調(diào)度，模型訓(xùn)推到智能體構(gòu)建。再結(jié)合企業(yè)的應(yīng)用場景，在智能營銷、智能客服、智能運營、知識管理等領(lǐng)域提供非常豐富的產(chǎn)品解決方案。同時結(jié)合各行各業(yè)的應(yīng)用場景推出了一系列場景解決方案。這是中關(guān)村科金過去一段時間里的心得和方法。
今天，中關(guān)村科金重磅發(fā)布得助大模型平臺 2.0，它具備算力統(tǒng)一調(diào)度，一站式模型訓(xùn)推，應(yīng)用快速構(gòu)建三大能力。算力統(tǒng)一調(diào)度能夠?qū)?GPU 算力進行共享調(diào)度，對模型統(tǒng)一納管，包含所有的開源模型和開放的 MaaS 平臺等最前沿的大模型技術(shù)，同時也兼顧了國產(chǎn)化信創(chuàng)適配。在模型訓(xùn)推方面，支持訓(xùn)推一體化，量化壓縮及模塊化的部署。智能體構(gòu)建，自主編排可視化工作流，多 Agent 協(xié)同自主任務(wù)規(guī)劃。最重要的是中間全場景套件，這些都是基于各類場景應(yīng)用的企業(yè)級最佳實踐沉淀而來。
我們把多個行業(yè)套件都沉淀在得助大模型平臺，每個套件都是極具針對性的場景解決方案，要綜合運用數(shù)據(jù)流、Agent 流、工作流組合，用大模型、小模型、MoE 模型組合，還有 SFT 模型，每個場景都經(jīng)過實踐檢驗，最后沉淀在平臺上。得助大模型平臺 2.0 已經(jīng)沉淀了上百個通用套件和行業(yè)套件。這樣一個靈活的大模型平臺，企業(yè)只需要 5 分鐘即可構(gòu)建自己專屬的場景應(yīng)用。
