編者的話：中國(guó)人工智能（AI）企業(yè)DeepSeek（深度求索）推出的DeepSeek-R1和 DeepSeek-V3模型憑借在數(shù)學(xué)、代碼、自然語(yǔ)言推理等任務(wù)上的優(yōu)異性能而大受歡迎，接連在多個(gè)平臺(tái)上線。但與此同時(shí)，DeepSeek線上服務(wù)也受到大規(guī)模網(wǎng)絡(luò)攻擊，多次出現(xiàn)服務(wù)中斷等情況，引發(fā)了國(guó)內(nèi)外安全業(yè)界的高度關(guān)注。這些網(wǎng)絡(luò)攻擊對(duì)于DeepSeek大模型的數(shù)據(jù)安全可能構(gòu)成哪些威脅和挑戰(zhàn)，有何深層次原因？《環(huán)球時(shí)報(bào)》記者采訪了多位網(wǎng)絡(luò)安全專(zhuān)家。
DeepSeek 圖源：視覺(jué)中國(guó)
國(guó)內(nèi)網(wǎng)安機(jī)構(gòu)接連發(fā)布安全報(bào)告
據(jù)《環(huán)球時(shí)報(bào)》記者了解，2月3日，中國(guó)超算互聯(lián)網(wǎng)平臺(tái)正式上線DeepSeek系列模型，并由平臺(tái)提供全程算力支持，同時(shí)中國(guó)國(guó)產(chǎn)海光DCU（深度計(jì)算單元）也完成了與DeepSeek系列模型的適配。此前百度智能云、華為云、阿里云、騰訊云、360數(shù)字安全、云軸科技等多個(gè)中國(guó)平臺(tái)都宣布上線DeepSeek系列模型，用戶可以在各大平臺(tái)上調(diào)用DeepSeek-R1、DeepSeek-V3等模型。
但DeepSeek系列模型大受歡迎的同時(shí)，也遭遇了嚴(yán)重的網(wǎng)絡(luò)安全威脅。對(duì)此，國(guó)內(nèi)多家網(wǎng)絡(luò)安全公司接連發(fā)布安全報(bào)告。據(jù)360安全專(zhuān)家對(duì)《環(huán)球時(shí)報(bào)》記者介紹，本次針對(duì)DeepSeek的攻擊類(lèi)型多樣，呈現(xiàn)出高度組織化、規(guī)�；卣�，可大致劃分為三個(gè)階段。
根據(jù)360安全大模型監(jiān)測(cè)數(shù)據(jù)顯示，第一階段是DeepSeek頻繁遭受分布式拒絕服務(wù)（DDoS）攻擊，主要以輕微的HTTP代理攻擊為主，從1月20日開(kāi)始，NTP、SSDP、CLDAP等反射放大攻擊流量開(kāi)始出現(xiàn)。第二階段從1月27日中午開(kāi)始，針對(duì)DeepSeek的攻擊方式加入了大量的HTTP代理攻擊，防御難度加大，攻擊影響加深，直至凌晨，影響到DeepSeek的業(yè)務(wù)服務(wù)穩(wěn)定。作為應(yīng)對(duì)，DeepSeek在1月28日凌晨緊急切換了服務(wù)IP。第三階段從1月30日凌晨開(kāi)始，攻擊愈演愈烈。以提供DDoS攻擊服務(wù)來(lái)獲利的RapperBot、HailBot等僵尸網(wǎng)絡(luò)團(tuán)伙開(kāi)始參與攻擊。從360安全大模型監(jiān)測(cè)的數(shù)據(jù)來(lái)看，僵尸網(wǎng)絡(luò)攻擊指令捕獲數(shù)在1月30日凌晨的3個(gè)小時(shí)內(nèi)暴增，迫使DeepSeek又新增了一個(gè)服務(wù)IP。
安天科技集團(tuán)股份有限公司董事長(zhǎng)、首席技術(shù)架構(gòu)師肖新光4日接受《環(huán)球時(shí)報(bào)》記者采訪時(shí)表示，DeepSeek此次遭受攻擊的主要手段是DDoS攻擊。攻擊者通過(guò)海量僵尸網(wǎng)絡(luò)節(jié)點(diǎn)發(fā)送各種請(qǐng)求連接占用資源，導(dǎo)致普通用戶無(wú)法正常使用DeepSeek提供的服務(wù)。參與攻擊的兩個(gè)僵尸網(wǎng)絡(luò)家族分別為HailBot和RapperBot，兩者都是僵尸網(wǎng)絡(luò)Mirai木馬程序源碼泄露的產(chǎn)物，命名源自日語(yǔ)中的“未來(lái)”。與傳統(tǒng)僵尸網(wǎng)絡(luò)感染控制大量Windows系統(tǒng)肉雞不同，Mirai感染控制對(duì)象主要是物聯(lián)網(wǎng)設(shè)備。2016年9月30日，Mirai僵尸網(wǎng)絡(luò)源代碼在GitHub平臺(tái)公開(kāi)泄露。2016年10月21日，Mirai攻擊Dyn域名解析服務(wù)，導(dǎo)致歐美地區(qū)大量服務(wù)訪問(wèn)中斷。
肖新光還提及一個(gè)細(xì)節(jié)：制造Mirai的3名作者均為美國(guó)人，3人共同經(jīng)營(yíng)一家公司，對(duì)外宣稱(chēng)提供DDoS攻擊防護(hù)，實(shí)則利用DDoS牟利。2018年3人被美國(guó)地方執(zhí)法部門(mén)抓獲，并被判處有期徒刑和罰金�！坝捎谠创a的高度可復(fù)用性，全球黑產(chǎn)團(tuán)伙以低成本構(gòu)建‘同源異構(gòu)’的僵尸網(wǎng)絡(luò)集群這些變種雖在表層功能上呈現(xiàn)差異，但其核心感染邏輯、C2指令體系與攻擊模塊均繼承自Mirai原始架構(gòu)，導(dǎo)致對(duì)其背后操控組織的關(guān)聯(lián)性溯源存在一定困難。從樣本分析來(lái)看，RapperBot組織為帶有一定美國(guó)文化背景色彩的黑灰產(chǎn)組織，HailBot樣本中有刻意栽贓抹黑中國(guó)的字符內(nèi)容，可判定其為對(duì)中國(guó)有敵視政治傾向的攻擊團(tuán)伙�！毙ば鹿獗硎尽�
“僵尸網(wǎng)絡(luò)的加入，標(biāo)志著職業(yè)打手已經(jīng)開(kāi)始下場(chǎng)，這說(shuō)明DeepSeek面對(duì)的攻擊方式一直在持續(xù)進(jìn)化和復(fù)雜化，防御難度不斷增加，網(wǎng)絡(luò)安全形勢(shì)愈發(fā)復(fù)雜嚴(yán)峻。”奇安信XLab實(shí)驗(yàn)室安全專(zhuān)家表示。
警惕“國(guó)家級(jí)黑手”
事實(shí)上，DeepSeek這樣火爆全網(wǎng)的中國(guó)明星產(chǎn)品受到外界網(wǎng)絡(luò)攻擊并非個(gè)案。此前，《黑神話：悟空》在全球上線后，也遭遇了來(lái)自海外的大規(guī)模網(wǎng)絡(luò)攻擊，導(dǎo)致多國(guó)玩家紛紛反饋無(wú)法登錄，進(jìn)不去游戲。
對(duì)此，肖新光認(rèn)為，破壞大模型服務(wù)的穩(wěn)定運(yùn)行是可以簡(jiǎn)單直接觀測(cè)到的攻擊效果，也是攻擊過(guò)程中大家最容易關(guān)注到的�！氨热鏒eepSeek爆火推動(dòng)了用戶量、API調(diào)用量及并發(fā)請(qǐng)求的指數(shù)級(jí)增長(zhǎng)，其基礎(chǔ)設(shè)施始終處于高負(fù)載狀態(tài)。在此背景下，疊加大規(guī)模DDoS攻擊，就直接引發(fā)了服務(wù)響應(yīng)延遲激增、API限流熔斷甚至集群過(guò)載宕機(jī)，嚴(yán)重影響用戶體驗(yàn)與業(yè)務(wù)連續(xù)性�！�
肖新光認(rèn)為，DeepSeek作為高價(jià)值的平臺(tái)目標(biāo)，也一定會(huì)有攻擊者試圖進(jìn)行入侵植入，獲得更高的權(quán)限，窺視其運(yùn)行情況，了解其更多底層技術(shù)等。DDoS攻擊會(huì)成為相關(guān)攻擊的掩護(hù)手段，但目前還沒(méi)有更多的信息線索進(jìn)行研判�！翱梢钥隙ǖ氖�，相關(guān)DDoS攻擊帶有較為鮮明的政治傾向背景。從《黑神話：悟空》上線，到DeepSeek爆火，中國(guó)的信息技術(shù)正在不斷締造新的傳奇，而與此同時(shí)，它們也都遭遇了包括大規(guī)模DDoS攻擊在內(nèi)的網(wǎng)絡(luò)安全威脅，未來(lái)此類(lèi)情況會(huì)是一種新常態(tài)和新挑戰(zhàn)�！毙ば鹿獗硎尽�
“目前來(lái)看，無(wú)論是《黑神話：悟空》還是DeepSeek都頂住了網(wǎng)絡(luò)攻擊�！毙ば鹿夥治稣f(shuō)，從互聯(lián)網(wǎng)資源服務(wù)提供者來(lái)看，防范DDoS攻擊的方法是相對(duì)成熟的。需要將資源投入和常態(tài)化的安全運(yùn)營(yíng)深入結(jié)合，需要服務(wù)方、基礎(chǔ)設(shè)施提供者和監(jiān)管機(jī)構(gòu)進(jìn)行多方配合協(xié)同。既包括部署更具彈性的分布式、多區(qū)域、多鏈路的服務(wù)架構(gòu)，使用負(fù)載均衡器設(shè)備和策略，增強(qiáng)帶寬和硬件設(shè)施，提升系統(tǒng)吞吐能力等，也包括完善安全監(jiān)測(cè)、流量清洗，進(jìn)行相關(guān)安全策略動(dòng)態(tài)調(diào)整等。
據(jù)介紹，與傳統(tǒng)Web服務(wù)（如CGI動(dòng)態(tài)頁(yè)面或搜索引擎）相比，生成式人工智能的單次交互算力消耗更高，且開(kāi)放的API接口極易被攻擊者濫用為算力資源黑洞。大模型平臺(tái)的業(yè)務(wù)特性與風(fēng)險(xiǎn)場(chǎng)景呈現(xiàn)顯著特殊性，因此需要進(jìn)一步警惕算力資源攻擊風(fēng)險(xiǎn)。肖新光表示，“我們還需要進(jìn)一步關(guān)注大數(shù)據(jù)平臺(tái)的數(shù)據(jù)安全風(fēng)險(xiǎn)：由于大模型訓(xùn)練與推理過(guò)程中涉及多租戶數(shù)據(jù)交織存儲(chǔ)、微調(diào)參數(shù)殘留等問(wèn)題，可能引發(fā)敏感信息泄露（如用戶隱私數(shù)據(jù)通過(guò)模型輸出側(cè)信道泄露）�！�
接受《環(huán)球時(shí)報(bào)》記者采訪的360安全專(zhuān)家認(rèn)為，未來(lái)針對(duì)DeepSeek的攻擊將會(huì)不斷持續(xù)，手段也將不斷演變，DeepSeek所面臨的威脅仍沒(méi)有消除，這不僅凸顯了當(dāng)前網(wǎng)絡(luò)安全的嚴(yán)峻挑戰(zhàn)，也為眾多企業(yè)在安全管理方面敲響警鐘。該專(zhuān)家認(rèn)為，從此事可以發(fā)現(xiàn)，DDoS攻擊成為大規(guī)模網(wǎng)絡(luò)攻擊的“必殺技”，需要警惕國(guó)家級(jí)對(duì)手。因?yàn)楸敬蜠eepSeek遭遇的網(wǎng)絡(luò)攻擊類(lèi)型主要是大規(guī)模、持續(xù)性的DDoS攻擊，攻擊者通過(guò)大量偽造或控制的計(jì)算機(jī)和網(wǎng)絡(luò)資源向目標(biāo)服務(wù)器發(fā)送請(qǐng)求，導(dǎo)致服務(wù)器資源耗盡，無(wú)法響應(yīng)正常用戶的請(qǐng)求。此前，知名游戲平臺(tái)、奧運(yùn)會(huì)舉辦期間的官方網(wǎng)站等大流量的應(yīng)用和平臺(tái)都遭到過(guò)DDoS攻擊。此外，DDoS攻擊還可能被用作掩蓋數(shù)據(jù)竊取等惡意行為的煙幕彈，進(jìn)一步加劇企業(yè)的安全風(fēng)險(xiǎn)。
本次針對(duì)DeepSeek高度組織化、規(guī)�；墓羰录�，揭示了眾多AI企業(yè)可能面臨國(guó)家級(jí)對(duì)手挑戰(zhàn)。在此背景下，單純依靠增加軟硬件安全產(chǎn)品的投入，試圖構(gòu)建一道堅(jiān)不可摧的防線來(lái)抵御外部威脅，已被證明是不現(xiàn)實(shí)的。因此，提升網(wǎng)絡(luò)空間“感知風(fēng)險(xiǎn)、看見(jiàn)威脅、抵御攻擊”的安全能力，及時(shí)發(fā)現(xiàn)并識(shí)別外來(lái)的網(wǎng)絡(luò)入侵行為變得尤為關(guān)鍵。
確保AI系統(tǒng)“可信可靠可控”
目前，人工智能大模型已經(jīng)越來(lái)越滲透到各行各業(yè)中，隨之而來(lái)的網(wǎng)絡(luò)威脅會(huì)成為新常態(tài)，其安全性正面臨著哪些新挑戰(zhàn)？
肖新光表示，新技術(shù)的發(fā)展與安全威脅的動(dòng)態(tài)演化有三種綁定方式：帶來(lái)新威脅、推動(dòng)傳統(tǒng)威脅升級(jí)、自身成為攻擊目標(biāo)。“生成式人工智能和大模型技術(shù)也不例外，其推動(dòng)了傳統(tǒng)攻擊技術(shù)的自動(dòng)化水平提升、帶來(lái)了深度偽造等攻擊技術(shù)的迅速成熟、大模型平臺(tái)自身也成為高價(jià)值目標(biāo)�！�
肖新光說(shuō)，但我們不應(yīng)過(guò)度焦慮新技術(shù)的安全風(fēng)險(xiǎn)。歷史證明，應(yīng)對(duì)新技術(shù)風(fēng)險(xiǎn)的因應(yīng)之道，正來(lái)自新技術(shù)本身�；ヂ�(lián)網(wǎng)一方面成為大規(guī)模攻擊事件的溫床，但也同樣提升了安全運(yùn)營(yíng)的敏捷性。云計(jì)算平臺(tái)引入了整體傾覆式風(fēng)險(xiǎn)，但也帶來(lái)了更大的資源彈性和統(tǒng)一高效的安全治理�！叭斯ぶ悄芗夹g(shù)正在快速改變著網(wǎng)絡(luò)安全能力和樣貌。以我們自身為例，我們專(zhuān)門(mén)針對(duì)威脅樣本分析，研發(fā)了瀾砥威脅分析垂直大模型，相比傳統(tǒng)的人機(jī)自動(dòng)化分析體系取得了顯著的改進(jìn)。”
接受《環(huán)球時(shí)報(bào)》記者采訪的360安全專(zhuān)家強(qiáng)調(diào)說(shuō)，本次針對(duì)DeepSeek的攻擊促使我們關(guān)注人工智能時(shí)代的網(wǎng)絡(luò)安全問(wèn)題，在享受新技術(shù)的同時(shí)，如何保障用戶信息與財(cái)產(chǎn)安全，是所有企業(yè)需要面對(duì)的挑戰(zhàn)。
目前人工智能的主要技術(shù)路線是基于生成式大模型，而大模型的生成及應(yīng)用過(guò)程通常包含了數(shù)據(jù)準(zhǔn)備、數(shù)據(jù)清洗、模型訓(xùn)練、模型部署等關(guān)鍵步驟，惡意攻擊者可對(duì)該流程中相關(guān)環(huán)節(jié)施加影響，使模型無(wú)法正常完成推理預(yù)測(cè)；或者繞過(guò)模型安全限制或過(guò)濾器，操控模型執(zhí)行未經(jīng)授權(quán)的行為或生成不當(dāng)內(nèi)容，并最終導(dǎo)致服務(wù)不可用。大模型的開(kāi)放性和可擴(kuò)展性，使它在訓(xùn)練和推理過(guò)程中面臨著數(shù)據(jù)投毒、后門(mén)植入、對(duì)抗攻擊、數(shù)據(jù)泄露等諸多安全威脅。
肖新光還擔(dān)任中國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)聯(lián)盟理事長(zhǎng)，他表示，30年來(lái)，我國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)經(jīng)歷了從小到大、從弱到強(qiáng)、從單點(diǎn)到體系的跨越式變化。大模型平臺(tái)是需要產(chǎn)業(yè)重點(diǎn)參與保障的關(guān)鍵信息基礎(chǔ)設(shè)施目標(biāo)，其安全建設(shè)需實(shí)現(xiàn)雙軌并進(jìn)：一方面完善基礎(chǔ)架構(gòu)安全，在云主機(jī)、容器集群、API等層面強(qiáng)化防御、監(jiān)測(cè)、資源隔離等機(jī)制，既有效防御滲透入侵風(fēng)險(xiǎn)，也輔以彈性擴(kuò)縮容及實(shí)時(shí)熔斷機(jī)制，抵御資源耗盡型攻擊；另一方面要從架構(gòu)、設(shè)計(jì)、業(yè)務(wù)邏輯和編碼優(yōu)化層面改善安全能力，包但不限于：通過(guò)提示詞注入檢測(cè)、推理過(guò)程沙箱化、數(shù)據(jù)血緣追蹤等技術(shù)，在模型交互層構(gòu)建縱深防御體系，將安全能力深度嵌入技術(shù)架構(gòu)與業(yè)務(wù)流之中。
根據(jù)此前360數(shù)字安全集團(tuán)發(fā)布的《大模型安全漏洞報(bào)告》，如今隨著大模型項(xiàng)目需求不斷增長(zhǎng)，各類(lèi)開(kāi)源框架層出不窮。這些框架極大提升了開(kāi)發(fā)效率，降低了構(gòu)建AI應(yīng)用的門(mén)檻，同時(shí)也打開(kāi)了新的攻擊面。在AI場(chǎng)景下，為了使大模型能處理各項(xiàng)業(yè)務(wù)需求，通常會(huì)賦予其包括代碼執(zhí)行在內(nèi)的多項(xiàng)能力，這在帶來(lái)便捷的同時(shí)，也提供了更多攻擊系統(tǒng)的可能性。攻擊者可以嘗試控制并組合AI的“能力原語(yǔ)”，在某些應(yīng)用場(chǎng)景下達(dá)到更為嚴(yán)重的攻擊效果。該報(bào)告認(rèn)為，大模型所面對(duì)的安全威脅應(yīng)從模型層、框架層、應(yīng)用層持續(xù)深入探索。以大模型為重要支撐的AI生態(tài)擁有巨大發(fā)展?jié)摿�，在賦予AI更多能力的同時(shí)，也應(yīng)將更多精力投入在AI的安全之上，確保整個(gè)系統(tǒng)可信、可靠、可控。
