新京報(bào)貝殼財(cái)經(jīng)訊（記者潘亦純）近期，DeepSeek火爆再度引發(fā)公眾對(duì)大模型蓬勃發(fā)展下數(shù)字安全的關(guān)注。2月12日，在2025首屆AI引領(lǐng)數(shù)字安全新浪潮專題論壇上，與會(huì)專家圍繞AI技術(shù)的快速發(fā)展對(duì)數(shù)字安全帶來(lái)的挑戰(zhàn)與機(jī)遇展開深入討論，提出“以AI管AI”的理念，即利用人工智能技術(shù)來(lái)管理和應(yīng)對(duì)AI自身可能引發(fā)的安全問(wèn)題。
中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)專家指出，新技術(shù)的出現(xiàn)帶來(lái)了全新的生態(tài)環(huán)境和產(chǎn)業(yè)格局，但相應(yīng)的配套措施也需要及時(shí)跟上。隨著AI技術(shù)的廣泛應(yīng)用，數(shù)據(jù)安全、算法安全、隱私保護(hù)等問(wèn)題日益凸顯，傳統(tǒng)的安全防護(hù)手段已難以應(yīng)對(duì)復(fù)雜的數(shù)字安全挑戰(zhàn)。
北京郵電大學(xué)災(zāi)備技術(shù)國(guó)家工程研究中心主任李鳳華認(rèn)為，在人工智能快速發(fā)展之下，數(shù)據(jù)帶來(lái)便利，但個(gè)人信息泄露、非法交易和濫用等問(wèn)題也如影隨形。對(duì)此，必須采取全方位、多層次的措施予以防范，加強(qiáng)企業(yè)自律，重視并保護(hù)弱勢(shì)群體的利益。
國(guó)雄資本有限公司董事長(zhǎng)姚尚坤則表示，規(guī)避AIGC（生成式人工智能）風(fēng)險(xiǎn)不能單純依賴智能算法，而是需要將人類的創(chuàng)造能力與AI的生成能力有效結(jié)合，通過(guò)AIGC合成內(nèi)容鑒別技術(shù)應(yīng)對(duì)AI的惡意應(yīng)用，利用大模型糾偏提升AI的安全能力，并借助生成式模型水印技術(shù)保護(hù)AI賦能的系統(tǒng)。
編輯 韋博雅
校對(duì) 柳寶慶
