中新網(wǎng)北京3月2日電 (記者 夏賓)人工智能發(fā)展日新月異。近來，國產(chǎn)大模型的火熱降低了民眾與企業(yè)的使用門檻，但其帶來的安全問題不容忽視。如何保護(hù)數(shù)據(jù)安全、識(shí)別虛假信息、防御網(wǎng)絡(luò)攻擊等都是人工智能(AI)產(chǎn)業(yè)成長的“必答題”。
全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻近日在北京接受中新網(wǎng)等媒體采訪時(shí)，談及人工智能技術(shù)進(jìn)步帶來的新風(fēng)險(xiǎn)。
他認(rèn)為，要正確認(rèn)識(shí)AI的安全問題，不能夸大、不能忽視，也不要籠統(tǒng)地談AI安全。一些美國頭部AI公司想搞壟斷和封閉，往往會(huì)夸大AI不安全的問題作為其不開源的借口，這樣后來者就沒有機(jī)會(huì)趕上他們�！拔乙恢闭J(rèn)為，不發(fā)展是最大的不安全”，周鴻說，必須抓住AI的這次機(jī)會(huì)，提升生產(chǎn)力，讓每個(gè)人感受到科技普惠的成果。
周鴻稱，AI的安全和業(yè)務(wù)發(fā)展可以“同步走”。人工智能尤其是大模型的安全問題不能以傳統(tǒng)網(wǎng)絡(luò)安全的解題方法來應(yīng)對(duì)，智能體的安全、知識(shí)數(shù)據(jù)的安全、客戶端的安全以及基座模型的安全，構(gòu)成一個(gè)人工智能安全的全新領(lǐng)域，解決方法的關(guān)鍵是“以模制�！薄�
“我們花了很多功夫?qū)ｉT做安全大模型，就是用聰明的大模型智力、能力去管理知識(shí)庫的使用，去管理智能體的調(diào)用，去管理基座模型的‘胡說八道’和對(duì)人的‘PUA攻擊’�！敝茗櫿f。
談及當(dāng)下大模型發(fā)展路徑的開源和閉源發(fā)展路線，周鴻說，沒有開源就沒有互聯(lián)網(wǎng)。開源就是把自己的朋友搞得多多的、把自己的敵人搞得少少的，不分國家、不分種族，只要對(duì)人工智能有興趣的人都可以加入到開源社區(qū)中，與所有人一起分享成果。開源生態(tài)形成巨大的虹吸效應(yīng)，一般來說，開源一旦形成氣候，就能戰(zhàn)勝閉源。
他說，開源對(duì)整個(gè)中國傳統(tǒng)企業(yè)在利用大模型降本增效、打造新質(zhì)生產(chǎn)力等方面的杠桿作用大。因此，將來中國在AI領(lǐng)域會(huì)借助生態(tài)帶來更強(qiáng)的研發(fā)力量，帶來更多的創(chuàng)新和改進(jìn)，帶來更多的標(biāo)準(zhǔn)。(完)
