新京報貝殼財經(jīng)訊（記者羅亦丹）11月21日，在烏鎮(zhèn)峰會網(wǎng)絡(luò)安全技術(shù)發(fā)展與國際合作論壇上，全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團(tuán)董事長齊向東表示，人工智能發(fā)揮出什么樣的作用，關(guān)鍵還是看使用的人。針對AI黑箱化、黑產(chǎn)化、武器化這三重危機(jī)，齊向東提出應(yīng)通過多維度體系化防護(hù)、“鑒偽”“防偽”技術(shù)、AI提升安全能力三大策略來化解。
他具體解釋稱，第一個策略是結(jié)合大模型基礎(chǔ)運(yùn)行環(huán)境、訓(xùn)練環(huán)境、API接口以及數(shù)據(jù)安全進(jìn)行多維度、體系化防護(hù)。大模型生命周期的每個環(huán)節(jié)都存在大量不確定性，無論是數(shù)據(jù)安全、算法開發(fā)和模型安全、內(nèi)容還是應(yīng)用安全等方面，都要做到合規(guī)。
第二個策略是用“鑒偽”、“防偽”技術(shù)有效遏制深度偽造。針對正在野蠻生長的生成式偽造語音技術(shù)、生成式偽造視頻技術(shù)，應(yīng)該盡快發(fā)展相關(guān)檢測技術(shù)。
第三個策略是用安全大模型反哺安全能力大提升。建立體系化的安全防護(hù)系統(tǒng)，是AI安全大模型驅(qū)動安全的重要前提。奇安信的內(nèi)生安全體系，把網(wǎng)絡(luò)安全設(shè)備和業(yè)務(wù)流轉(zhuǎn)、不同層次的信息系統(tǒng)有機(jī)結(jié)合起來，做到安全能力的無死角，確保多道網(wǎng)絡(luò)安全防線有效協(xié)同，實現(xiàn)從宏觀管控到微觀檢測的全面防護(hù)。
“有了高效的安全治理，AI才有未來�！饼R向東表示，奇安信將運(yùn)用好技術(shù)優(yōu)勢，為AI安全治理貢獻(xiàn)更多安全廠商的力量，努力為全社會營造更加和諧、更加繁榮的未來。
編輯 韋英姿
校對 趙琳
