根據Juimo《2024在線身份研究報告》（簡稱《報告》）對包括美國、英國、新加坡和墨西哥等在內的多個國家超8000名消費者的調研顯示：近四分之三的消費者（72%）每天都擔心被深度偽造欺騙，從而泄露敏感信息或被騙金錢。只有15%的全球消費者（新加坡只有7%）表示他們從未遇到過深度偽造的視頻、音頻或圖像。
深度偽造正在成為網絡欺詐的重點難題
伴隨著生成式AI的發(fā)展，AI技術在給帶來便捷的同時也被不法分子所利用，網絡犯罪的成本更低、效率更高，且更難被人們識破。奇安信集團發(fā)布的《2024人工智能安全報告》中顯示，2023年基于AI的深度偽造欺詐暴增3000%，基于AI的釣魚郵件增長1000%。
Jumio亞太區(qū)區(qū)域總監(jiān)丁娜娜告訴鈦媒體APP，深度偽造技術是數字世界的隱蔽“傀儡師”，他們操縱視覺內容，通過使用強大的算法和人工智能實現”換臉”，并創(chuàng)建非常逼真但完全虛構的視頻或圖像，從而捏造虛假現實。新興換臉技術的出現是深度偽造的又一次演變，涉及網絡犯罪分子結合現有視頻或直播的新方法，并在原始信息流上實時疊加另一個身份。
據統(tǒng)計，僅 2022年一年，冒名欺詐就給英國消費者造成了 1.07 億英鎊的損失，給美國消費者造成了 26 億美元的損失，給新加坡造成了 1.01 億新元的損失。
不僅于此，在中國，利用AI實施電信詐騙的案例也已屢見不鮮。2023年5月，內蒙古包頭市公安局電信網絡犯罪偵查局發(fā)布一起使用智能AI技術進行電信詐騙的案件，福州市某科技公司法人代表郭先生10分鐘內被騙430萬元。
案件具體如下：4月20日中午，郭先生的好友突然通過微信視頻聯系他，自己的朋友在外地競標，需要430萬元保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。基于對好友的信任，加上已經視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉到了好友朋友的銀行卡上。郭先生撥打好友電話，才知道被騙。騙子通過智能AI換臉和擬聲技術，佯裝好友對他實施了詐騙。
顯然，生成式AI技術的發(fā)展，已經對線上交流的“信任度”造成了極大的沖擊。在企業(yè)側亦是如此，Gartner預測，到2026年，30%的企業(yè)將因為AI生成的人臉生物識別深度偽造攻擊，而認為此類身份認證和驗證解決方案不再能夠起到可靠的作用。
通過深度偽造技術，不法分子可偽造員工身份，進而非法訪問企業(yè)內部系統(tǒng)。通過精心制作的偽造視頻和音頻，攻擊者可以模仿高層管理人員的面部表情、語氣甚至行為模式，從而增加對指令的信任度，實現非法操作或竊取敏感數據。這不僅可能導致企業(yè)遭受重大經濟損失，還可能泄露核心商業(yè)機密，影響企業(yè)的競爭力。
另一方面，Gartner預測，到2025年，生成式AI的采用將導致企業(yè)機構所需的網絡安全資源激增，使應用和數據安全支出增加15%以上。
用AI抵抗AI
面對AI帶來的日益嚴峻的安全挑戰(zhàn)，“用AI抵抗AI”已經成為安全行業(yè)的共識，“面對AI大模型時代的深度偽造技術欺詐，我們建議企業(yè)使用先進的人工智能和生物識別分析來防范和對抗，”丁娜娜告訴鈦媒體APP，“為了防止深度偽造，解決方式是必須控制自拍過程并拍攝一系列圖像，以確定該人是否真實存在并保持清醒，而不是睡眠狀態(tài)，不是面具、照片或視頻，也不是深度偽造�！�
從企業(yè)角度出發(fā)，企業(yè)應該將基于機器學習和深度學習的圖像、視頻、音頻檢測算法等在內的技術引入到自身安全系統(tǒng)之中，這些技術可以幫助識別出偽造內容，從而減少虛假信息的傳播。
在丁娜娜看來，真實性檢測步驟必須使用先進的AI和機器學習模型，而這些模型已經通過各種真實世界數據的訓練�！斑@一步對于阻止欺詐者絕對至關重要，因為欺詐者現在可以輕而易舉地制造出非常逼真的深度偽造照片，輕松騙過舊的身份驗證技術。”丁娜娜強調。與此同時，自拍驗證步驟還應該提供其他生物識別檢查，如年齡評估，以標記與身份證件數據不符的自拍照。
通過活體檢測技術，企業(yè)可以發(fā)現復雜的攻擊，包括人臉交換、人臉變形和其他高級的欺騙攻擊。不僅于此，在丁娜娜看來，企業(yè)還應當采用包括主動光源、視頻注入檢測以及眼部和面部運動分析等在內的先進技術，阻止攻擊，并確認當前用戶及其身份證件確實存在�！皩τ贘umio來說，我們能夠基于面部的生物識別技術將自拍照中的特定面部特征（如眼睛、鼻子和耳朵的間距）與身份證件照片中的面部特征進行比較，來判斷兩者是否為同一個人�！倍∧饶戎赋觥�
以金融行業(yè)為例，金融行業(yè)在傳統(tǒng)的eKYC（基于區(qū)塊鏈的企業(yè)電子身份認證信息系統(tǒng)）之外，結合生物識別認證技術將有助于增強安全性。例如，驗證用戶的個人身份信息 (PII)、驗證年齡、評估用戶電子郵件和電話號碼的信用級別、通過 IP 地址驗證用戶的位置，評估設備的可信度以評估用戶的風險等級。擁有高度準確和主動化的身份驗證解決方案，將有助于實時攔截可疑交易并迅速采取適當的行動。對于出海企業(yè)來說，還需要考慮不同國家和地區(qū)的客戶盡調標準和跨境支付工作流程。
40+模型接入，黑名單數據庫......讓客戶轉化率提升40%
通過AI模型的技術，能讓企業(yè)在進行eKYC時，效率更高，準確率更高，線上用戶提供自拍進行人臉身份認證登入賬號，增強了平臺的安全性的同時，還可以確保KYC的合規(guī)性。
以Jumio的eKYC身份證件驗證系統(tǒng)為例，該系統(tǒng)擁有200余個國家，超5000款證件的模板，并接入了40多個機器學習模型，并且依托于全球第二大黑名單數據庫。據丁娜娜介紹，通過自動化在線身份驗證技術，用戶可以在幾秒內就能完成KYC流程，從而提升用戶體驗和客戶轉化率約40%。與此同時，實施線上身份驗證解決方案后，對于跨境的企業(yè)而言，可以在保持低運營成本的同時，在全球范圍內招攬更多的用戶。
而面對鈦媒體APP提出的，用戶是采用本地化部署，還是云付費的模式時，Jumio亞太區(qū)副總裁Frederic Ho則表示，無論是采用哪家提供的eKYC服務，用戶使用該服務的最好的方式還是采用云計算的模式，“有些用戶會在交付的時候，提出交付eKYC系統(tǒng)的方式，但這類方式讓企業(yè)只能看到公司內部的數據，以及安全趨勢，”Frederic Ho指出，“而采用云的方式，企業(yè)可以實時掌握全球的安全趨勢，并具備全域數據訓練出的模型能力�！�（本文首發(fā)于鈦媒體APP，作者｜張申宇，編輯丨蓋虹達）
「關于創(chuàng)新場景50」
場景不是案例，它更加精準、也更加抽象。數字化就是創(chuàng)新場景的不斷疊加和迭代。
在此背景下，鈦媒體重磅推出「創(chuàng)新場景50」評選，每年遴選并解讀50個全行業(yè)與業(yè)務深度融合的創(chuàng)新性場景及其解決方案，并在鈦媒體年度ITValue Summit 數字價值年會上隆重頒獎、深度交流。
目前場景正在征集中，更精準的解讀、更廣泛的曝光、更強大的品牌勢能，歡迎你提出問題，更歡迎你留下解決的方法和工具。
