展會信息港展會大全

幾秒就能完成人肉搜索,Meta將智能眼鏡與人臉搜索結(jié)合引發(fā)隱私擔憂
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-10-03 17:50:01   瀏覽:3030次  

導(dǎo)讀:前不久,Meta 舉行了年度開發(fā)者大會(Meta Connect 2024)。 在 AI 的加持下,虛擬現(xiàn)實(VR,Virtual Reality)頭顯 Quest 3S 和增強現(xiàn)實(AR,Augmented Reality)眼鏡 Orion 格外引人注目。 Meta 還在大會上宣布了對現(xiàn)有雷朋智能眼鏡(Ray Bans)的升級,...

前不久,Meta 舉行了年度開發(fā)者大會(Meta Connect 2024)。

在 AI 的加持下,虛擬現(xiàn)實(VR,Virtual Reality)頭顯 Quest 3S 和增強現(xiàn)實(AR,Augmented Reality)眼鏡 Orion 格外引人注目。

Meta 還在大會上宣布了對現(xiàn)有雷朋智能眼鏡(Ray Bans)的升級,使其獲得了更多的 AI 功能。

這款智能眼鏡是 AI 領(lǐng)域最暢銷消費級硬件產(chǎn)品之一,預(yù)計今年的出貨量將超過 200 萬臺。

不過,圍繞Meta 和這款智能眼鏡的隱私討論一直存在:一方面是設(shè)備可能被濫用的安全隱患,另一方面則是數(shù)據(jù)使用的透明度問題。

最近,美國哈佛大學(xué)兩名學(xué)生安福阮(AnhPhu Nguyen)和凱恩阿達菲奧(Caine Ardayfio)進行了一項技術(shù)實驗。

他們成功地將 Meta 雷朋智能眼鏡與人臉搜索引擎 PimEyes 結(jié)合,開發(fā)出了一款名為 I-XRAY 的系統(tǒng)。

幾秒就能完成人肉搜索,Meta將智能眼鏡與人臉搜索結(jié)合引發(fā)隱私擔憂

圖 | I-XRAY 的介紹(來源:資料圖)

這個系統(tǒng)能夠僅通過觀察(捕捉人臉)就獲取陌生人的個人信息,包括姓名、地址和電話號碼等隱私數(shù)據(jù)。

通過結(jié)合大模型的強大功能,該系統(tǒng)能夠在幾秒鐘內(nèi)完成對目標人物的信息收集和整合,這在過去可能需要耗費大量時間才能完成。

他們選擇了Meta 在 2023 年發(fā)布的第二代智能眼鏡作為實驗設(shè)備,原因也很簡單,即這款眼鏡與普通眼鏡外觀幾乎沒有區(qū)別。

此外,他們還在實驗過程中遮蓋了眼鏡錄制時會自動亮起的指示燈,因此數(shù)據(jù)采集更加隱蔽,旁人難以發(fā)現(xiàn)。

在地鐵站進行的實地測試中,他們成功識別了數(shù)十位路人的身份信息,并能夠利用獲取的信息假裝是目標人物的熟人,來與其互動。

這種行為引發(fā)了人們對隱私泄露和個人安全的擔憂。

安福在社交平臺 X 上表示,為了防止任何人被人肉搜索或技術(shù)被濫用,他們選擇不公布代碼。

但他們在一份谷歌文檔中概述了工作原理,以及測試對象(隨機路人)發(fā)現(xiàn)自己的隱私信息如此輕易地被挖掘出來后的震驚。

兩位哈佛學(xué)生還強調(diào),他們公開這項研究的主要目的是提高人們對隱私保護的認識。

他們還給出了從 PimEyes 等反向人臉搜索引擎中刪除個人信息的詳細指南,以及從 FastPeopleSearch、CheckThem 和 Instant Checkmate 等人物搜索數(shù)據(jù)庫中移除個人數(shù)據(jù)的具體方法。

與此同時,Meta 在 AI 訓(xùn)練數(shù)據(jù)的使用政策也引發(fā)了爭議。

據(jù)Meta 政策傳播經(jīng)理埃米爾瓦茲奎茲(Emil Vazquez)透露,任何經(jīng)過 Meta AI 分析的圖像都可能被用于 AI 訓(xùn)練。

這一政策的影響范圍極其廣泛,因為它不僅包括用戶主動分享的內(nèi)容,還包括通過智能眼鏡的 AI 功能進行分析的所有圖像和視頻。

更令人擔憂的是,Meta 最近推出的實時視頻分析功能,會持續(xù)將圖像傳輸給 AI 模型。

該公司在今年的開發(fā)者大會上展示了這項新功能,用戶可以通過它來分析衣櫥內(nèi)容并獲取穿搭建議。

然而,該公司并未在推廣時明確指出這些數(shù)據(jù)會被用于模型訓(xùn)練。這種信息不對等的狀況,引發(fā)了用戶對數(shù)據(jù)使用透明度的質(zhì)疑。

幾秒就能完成人肉搜索,Meta將智能眼鏡與人臉搜索結(jié)合引發(fā)隱私擔憂

(來源:Meta)

Meta的數(shù)據(jù)保護歷史,導(dǎo)致人們難以對其保持信任。

該公司此前因在 Facebook 上使用面部識別技術(shù)而陷入法律糾紛,最終以支付 14 億美元和解金收常

值得注意的是,Meta 的隱私政策還規(guī)定,公司默認會儲存所有通過 Ray-Ban Meta 進行的語音對話記錄,用于訓(xùn)練未來的 AI 模型。

雖然用戶可以選擇退出語音錄音的訓(xùn)練用途,但這種默認加入的機制本身就值得商榷。

在歐盟,由于《通用數(shù)據(jù)保護條例》的存在,收集面部識別數(shù)據(jù)通常需要獲得當事人的同意,這在某種程度上限制了類似 I-XRAY 的技術(shù)。

但是在美國,由于缺乏統(tǒng)一的隱私保護法案,這類技術(shù)很容易被不法分子利用。

業(yè)內(nèi)人士特別提到,Clearview AI 等公司正在開發(fā)類似的面部識別智能眼鏡。此前,該公司曾因隱私違規(guī)被罰款 3300 萬美元。

然而,Meta 和 PimEyes 對這些隱私擔憂的回應(yīng),似乎有些輕描淡寫。

Meta 對媒體表示,這些風險與個人照片發(fā)布在網(wǎng)上的風險相同,而 PimEyes 則聲稱,他們的服務(wù)并不會“識別”個人,只是提供照片鏈接。

這一系列事件凸顯了智能設(shè)備、AI 技術(shù)與個人隱私保護之間的復(fù)雜關(guān)系。

在科技快速發(fā)展的今天,如何在技術(shù)創(chuàng)新與保護個人隱私之間取得平衡,已經(jīng)成為一個亟待解決的重要課題。無論是科技公司、監(jiān)管機構(gòu)還是普通用戶,都需要認真思考這個問題。

而對于普通用戶來說,目前最有效的保護措施是謹慎使用 AI 分析功能,并主動從各類數(shù)據(jù)庫中刪除個人信息。

參考資料:

https://arstechnica.com/tech-policy/2024/10/harvard-students-make-auto-doxxing-smart-glasses-to-show-need-for-privacy-regs/

https://techcrunch.com/2024/10/02/meta-confirms-it-may-train-its-ai-on-any-image-you-ask-ray-ban-meta-ai-to-analyze/

排版:劉雅坤

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實驗室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動態(tài) | 免責聲明 | 隱私條款 | 工作機會 | 展會港