展會信息港展會大全

防堵AI深偽詐騙!谷歌搜索結果將標注由AI生成的圖像
來源:互聯網   發(fā)布日期:2024-09-18 09:51:29   瀏覽:2058次  

導讀:谷歌周二表示,計劃對谷歌搜索進行調整,使用戶更清楚地知道搜索結果中,哪些圖像是由AI生成或由AI工具編輯的。 該公司表示,在接下來的幾個月中,谷歌將在搜索、Google Lens和Android上的Circle to Search功能的關于此圖像窗口中標記AI生成和編輯的圖像,類...

谷歌周二表示,計劃對谷歌搜索進行調整,使用戶更清楚地知道搜索結果中,哪些圖像是由AI生成或由AI工具編輯的。

該公司表示,在接下來的幾個月中,谷歌將在搜索、Google Lens和Android上的Circle to Search功能的“關于此圖像”窗口中標記AI生成和編輯的圖像,類似的提示可能會出現在YouTube等其他谷歌的其他平臺上。谷歌表示,將在今年晚些時候分享更多相關信息。

值得注意的是,只有包含“C2PA元數據”的圖像才會在搜索中被標記為AI處理過的。C2PA(內容來源與真實性聯盟)是一群致力于制定技術標準的組織,旨在追蹤圖像的歷史,包括捕獲和/或創(chuàng)建圖像的設備和軟件。

目前,包括谷歌、亞馬遜、微軟、OpenAI和Adobe在內的公司都支持C2PA。然而,該聯盟的標準尚未得到廣泛采用。此前有媒體報道,C2PA在推廣和互操作性方面面臨諸多挑戰(zhàn),目前只有少數生成式AI工具和徠卡、索尼的相機支持該組織的規(guī)范。

此外,與任何元數據一樣,C2PA元數據可以被刪除、擦除或損壞到無法讀取的程度。而一些流行的生成式AI工具(如xAI的Grok聊天機器人用于圖像生成的Flux)生成的圖像不含C2PA元數據,部分原因是它們的開發(fā)者尚未同意支持該標準。

但分析認為,盡管如此,有措施總比沒有好,尤其是在AI深度偽造(deepfakes)迅速傳播的情況下。調查顯示,大多數人都擔心被深度偽造欺騙,以及AI可能會助長虛假宣傳的傳播。根據一項估計,涉及AI生成內容的騙局在2023年到2024年之間增長了245%。德勤預計,與深度偽造相關的損失將從2023年的123億美元飆升至2027年的400億美元。

贊助本站

相關內容
AiLab云推薦
推薦內容
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實驗室 版權所有    關于我們 | 聯系我們 | 廣告服務 | 公司動態(tài) | 免責聲明 | 隱私條款 | 工作機會 | 展會港