今年早些時候，谷歌的AI曾建議用戶在披薩里放膠水，或者吃石頭。自那之后，谷歌搜索結(jié)果的AI概覽（Overviews）功能似乎依舊小問題不斷，貌似還將社交媒體上的惡搞視頻當(dāng)成了正經(jīng)的信息來源。
原文標題：《谷歌基于TikTok內(nèi)容訓(xùn)練AI概覽功能的效果如何？猜也猜得到》
美國體操運動員伊恩岡瑟制作了一條關(guān)于“約翰后空翻”（John Backflip）的惡搞視頻，無意間暴露出谷歌用AI生成搜索結(jié)果摘要的功能存在一些設(shè)計缺陷。
先前，谷歌的Gemini AI模型建議人們用膠水來做披薩。如今六個月過去，這一功能仍舊難以區(qū)分事實與虛構(gòu)。
就在前幾周，如果你搜索“后空翻是誰發(fā)明的”，Gemini AI還是會巨細無遺地向你介紹“約翰后空翻”，稱他在1316年的中世紀歐洲首次掌握了這一動作。如果你搜索“約翰后空翻是誰”，谷歌的AI還會告訴你是他發(fā)明了這個體操技巧。其實，這則信息的來源是美國體操運動員伊恩岡瑟（Ian Gunther）發(fā)在TikTok上的一條視頻，而這個故事完全是他瞎編的。
“我喜歡制作一些關(guān)于體操的惡搞視頻，你怎么拿這項運動搞笑和開玩笑都可以，也不會有人來追究。”岡瑟在接受《福布斯》采訪時表示。
谷歌Gemini AI生成的“概覽”會出現(xiàn)在搜索結(jié)果頁面頂端，推出后出師不利，在磕磕絆絆中走過了六個月。AI概覽曾聲稱吃石頭有益健康，還說奧巴馬是美國第一位穆斯林總統(tǒng)。這讓谷歌在網(wǎng)上成為笑柄，也突顯了大型語言模型的局限性。
岡瑟是前美國國家男子體操隊成員，曾在2023年贏得全國大學(xué)體育協(xié)會（NCAA）體操冠軍。2023年5月，他在灣區(qū)一家健身房結(jié)束訓(xùn)練后編造了“約翰后空翻”的故事。“在體操中，大多數(shù)技巧的名字都是以第一個在國際比賽中完成該動作的人命名的，”岡瑟說�！拔一氐郊液缶拖咕幜艘粋�故事，說是某某發(fā)明了后空翻這個動作�！�
為了防止有人聽不懂這個笑話，岡瑟又胡謅出“亨利雙力臂”（Henry MuscleUp）、“理查德倒立推手”（Richard Presshandstand）和“阿方索握力王”（Alfonso El Grip）等其他早期的“體操先驅(qū)”。岡瑟平時會在YouTube和TikTok上分享訓(xùn)練和比賽視頻，這條惡搞視頻的點擊量一般。他差點就把它忘記了，直到2023年7月收到一條短信。“對方給我發(fā)了一張AI概覽的截圖，我看到時就想，‘不是吧，我這是惹了什么禍？’我成了傳播虛假信息的人了嗎？”
網(wǎng)友把關(guān)于“約翰后空翻”的AI概覽截圖分享到Reddit和其他社交網(wǎng)絡(luò)，甚至引得詞典出版商韋氏專門發(fā)推澄清事實。
現(xiàn)在，谷歌已經(jīng)將關(guān)于“后空翻發(fā)明者”的AI概覽標記為網(wǎng)梗，但仍然一字不差地復(fù)述了岡瑟視頻中的內(nèi)容。《福布斯》測試了OpenAI、Anthropic和Perplexity等競爭對手的AI平臺，它們要么識別出這是個笑話，要么指出沒有準確的資料表明誰是第一個完成后空翻的人。
岡瑟至今仍感到很困惑，不知谷歌為什么會采信這條視頻�！八麄兇蟾挪粦�(yīng)該把我的視頻當(dāng)作任何形式的信息來源�！彼f。
這條視頻暴露出谷歌AI概覽設(shè)計中的幾處弱點。谷歌副總裁莉茲里德（Liz Reid）在5月的一篇博客文章中解釋道，這類奇怪搜索結(jié)果的根源是“數(shù)據(jù)空白”，即在搜索某個主題時，相關(guān)優(yōu)質(zhì)內(nèi)容極少，或者僅有惡搞內(nèi)容。
“在少數(shù)情況下，我們確實看到AI概覽誤讀了網(wǎng)頁上的語言，呈現(xiàn)出不準確的信息。我們迅速解決了這些問題，或是通過改進算法，或是通過既有流程移除不符合我們政策的回答�！崩锏略诓┪闹袑懙�。
里德表示，谷歌在AI概覽中引入了新的安全措施，識別用戶的查詢是不是在搞怪，并減少對幽默內(nèi)容和用戶生成建議的參考，特別是在新聞和健康話題方面。谷歌還在AI給出摘要后補充了一個警示標簽：“生成式AI仍處于試驗階段”。
谷歌發(fā)言人奧利維亞奧布萊恩（Olivia O’Brien）在一份聲明中對《福布斯》表示：“絕大多數(shù)AI概覽都是高質(zhì)量的，準確性與精選摘要（Featured Snippets）之類的其他搜索功能不相上下。”
岡瑟現(xiàn)在正在捷克布拉格參加體操比賽，他表示，如果他編的這則笑話能借AI之力“遺臭萬年”，他會很高興。他開玩笑說，“我希望將來某一天，學(xué)校里會教孩子們‘約翰后空翻’的故事�！�
本文譯自：
https://www.forbes.com/sites/iainmartin/2024/11/29/googles-training-its-ai-overviews-on-tiktok-its-going-as-well-as-you-would-expect/
文：Iain Martin
翻譯：Lemin
