劃重點(diǎn)
01AI聊天機(jī)器人在破除陰謀論上取得重要突破，能有效削弱一些信眾對(duì)陰謀論的篤信程度。
02麻省理工學(xué)院研究團(tuán)隊(duì)發(fā)現(xiàn)，GPT-4 Turbo模型在對(duì)話中通過量身定制的呈列證據(jù)、個(gè)性化的深度聊天，將一些陰謀論者對(duì)陰謀論的信任度平均降低20%。
03研究結(jié)果顯示，與AI討論陰謀論的參與者對(duì)所選陰謀論的信任度平均降低了20%，這種效果持續(xù)了至少2個(gè)月。
04除此之外，研究團(tuán)隊(duì)還發(fā)現(xiàn)，降低參與者對(duì)一個(gè)陰謀論的信任，也能在一定程度上降低他對(duì)其他陰謀論的信任。
以上內(nèi)容由騰訊混元大模型生成，僅供參考
智東西（公眾號(hào)：zhidxcom）
編譯 | 吳浪娜
編輯 | 漠影
智東西9月15日消息，AI聊天機(jī)器人在破除陰謀論上取得重要突破，能有效削弱一些信眾對(duì)陰謀論的篤信程度，論文登上9月13日的國(guó)際頂級(jí)學(xué)術(shù)期刊Science封面。
很多人對(duì)陰謀論深信不疑，致使一些荒謬謠言層出不窮。麻省理工學(xué)院研究團(tuán)隊(duì)發(fā)現(xiàn)，GPT-4 Turbo模型可以在對(duì)話中通過量身定制的呈列證據(jù)、個(gè)性化的深度聊天，將一些陰謀論者對(duì)陰謀論的信任度平均降低20%，且效果持續(xù)了至少2個(gè)月。這種干預(yù)說明了負(fù)責(zé)任地部署生成式AI有助于辟謠和緩解沖突。
論文題目為《通過與AI對(duì)話持續(xù)減少相信陰謀論（Durably reducing conspiracy beliefs through dialogues with AI）》。
▲論文內(nèi)容截圖（圖源：Science）
論文鏈接：https://www.science.org/doi/10.1126/science.adq1814
一、足夠有力的證據(jù)是否能說服人們放棄陰謀論？
無論是關(guān)于月球登陸從未發(fā)生過的錯(cuò)誤觀念，還是關(guān)于新冠疫苗含有微芯片的虛假說法，陰謀論比比皆是，有時(shí)甚至?xí)a(chǎn)生危險(xiǎn)的后果。對(duì)未經(jīng)證實(shí)的陰謀論的信任是大眾關(guān)注的重要議題，也是學(xué)術(shù)研究的焦點(diǎn)。
盡管這些陰謀論往往非常不可信，但仍有許多人選擇相信。著名的心理學(xué)理論認(rèn)為，許多人想要采用陰謀論以滿足潛在的心理“需求”或動(dòng)機(jī)，因此他們很難被事實(shí)和反證據(jù)說服，來放棄這些毫無根據(jù)的陰謀論。這篇論文對(duì)這一傳統(tǒng)觀點(diǎn)提出質(zhì)疑。是否有可能用足夠有力的證據(jù)說服人們走出陰謀論的 “無底洞”。
“傳統(tǒng)觀點(diǎn)會(huì)告訴你，那些相信陰謀論的人很少會(huì)改變他們的想法，哪怕是根據(jù)證據(jù)。”論文的第一作者托馬斯科斯特洛（Thomas H. Costello）說。然而，這項(xiàng)新研究提供了不同的觀點(diǎn)。“我們的研究結(jié)果從根本上挑戰(zhàn)了這種觀點(diǎn)：一旦掉入無底洞相信陰謀論，證據(jù)和論點(diǎn)就幾乎沒有用處了。”研究團(tuán)隊(duì)寫道。
二、與GPT-4 Turbo進(jìn)行3輪對(duì)話，用證據(jù)駁斥陰謀論觀點(diǎn)
研究假設(shè)，基于事實(shí)性、糾正性信息的論據(jù)可能會(huì)顯得無效，因?yàn)樗鼈內(nèi)狈ψ銐虻纳疃群蛡�(gè)性化。為了驗(yàn)證這一假設(shè)，研究人員利用了大語言模型的進(jìn)步，這是一種AI，能夠獲取大量信息并生成定制論據(jù)。因此，大語言模型可以產(chǎn)生具有批判性思維的對(duì)話，直接反駁每個(gè)人所引用的支持其相信陰謀論的特定證據(jù)。
在兩次實(shí)驗(yàn)中，2190位參與者用自己的話闡述他們所相信的陰謀論，以及他們認(rèn)為支持這一理論的證據(jù)。這些信息被輸入到AI系統(tǒng)中。參與者還被要求以100分的標(biāo)準(zhǔn)來評(píng)估他們所相信的陰謀論的真實(shí)程度。
然后，他們與大語言模型GPT-4 Turbo進(jìn)行了三輪對(duì)話，在我們的提示下，GPT-4Turbo回應(yīng)了這些具體證據(jù)，同時(shí)試圖降低參與者對(duì)陰謀論的信任度�；蛘咦鳛閷�(duì)照條件，與AI就不相關(guān)的話題進(jìn)行對(duì)話。對(duì)話結(jié)束之后，再次評(píng)估參與者他們認(rèn)為陰謀論的真實(shí)性。
▲參與者與AI對(duì)話的設(shè)計(jì)和流程，一共進(jìn)行三輪對(duì)話。上圖展示一名參與者與AI對(duì)話后，其對(duì)陰謀論的信任度降低了60%。（圖源：Science）
三、參與者對(duì)陰謀論的信任度平均降低20%，效果持續(xù)兩個(gè)月
研究結(jié)果顯示，與AI討論陰謀論的參與者對(duì)所選陰謀論的信任度平均降低了20%。這種效果持續(xù)了至少2個(gè)月，絲毫未減。而那些討論非陰謀論話題的人對(duì)真實(shí)性的評(píng)分只略有下降。
研究團(tuán)隊(duì)談道，在各種陰謀論中，都能持續(xù)觀察到這種效果，包括涉及暗殺肯尼迪、外星人和光明會(huì)的經(jīng)典陰謀論，到與COVID-19和2020年美國(guó)總統(tǒng)大選等熱點(diǎn)事件相關(guān)的陰謀論。值得注意的是，AI并沒有減少參與者對(duì)真實(shí)陰謀論的信任度。
▲與AI對(duì)話能持久降低陰謀論可信度，即使是堅(jiān)定的陰謀論者也不例外。對(duì)話后參與者對(duì)所選陰謀論的平均信任度降低，效果持續(xù)兩個(gè)月。（圖源：Science）
研究人員補(bǔ)充說，效果的大小取決于多種因素，包括陰謀論對(duì)參與者的重要性以及他們對(duì)AI的信任程度。
“有大約四分之一的參與者，在實(shí)驗(yàn)開始時(shí)相信陰謀論，但在結(jié)束時(shí)不再相信。”科斯特洛說。
“在大多數(shù)情況下，AI只能逐漸削弱使人們變得更加懷疑和不確定但少數(shù)人完全擺脫了他們的陰謀論信任度。”
研究人員補(bǔ)充說，降低參與者對(duì)一個(gè)陰謀論的信任，也能在一定程度上降低他對(duì)其他陰謀論的信任。陰謀論世界觀普遍減少，并增加了反駁其他陰謀論者的意圖。這種方法在現(xiàn)實(shí)世界中可能有應(yīng)用例如，AI可以回復(fù)社交媒體上陰謀論相關(guān)的帖子。
此外，一個(gè)專業(yè)人員評(píng)估了AI提出的128個(gè)樣本，其中99.2%是正確的，0.8%是有誤導(dǎo)性的，無一虛假。
結(jié)語：專家質(zhì)疑AI說服陰謀論者的實(shí)際應(yīng)用
研究說明，陰謀論的“無底洞”可能確實(shí)有一個(gè)出口。心理需求和動(dòng)機(jī)本質(zhì)上并不會(huì)導(dǎo)致陰謀論者對(duì)證據(jù)視而不見他們只是需要正確的證據(jù)。實(shí)際上，通過展示大語言模型的說服力，該研究既強(qiáng)調(diào)了生成式AI在負(fù)責(zé)任地使用時(shí)可能產(chǎn)生的積極影響，也強(qiáng)調(diào)了最大限度地減少不負(fù)責(zé)任地使用這項(xiàng)技術(shù)的緊迫性。
未參與該工作的劍橋大學(xué)教授桑德爾范德林登（Sander van der Linden）質(zhì)疑人們是否會(huì)在現(xiàn)實(shí)世界中自愿與這樣的AI互動(dòng)。
他還談道，目前尚不清楚如果參與者與匿名人類聊天是否會(huì)得到類似的結(jié)果，同時(shí)也有關(guān)于AI如何說服陰謀論者的問題，因?yàn)樵撓到y(tǒng)還使用了諸如同情和肯定等策略。
但是，他補(bǔ)充說：“總的來說，這是一個(gè)非常新穎且可能重要的發(fā)現(xiàn)，也是AI如何被用來打擊錯(cuò)誤信息的一個(gè)很好的例證。”
來源：Science、《衛(wèi)報(bào)》
