展會(huì)信息港展會(huì)大全

OpenAI報(bào)告:AI模型被用于干擾選舉 美國(guó)大選成“重災(zāi)區(qū)”
來(lái)源:互聯(lián)網(wǎng)   發(fā)布日期:2024-10-14 09:14:03   瀏覽:1735次  

導(dǎo)讀:財(cái)聯(lián)社10月10日訊(編輯 劉蕊) 隨著人工智能技術(shù)的持續(xù)火熱,OpenAI旗下的ChatGPT也被一些不法分子盯上,成為了試圖用于影響全球各國(guó)選舉的重要工具。 OpenAI已破壞20多個(gè)欺騙網(wǎng)絡(luò) 美東時(shí)間周三,OpenAI發(fā)布了一份長(zhǎng)達(dá)54頁(yè)的報(bào)告,聲稱自今年年初以來(lái),Open...

財(cái)聯(lián)社10月10日訊(編輯 劉蕊)隨著人工智能技術(shù)的持續(xù)火熱,OpenAI旗下的ChatGPT也被一些不法分子盯上,成為了試圖用于影響全球各國(guó)選舉的重要工具。

OpenAI已破壞20多個(gè)欺騙網(wǎng)絡(luò)

美東時(shí)間周三,OpenAI發(fā)布了一份長(zhǎng)達(dá)54頁(yè)的報(bào)告,聲稱自今年年初以來(lái),OpenAI已經(jīng)破壞了來(lái)自世界各地的20多個(gè)試圖使用我們模型的不法行動(dòng)和欺騙性傳播。

OpenAI報(bào)告:AI模型被用于干擾選舉 美國(guó)大選成“重災(zāi)區(qū)”

他們指出,這些危害行為包括利用人工智能技術(shù)生成網(wǎng)站文章,以及利用虛假賬戶在社交媒體上發(fā)布虛假信息帖子等等。

OpenAI的這份報(bào)告發(fā)布之際,距離美國(guó)總統(tǒng)大選正好還剩一個(gè)月的時(shí)間。而除了美國(guó)之外,今年對(duì)全世界來(lái)說(shuō)都是重要的選舉年:今年全球有超過(guò)40個(gè)國(guó)家舉行選舉,影響人數(shù)超過(guò)40多億人。

事實(shí)上,選舉中利用虛假信息來(lái)干擾選舉,并不是一個(gè)新現(xiàn)象。但根據(jù)機(jī)器學(xué)習(xí)公司Clarity的數(shù)據(jù),隨著人工智能生成內(nèi)容的興起,今年網(wǎng)絡(luò)上與選舉相關(guān)的錯(cuò)誤信息激增,并因此引發(fā)了普遍的擔(dān)憂。

隨著ChatGPT的推出,生成式人工智能于2022年底起飛,現(xiàn)在已被各種規(guī)模的公司采用。而與此同時(shí),今年網(wǎng)絡(luò)上深度偽造(DeepFakes)內(nèi)容的數(shù)量已經(jīng)同比增長(zhǎng)900%。

虛假內(nèi)容影響力暫時(shí)有限

OpenAI在報(bào)告中寫(xiě)道,與選舉相關(guān)的人工智能應(yīng)用“從簡(jiǎn)單的內(nèi)容生成請(qǐng)求到復(fù)雜、多階段的分析和回復(fù)社交媒體帖子的工作,復(fù)雜性各不相同。”

而從社交媒體內(nèi)容來(lái)看,有害的AI內(nèi)容主要與美國(guó)和盧旺達(dá)的選舉有關(guān),也有部分有害內(nèi)容與印度和歐盟的選舉相關(guān)。

今年6月,OpenAI識(shí)別并挫敗了一項(xiàng)試圖影響歐洲選舉的秘密行動(dòng):有不法分子利用ChatGPT生成帖子,在社交媒體上對(duì)歐洲議會(huì)選舉以及美國(guó)、德國(guó)、意大利和波蘭的政治發(fā)表評(píng)論。

OpenAI表示,雖然上述這些利用AI生成的社交媒體帖子大部分幾乎沒(méi)有得到點(diǎn)贊或分享,但也有部分帖子的確得到了真人用戶的回復(fù)。

OpenAI還寫(xiě)道,雖然已經(jīng)出現(xiàn)了不少與選舉相關(guān)的虛假內(nèi)容,但截至目前這些威脅舉措的影響力還有限:目前沒(méi)有一項(xiàng)與選舉相關(guān)的操作,能夠通過(guò)使用ChatGPT和OpenAI的其他工具吸引民眾的“病毒式參與”或吸引“持續(xù)受眾”。

(財(cái)聯(lián)社 劉蕊)

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開(kāi)

熱門(mén)欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港