7月4日，2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議（WAIC2024）在上海開(kāi)幕。在當(dāng)天下午舉行的國(guó)際電信聯(lián)盟人工智能向善研討會(huì)上，硅谷機(jī)器人創(chuàng)業(yè)公司Robust.AI首席執(zhí)行官兼創(chuàng)始人加里馬庫(kù)斯做了視頻演講，分享“如何確保人工智能為我們所用”。
加里馬庫(kù)斯在論壇上進(jìn)行視頻演講。 主辦方供圖
據(jù)澎湃新聞此前報(bào)道，加里馬庫(kù)斯一直是生成式AI浪潮的唱反調(diào)者，堅(jiān)稱僅靠深度學(xué)習(xí)并不能實(shí)現(xiàn)類人智能，經(jīng)常在社交媒體上與AI知名學(xué)者舌戰(zhàn)。提起討厭ChatGPT的專家，他絕對(duì)是社交媒體上最矚目的人。
“現(xiàn)在所用的AI在技術(shù)上和道德上都是不完整的（inadequate）。”馬庫(kù)斯開(kāi)篇明義，表示大家現(xiàn)在所關(guān)注的生成式AI只是一種可能性的方法，很有趣、很受歡迎，但是有很多問(wèn)題，他更愿意將其稱為“Rough Draft AI（AI的草稿）”。
馬庫(kù)斯將當(dāng)前人們關(guān)注的通用人工智能稱為“RoughDraftAI”
馬庫(kù)斯表示，AI會(huì)使用全世界的統(tǒng)計(jì)數(shù)據(jù)，試圖從這些統(tǒng)計(jì)數(shù)據(jù)中猜測(cè)這個(gè)世界是如何運(yùn)作的，但這并不能夠代表世界的真相。這就是所謂的“AI幻覺(jué)”，大語(yǔ)言模型看起來(lái)很聰明，但是不能檢查自己的工作。而這些問(wèn)題并不能通過(guò)加入多模態(tài)、影像學(xué)工具來(lái)真正地解決。
其次，人工智能也會(huì)存在偏見(jiàn)問(wèn)題，這在十年之前就為人們所知，但現(xiàn)在也還沒(méi)有真正的解決方案。此外，人工智能也存在抄襲問(wèn)題，Chat GPT的產(chǎn)出會(huì)根據(jù)統(tǒng)計(jì)數(shù)據(jù)給出多個(gè)版本的回答，但實(shí)際上只是已有數(shù)據(jù)的重塑。
由此，馬庫(kù)斯認(rèn)為今天的AI是不穩(wěn)定的，在現(xiàn)實(shí)中沒(méi)有錨，于是帶來(lái)很多風(fēng)險(xiǎn)，比如虛假信息、市場(chǎng)操作、誹謗、深度造假、偏見(jiàn)歧視、隱私數(shù)據(jù)泄露、侵犯知識(shí)產(chǎn)權(quán)等。在他看來(lái)，過(guò)度依賴這樣不可靠的系統(tǒng)，甚至將AI工具放到武器系統(tǒng)或者電網(wǎng)當(dāng)中，成本是巨大的，甚至可能會(huì)存在嚴(yán)重的長(zhǎng)期風(fēng)險(xiǎn)。
如何在政策層面提出解法呢？馬庫(kù)斯指出，不能期待現(xiàn)有的法律面面俱到，也不能期待一個(gè)統(tǒng)一的解決方案能夠解決AI帶來(lái)的所有風(fēng)險(xiǎn)。在全球范圍內(nèi)，馬庫(kù)斯認(rèn)為快速敏捷的反應(yīng)很重要，同時(shí)還需要透明度，需要全面統(tǒng)計(jì)、全面訓(xùn)練，并全面披露所有內(nèi)部測(cè)試。此外，還需要第三方來(lái)做發(fā)布后的審計(jì)，讓人們知道這些AI系統(tǒng)是否被誤用，是否存在歧視。要負(fù)責(zé)任地進(jìn)行分層監(jiān)督，要有類似國(guó)家和全球性質(zhì)的機(jī)構(gòu)來(lái)做監(jiān)管。
馬庫(kù)斯還指出，不應(yīng)該讓大型科技公司來(lái)決定一切，例如技術(shù)開(kāi)源可能會(huì)帶來(lái)風(fēng)險(xiǎn)。
盡管AI熱潮奔涌，但在馬庫(kù)斯看來(lái)，通用人工智能并非迫在眉睫。人們?nèi)绱苏J(rèn)為，一定程度上是來(lái)自硅谷的炒作，真正重要的是解決人工智能在現(xiàn)實(shí)世界中的問(wèn)題。馬庫(kù)斯提出，人工智能的能力增長(zhǎng)實(shí)際上已經(jīng)放緩，但他仍覺(jué)得人工智能有希望變得更好。要實(shí)現(xiàn)這一點(diǎn)，還需要從人類社會(huì)當(dāng)中獲得線索。他說(shuō)：“人的思維不是單一的，當(dāng)我們?cè)谥贫ㄈ斯ぶ悄苷邥r(shí)，需要對(duì)當(dāng)前的人工智能持現(xiàn)實(shí)的態(tài)度，并且找到超越它的方法。”
馬庫(kù)斯表示，很多公司都擁有學(xué)習(xí)能力強(qiáng)、推理能力較弱、數(shù)據(jù)不可解釋的系統(tǒng)，而現(xiàn)在需要開(kāi)發(fā)一種新的人工智能方法�；蛟S需要幾十年的時(shí)間，人們才能夠去理解如何構(gòu)建一個(gè)結(jié)合學(xué)習(xí)和推理優(yōu)點(diǎn)的人工智能，讓其成為可學(xué)習(xí)的、數(shù)據(jù)高效的、可解釋的、可靠的、可驗(yàn)證的和基于事實(shí)的人工智能。
