新京報貝殼財經(jīng)訊（記者羅亦丹）“ChatGPT，你確定你剛生成的是對的嗎？”9月5日，在2024 Inclusion外灘大會開幕主論壇上，機器學習泰斗、美國“三院院士”邁克爾喬丹再次談到人工智能的不確定性。他表示，當前的人工智能系統(tǒng)很難表達它真正學到哪些知識，也沒有能力表達它有多確定。相較之下，人類在面對不確定性時表現(xiàn)出色，尤其是集體協(xié)作共同應對時。
美國“三院院士”邁克爾喬丹 官方供圖
“缺乏對集體性、不確定性和激勵機制的關(guān)注，是當前對人工智能的討論中缺失的三個方面。”邁克爾喬丹認為，人工智能落地產(chǎn)業(yè)，需要形成互相協(xié)作的集體；要構(gòu)建人工智能的協(xié)作系統(tǒng)，必須要引入經(jīng)濟學的“激勵”視角。
因此，他建議不僅單獨設備要具備一定智能，人工智能更要通過協(xié)同體現(xiàn)在整體系統(tǒng)層面。他表示，僅僅將人類的智慧融入超級智能計算機中是不夠的，現(xiàn)代信息技術(shù)在醫(yī)療、交通、金融科技和商業(yè)領(lǐng)域的應用，需要集體性、去中心化的智能系統(tǒng)。
邁克爾喬丹進一步探討了不確定性與集體性的關(guān)系。他指出，人類在集體協(xié)作時能夠更好地應對不確定性，但如何讓當前的AI系統(tǒng)也具備類似的集體協(xié)作能力，仍是一個未解的關(guān)鍵問題。他認為，微觀經(jīng)濟學視角是當前AI研究的一個缺失。
“激勵機制”是市場經(jīng)濟和集體智能的關(guān)鍵因素，“AI擁有海量的數(shù)據(jù)，但有些不能生成價值，通過設計激勵機制才能驅(qū)動AI智能體貢獻和協(xié)作。”邁克爾喬丹提出了“三層數(shù)據(jù)市場（Three-Layer Data Markets）”模型，其中用戶、平臺和數(shù)據(jù)買家通過“出讓數(shù)據(jù)”、“購買數(shù)據(jù)”、“提供服務”形成了閉環(huán)。他強調(diào)，數(shù)據(jù)購買者也就是企業(yè)可以結(jié)合“數(shù)據(jù)和服務”建立與用戶的激勵機制，從而為他們帶來真正的價值。
對此，邁克爾喬丹援引了統(tǒng)計契約理論，這是一種結(jié)合了統(tǒng)計學和經(jīng)濟學的新型理論。在契約理論中，代理人擁有私有信息，而委托人通過激勵機制形成了數(shù)據(jù)和服務相互促進的市場，維持了供需雙方的利益平衡。
例如航空公司分“商務艙”和“經(jīng)濟艙”，航空公司作為委托人能夠根據(jù)代理人的不同支付意愿提供不同的價格，而不需要代理人透露其個人信息。由于過去十年間，全球范圍內(nèi)對數(shù)據(jù)隱私的監(jiān)管不斷增加，他也建議“我們可以通過非一致的隱私要求進一步提高用戶效用，對低成本平臺施加更高的要求。”
邁克爾喬丹教授是機器學習領(lǐng)域的先驅(qū)，通過在機器學習、概率學、統(tǒng)計學以及圖模型這四者間建立聯(lián)系，為機器學習奠定了數(shù)學與計算基矗他曾獲得IEEE約翰馮諾依曼獎章、國際人工智能聯(lián)合會議卓越研究獎和2022年第一屆世界頂尖科學家協(xié)會獎。
編輯 丁爽
校對 王心
