2月11日，為期兩天的人工智能行動峰會在法國首都巴黎閉幕，包括法國、中國、印度、歐盟在內(nèi)的多個(gè)國家和國際組織共同簽署了《關(guān)于發(fā)展包容、可持續(xù)的人工智能造福人類與地球的聲明》。美國和英國未簽署該聲明。
中國外交部原副部長傅瑩10日在法國巴黎表示，人工智能（AI）全球治理應(yīng)超越地緣政治干擾，中方愿與國際社會攜手，共同促進(jìn)AI安全發(fā)展。
本次人工智能行動峰會旨在加強(qiáng)國際社會的行動力，探討人工智能的應(yīng)用和全球治理問題。由托尼布萊爾全球變革研究所（Tony Blair Institute for Global Change, TBI）主辦的“人工智能時(shí)代的治理論壇”是其中之一，議題涉及“全球領(lǐng)導(dǎo)力與人工智能發(fā)展的潛在機(jī)遇”“構(gòu)建人工智能的堅(jiān)實(shí)基礎(chǔ)”“負(fù)責(zé)任的人工智能創(chuàng)新與應(yīng)用”和“推進(jìn)人工智能安全科學(xué)”。意大利前總理馬泰奧倫齊出席會議并致開幕詞。
傅瑩應(yīng)邀在“推進(jìn)人工智能安全科學(xué)”一節(jié)擔(dān)任嘉賓，其他同臺嘉賓包括蒙特利爾大學(xué)教授、蒙特利爾學(xué)習(xí)算法研究所創(chuàng)始人約舒亞本喬（Yoshua Bengio）和普林斯頓高等研究院教授阿隆德拉納爾遜（Alondra Nelson）。傅瑩還參加了隨后的閉門晚宴，與各方開展積極交流。
傅瑩（右一）參加“人工智能時(shí)代的治理論壇”的討論。
關(guān)于中國人怎么看AI安全問題，為何沒有建立“人工智能安全研究所（AISI）”？傅瑩說，中國業(yè)界已經(jīng)在政府支持下成立了對應(yīng)國際上的“AI安全研究所”（AISI）的“中國人工智能發(fā)展與安全研究中心”。在中國AI技術(shù)應(yīng)用和安全治理領(lǐng)域存在一個(gè)多元化和多樣化的生態(tài)環(huán)境，有多個(gè)政府部門和機(jī)構(gòu)、企業(yè)在關(guān)注和投入安全治理問題。網(wǎng)絡(luò)的建立讓大家都參加進(jìn)來，共同參與和分享知識、信息，增強(qiáng)自身能力建設(shè)，同時(shí)積極參加國際對話合作。中方也參加了2023年11月在倫敦舉行的全球人工智能安全峰會，一直在關(guān)注各國AISI進(jìn)程的發(fā)展，中國科技界也與各國科技界保持密切溝通。
關(guān)于中方怎么看人工智能技術(shù)的發(fā)展和應(yīng)用帶來的風(fēng)險(xiǎn)問題時(shí)，傅瑩說，中方對AI風(fēng)險(xiǎn)的關(guān)注分為兩個(gè)層面。一個(gè)是應(yīng)用中的風(fēng)險(xiǎn)。一方面，中國政府早在2017年就制定《新一代人工智能發(fā)展規(guī)劃》，提出AI安全、可控與可持續(xù)發(fā)展的要求。目前AI已在經(jīng)濟(jì)、金融、城市管理、醫(yī)療和科研等領(lǐng)域全面應(yīng)用，風(fēng)險(xiǎn)與挑戰(zhàn)并存，對政府的管控需求和對相關(guān)應(yīng)對技術(shù)的需求都很迫切。中國政府在網(wǎng)絡(luò)管理法律法規(guī)的實(shí)踐基礎(chǔ)上，就AI管理陸續(xù)出臺法律和規(guī)范性文件，基本思路是在鼓勵創(chuàng)新和防范、管控風(fēng)險(xiǎn)之間保持平衡。同時(shí)，一批專門應(yīng)對AI安全問題的技術(shù)創(chuàng)新企業(yè)也應(yīng)運(yùn)而生。
另一方面，中國著眼未來風(fēng)險(xiǎn)參與國際合作。中國2023年10月發(fā)布了《全球人工智能治理倡議》，強(qiáng)調(diào)智能向善，主張建立風(fēng)險(xiǎn)等級測試評估體系。中方簽署了《布萊奇利宣言》。2024年7月1日，第78屆聯(lián)合國大會期間，中國提出的加強(qiáng)人工智能能力建設(shè)國際合作決議獲得協(xié)商一致通過，得到140多個(gè)國家支持。中方對AGI（通用人工智能）風(fēng)險(xiǎn)的理論和技術(shù)探討也高度關(guān)注，中國科技界與國際同行在認(rèn)識層面基本同步。
被問到中美關(guān)系和兩國能否在AI上開展合作時(shí)，傅瑩表示，當(dāng)前地緣政治的干擾令許多人對中美AI合作不樂觀。她回憶2019年基辛格與美國企業(yè)家、計(jì)算機(jī)軟件工程師埃里克施密特在北京參加AI安全圓桌會時(shí)，談到對AI未來風(fēng)險(xiǎn)的擔(dān)憂。她曾回應(yīng)說，如若中美攜手與世界各國合作，人類有可能管控機(jī)器，但若各國相互排斥并利用高智能機(jī)器彼此對抗，機(jī)器贏的概率恐怕更大。
過去幾年美國對華科技封鎖和打壓毒化了全球合作氛圍，科技創(chuàng)新指數(shù)級上揚(yáng)與中美關(guān)系受到損害的兩條曲線相交加劇緊張局面。在這個(gè)科技大爆發(fā)的時(shí)代，人類最需要動員全部的智慧與能量合作之際，主要國家卻試圖關(guān)閉合作平臺。這也導(dǎo)致兩個(gè)平行的動態(tài)趨勢。一是美國前沿技術(shù)公司和科技人員在AI的虛擬世界快速創(chuàng)新發(fā)展的領(lǐng)先趨勢，另一個(gè)是中國在AI技術(shù)垂直應(yīng)用領(lǐng)域的領(lǐng)先趨勢。這兩股力量都有很強(qiáng)的沖勁，前者擁有巨額的資本支撐，后者擁有強(qiáng)大的制造業(yè)和廣闊的市場支撐。從人類技術(shù)發(fā)展的歷史進(jìn)程可以自然地預(yù)期，這兩股力量的結(jié)合是未來AI乃至AGI安全、負(fù)責(zé)任應(yīng)用的最佳出路。然而，從過去幾年的情況看，許多人認(rèn)為前景似乎不那么光明。因此，地緣政治的干擾可以被認(rèn)為是對AI安全需要關(guān)注的第三個(gè)層面。
中國對中美合作和全球治理保持相對冷靜的態(tài)度，并提出在分歧上尊重彼此核心利益和重大關(guān)切，堅(jiān)持相互尊重、和平共處、合作共贏的原則。
圍繞國際上關(guān)于AI技術(shù)發(fā)展的開源和閉源兩種路徑，傅瑩說，從中國學(xué)界和企業(yè)的角度看，開源雖有風(fēng)險(xiǎn)，卻有利于及時(shí)發(fā)現(xiàn)安全漏洞，而且更符合造福人民的理念。相較之下，大公司完全不透明的大模型更令人憂慮。同臺嘉賓約舒亞本喬則擔(dān)心開源被不法分子利用，但承認(rèn)其更易發(fā)現(xiàn)潛在問題。他主導(dǎo)的《國際人工智能安全報(bào)告》在中國受到關(guān)注，指出社會和政府如何應(yīng)對不確定性將決定AI未來發(fā)展。
