近日，聯(lián)合國發(fā)布了一份關(guān)于人工智能（AI）治理的重要報告，呼吁國際社會共同努力，建立一個真正意義上的全球性 AI 監(jiān)管和治理機制。
這份由聯(lián)合國秘書長的高級別 AI 咨詢機構(gòu)（High Level Advisory Body on AI）撰寫的報告提出了一系列建議，旨在應(yīng)對 AI 帶來的風(fēng)險，同時確保其變革性潛力能夠在全球范圍內(nèi)得到公平分享。
報告強調(diào)，AI 全球治理的必要性是毋庸置疑的。AI 技術(shù)的原材料，包括關(guān)鍵礦產(chǎn)到訓(xùn)練數(shù)據(jù)，都來自全球各地。
通用 AI 技術(shù)會跨越國界部署，在全球范圍內(nèi)產(chǎn)生了多種應(yīng)用。同時，AI 的快速發(fā)展在全球范圍內(nèi)集中了權(quán)力和財富，帶來了地緣政治和經(jīng)濟影響。
圖 | 聯(lián)合國公布的到目前為止的 AI 治理規(guī)劃路線圖（來源：聯(lián)合國官網(wǎng)）
更重要的是，目前沒有人完全理解 AI 的所有內(nèi)部運作機制，無法完全控制其輸出或預(yù)測其演變。
與此同時，決策者也不對開發(fā)、部署或使用他們不了解的系統(tǒng)負責(zé)。而這些決策很可能產(chǎn)生全球性的負面效應(yīng)和下游影響。
為了應(yīng)對 AI 治理安排中的現(xiàn)有差距，該咨詢機構(gòu)提出了幾項重要建議：
成立獨立的國際 AI 科學(xué)小組，由來自不同學(xué)科的專家組成，以個人身份自愿服務(wù)。
啟動雙年度政府間和多方利益相關(guān)者 AI 治理政策對話，這可以在現(xiàn)有聯(lián)合國會議的間隙舉行，為聯(lián)合國 193 個成員國提供一個討論風(fēng)險和達成行動共識的平臺。
成立“AI 標準小組”，負責(zé)開發(fā)和維護一個定義和適用標準的手冊，用于評估 AI 系統(tǒng)。
設(shè)立全球 AI 基金，預(yù)計會由一個新的獨立治理結(jié)構(gòu)管理，旨在彌合 AI 發(fā)展中的鴻溝，特別是支持南半球國家的發(fā)展。
制定全球 AI 數(shù)據(jù)框架，建立“市場塑造數(shù)據(jù)管理和交換機制”，以促進全球本地 AI 生態(tài)系統(tǒng)的蓬勃發(fā)展。
在聯(lián)合國秘書處內(nèi)設(shè)立 AI 辦公室，以輕量級、靈活的結(jié)構(gòu)更好地統(tǒng)一這些倡議。
該報告還建議聯(lián)合國重視較貧窮國家，特別是南半球國家，使其能夠從 AI 中受益并參與其治理。
這些措施包括建立 AI 標準和數(shù)據(jù)共享系統(tǒng)，以及分配培訓(xùn)和教育資源，以幫助各國進行 AI 治理。
一些建議可以通過現(xiàn)有的全球數(shù)字契約（Global Digital Compact）來實現(xiàn)，該契約旨在解決國家間的數(shù)字和數(shù)據(jù)鴻溝問題。
英國南安普敦大學(xué)計算機科學(xué)榮譽教授溫迪霍爾（Wendy Hall）是咨詢機構(gòu)中唯一的英國專家，她強調(diào)：“AI 必須為人類的利益而發(fā)展，如果沒有治理，它有可能以有害于社會的方式演變。
我們迫切需要一種全球性的方法來應(yīng)對 AI 的挑戰(zhàn)，確保它造福每個人。”
然而，AI 治理目前并非一場真正的全球?qū)υ�。報告指出，雖然已有數(shù)百份關(guān)于 AI 治理的指南、框架和原則被各國政府、公司、聯(lián)盟和國際組織采納，但沒有一個具有真正的全球影響力。這導(dǎo)致了代表性、協(xié)調(diào)性和執(zhí)行力方面的問題。
這種權(quán)力分配的不平等也反映在整個國際體系中。
聯(lián)合國秘書長安東尼奧古特雷斯（António Guterres）在 2024 年 1 月的達沃斯世界經(jīng)濟論壇上指出，許多成員國在聯(lián)合國成立時仍處于殖民統(tǒng)治之下，因此在今天的討論中“聲量微乎其微”。
他呼吁改革二戰(zhàn)后建立的國際體系，以便在全球挑戰(zhàn)上采取有效行動。
2024 年 3 月，美國向聯(lián)合國提交了一項決議，呼吁成員國擁抱“安全、可靠和值得信賴的 AI”發(fā)展。
同年 7 月，中國提出了自己的決議，強調(diào)在 AI 開發(fā)中的合作以及使技術(shù)廣泛可用。所有聯(lián)合國成員國都簽署了這兩項協(xié)議。
富裕國家之間在 AI 觀點上的差異已經(jīng)導(dǎo)致市場出現(xiàn)裂痕。歐盟引入了全面的 AI 法規(guī)，其數(shù)據(jù)使用控制促使一些美國公司限制了其產(chǎn)品的可用性。
美國政府采取的放任自由態(tài)度也導(dǎo)致加利福尼亞州提出了自己的、更嚴格的 AI 規(guī)范。
面對這些挑戰(zhàn)，聯(lián)合國 AI 咨詢機構(gòu)的報告為建立共同立場鋪平了道路。
牛津大學(xué)教授克里斯拉塞爾（Chris Russell）認為：“將分析錨定在人權(quán)方面是非常有說服力的。
它為工作提供了廣泛且有力的國際法基礎(chǔ)，并關(guān)注人們遭受的具體傷害。”
然而，AI 正在以如此快的速度發(fā)展，聯(lián)合國將無法單獨管理全球合作。
“聯(lián)合國在 AI 治理方面顯然有重要作用，但它需要成為一種分布式架構(gòu)。”他說，“各個國家也需要直接參與其中。”
最后，雖然各國政府可能將 AI 視為獲得戰(zhàn)略優(yōu)勢的方式，但許多科學(xué)家在對 AI 的擔(dān)憂上達成了一致。
本周早些時候，一群來自西方和中國的著名學(xué)者在奧地利維也納舉行的 AI 安全會議后，聯(lián)合呼吁在 AI 安全問題上加強合作。
總的來說，這份聯(lián)合國報告為國際社會在 AI 治理方面的合作提供了一份藍圖。
然而，正如咨詢機構(gòu)成員阿隆德拉納爾遜（Alondra Nelson）所說：“細節(jié)決定成敗。”
未來，聯(lián)合國及其成員國如何選擇落實這一合作藍圖，將決定全球 AI 治理的成敗。
參考資料：
https://arstechnica.com/ai/2024/09/united-nations-wants-to-treat-ai-with-same-urgency-as-climate-change/
https://www.un.org/techenvoy/ai-advisory-body
https://www.computerweekly.com/news/366611263/UN-body-urges-globally-inclusive-and-distributed-AI-governance
運營/排版：何晨龍
