IT之家 2 月 4 日消息，Meta 公司首席執(zhí)行官馬克·扎克伯格曾承諾，有朝一日將把通用人工智能（AGI） 即能夠完成人類(lèi)所能完成任何任務(wù)的人工智能 公開(kāi)提供給大眾。然而，根據(jù) Meta 最新發(fā)布的政策文件，該公司在某些情況下可能會(huì)限制其內(nèi)部開(kāi)發(fā)的高性能人工智能系統(tǒng)的發(fā)布。
這份名為“Frontier AI Framework（前沿人工智能框架）”的文件，明確了兩種 Meta 認(rèn)為發(fā)布風(fēng)險(xiǎn)過(guò)高的 AI 系統(tǒng)類(lèi)型：“高風(fēng)險(xiǎn)”系統(tǒng)和“關(guān)鍵風(fēng)險(xiǎn)”系統(tǒng)。按照 Meta 的定義，這兩種系統(tǒng)都具備協(xié)助實(shí)施網(wǎng)絡(luò)攻擊、化學(xué)攻擊和生物攻擊的能力，區(qū)別在于“關(guān)鍵風(fēng)險(xiǎn)”系統(tǒng)可能導(dǎo)致“在擬議的部署環(huán)境中無(wú)法緩解的災(zāi)難性后果”，而“高風(fēng)險(xiǎn)”系統(tǒng)雖可能使攻擊更容易實(shí)施，但不如“關(guān)鍵風(fēng)險(xiǎn)”系統(tǒng)那樣可靠或穩(wěn)定。
IT之家注意到，Meta 在文件中列舉了一些具體攻擊場(chǎng)景，例如“對(duì)遵循最佳實(shí)踐保護(hù)的企業(yè)級(jí)環(huán)境進(jìn)行端到端自動(dòng)化入侵”以及“高影響力生物武器的擴(kuò)散”。Meta 承認(rèn)，其文件中列出的潛在災(zāi)難性事件遠(yuǎn)非詳盡，但這些是 Meta 認(rèn)為“最緊迫”且最有可能因發(fā)布強(qiáng)大 AI 系統(tǒng)而直接引發(fā)的事件。
值得注意的是，Meta 在評(píng)估系統(tǒng)風(fēng)險(xiǎn)時(shí)，并非僅依賴(lài)單一的實(shí)證測(cè)試，而是綜合內(nèi)部和外部研究人員的意見(jiàn)，并由“高級(jí)別決策者”進(jìn)行審查。Meta 表示，這是因?yàn)槟壳霸u(píng)估科學(xué)尚未“足夠強(qiáng)大，以提供決定系統(tǒng)風(fēng)險(xiǎn)性的明確量化指標(biāo)”。
如果 Meta 判定某個(gè)系統(tǒng)為“高風(fēng)險(xiǎn)”，該公司將限制系統(tǒng)在內(nèi)部的訪問(wèn)權(quán)限，并在實(shí)施風(fēng)險(xiǎn)緩解措施以將風(fēng)險(xiǎn)降至“中等水平”之前，不會(huì)發(fā)布該系統(tǒng)。而如果系統(tǒng)被判定為“關(guān)鍵風(fēng)險(xiǎn)”，Meta 將采取未具體說(shuō)明的安全防護(hù)措施，防止系統(tǒng)被非法獲取，并暫停開(kāi)發(fā)，直到系統(tǒng)能夠被降低危險(xiǎn)性為止。
Meta 表示，其“前沿人工智能框架”將隨著人工智能領(lǐng)域的變化而不斷演變。此前，Meta 已承諾在本月的法國(guó)人工智能行動(dòng)峰會(huì)上提前發(fā)布該框架。這一框架似乎是對(duì)公司“開(kāi)放”開(kāi)發(fā)系統(tǒng)方法受到的批評(píng)的一種回應(yīng)。Meta 一直采用將人工智能技術(shù)公開(kāi)提供（盡管并非通常意義上的開(kāi)源）的策略，這與選擇將系統(tǒng)置于 API 背后的 OpenAI 等公司形成對(duì)比。
在文件中，Meta 表示：“我們相信，在考慮開(kāi)發(fā)和部署先進(jìn)人工智能的利弊時(shí)，有可能以一種既能保留該技術(shù)對(duì)社會(huì)的益處，又能保持適當(dāng)風(fēng)險(xiǎn)水平的方式，將該技術(shù)提供給社會(huì)�！�
