鞭牛士報(bào)道，9月17日消息，據(jù)外電報(bào)道，OpenAI 首席執(zhí)行官 Sam Altman 將離開 OpenAI 于 5 月成立的內(nèi)部委員會(huì)，該委員會(huì)負(fù)責(zé)監(jiān)督與公司項(xiàng)目和運(yùn)營相關(guān)的關(guān)鍵安全決策。
OpenAI在今天的一篇博文中表示，安全與保障委員會(huì)將成為由卡內(nèi)基梅隆大學(xué)教授Zico Kolter擔(dān)任主席的獨(dú)立董事會(huì)監(jiān)督小組，成員包括 Quora 首席執(zhí)行官 Adam D'Angelo、美國退役陸軍將軍 Paul Nakasone 和前索尼執(zhí)行副總裁 Nicole Seligman。
他們都是 OpenAI 董事會(huì)的現(xiàn)任成員。
OpenAI 在帖子中指出，委員會(huì)對(duì)OpenAI 的最新 AI 模型o1進(jìn)行了安全審查盡管 Altman 仍參與其中。該公司表示，該小組將繼續(xù)定期接受 OpenAI 安全團(tuán)隊(duì)的簡報(bào)，并保留推遲發(fā)布的權(quán)利，直到安全問題得到解決。
OpenAI 在帖子中寫道：作為其工作的一部分，安全委員會(huì)將繼續(xù)定期收到有關(guān)當(dāng)前和未來模型的技術(shù)評(píng)估報(bào)告，以及持續(xù)發(fā)布后監(jiān)測報(bào)告。我們正在基于我們的模型發(fā)布流程和實(shí)踐，建立一個(gè)綜合的安全框架，明確定義模型發(fā)布的成功標(biāo)準(zhǔn)。
Altman 離開安全與保障委員會(huì)之前，五名美國參議員在今年夏天致 Altman 的一封信中對(duì) OpenAI 的政策提出了質(zhì)疑。
OpenAI 曾經(jīng)專注于人工智能長期風(fēng)險(xiǎn)的員工中，近一半已經(jīng)離職，前 OpenAI 研究人員指責(zé)Altman 反對(duì)真正的人工智能監(jiān)管，而傾向于推進(jìn) OpenAI 企業(yè)目標(biāo)的政策。
正如他們所說，OpenAI 大幅 增加了 在聯(lián)邦游說方面的支出，2024 年前六個(gè)月的預(yù)算為 80 萬美元，而去年全年的預(yù)算為 26 萬美元。
今年春天早些時(shí)候，Altman 還加入了美國國土安全部的人工智能安全與安保委員會(huì)，該委員會(huì)為美國關(guān)鍵基礎(chǔ)設(shè)施中人工智能的開發(fā)和部署提供建議。
即使 Altman 被撤職，也幾乎沒有跡象表明安全委員會(huì)會(huì)做出嚴(yán)重影響 OpenAI 商業(yè)路線圖的艱難決定。
值得注意的是，OpenAI 在 5 月份表示，它將尋求通過委員會(huì)解決對(duì)其工作的有效批評(píng)當(dāng)然，有效批評(píng)取決于旁觀者的看法。
5 月份，OpenAI 前董事會(huì)成員海倫托納 (Helen Toner) 和塔莎麥考利 (Tasha McCauley)在《經(jīng)濟(jì)學(xué)人》的 一篇專欄文章中表示，他們認(rèn)為目前的 OpenAI 不值得信任，無法承擔(dān)責(zé)任。
他們寫道：根據(jù)我們的經(jīng)驗(yàn)，我們認(rèn)為自治無法可靠地承受利潤激勵(lì)的壓力。
而OpenAI的盈利激勵(lì)還在不斷增長。
據(jù)傳，該公司正在籌集65 億美元以上的資金，這將使 OpenAI 的估值超過 1500 億美元。為了達(dá)成這筆交易，OpenAI 可能會(huì)放棄其混合非營利性公司結(jié)構(gòu)，該結(jié)構(gòu)旨在限制投資者的回報(bào)，部分原因是確保 OpenAI 與其創(chuàng)始使命保持一致：開發(fā)造福全人類的通用人工智能。
