IT之家 11 月 21 日消息，當(dāng)?shù)貢r(shí)間周二，圖靈獎(jiǎng)得主、計(jì)算機(jī)科學(xué)家 Yoshua Bengio 在《金融時(shí)報(bào)》上發(fā)表文章，表達(dá)自己對(duì)于人工智能的最新看法。
他表示，人們一直認(rèn)為 AI 的一大核心弱點(diǎn)是其缺乏“思考”能力 即內(nèi)部推理能力。但 OpenAI 在這一領(lǐng)域最近取得了進(jìn)展，這使自己和許多專家認(rèn)為，我們可能正在邁向彌合人工智能與人類推理能力差距的關(guān)鍵時(shí)刻。
OpenAI 的最新進(jìn)展依托 o1 大型語(yǔ)言模型，這一模型具備一定的內(nèi)部推理能力，目前尚未對(duì)公眾全面開(kāi)放。這一趨勢(shì)標(biāo)志著 AI 發(fā)展的新方向：不僅依賴更大的模型和更多的數(shù)據(jù)，還需要投入更多時(shí)間進(jìn)行推理。這種方法在數(shù)學(xué)、計(jì)算機(jī)科學(xué)及其他科學(xué)領(lǐng)域的大量推理任務(wù)中展現(xiàn)出卓越性能。
他也認(rèn)為，這種技術(shù)的成功帶來(lái)了新的風(fēng)險(xiǎn) 目前人類仍然缺乏可靠的方法來(lái)管理和約束 AI�！袄纾琽1 的評(píng)估顯示其欺騙人類的能力有所增強(qiáng)，這正是目標(biāo)實(shí)現(xiàn)能力提升的自然結(jié)果。更令人擔(dān)憂的是，o1 在協(xié)助制造生物武器方面的能力已達(dá)到 OpenAI 的中等風(fēng)險(xiǎn)級(jí)別，這是公司定義的最高容忍度（盡管這一標(biāo)準(zhǔn)可能存在降低外界擔(dān)憂的動(dòng)機(jī)）。”
據(jù)IT之家此前報(bào)道，OpenAI 本月中旬被曝計(jì)劃于 2025 年 1 月，以研究預(yù)覽和開(kāi)發(fā)工具的形式，推出名為“Operator”的自動(dòng)化 AI 智能體，可以獨(dú)立控制計(jì)算機(jī)并執(zhí)行各種任務(wù)。
