IT之家 5 月 14 日消息，《自然》雜志采訪了 OpenAI 首席科學(xué)家雅庫布?帕喬茨基，討論了人工智能能否生成原創(chuàng)科研成果、人工通用智能（AGI）的前景，以及公司即將推出的開源模型。
IT之家附問答內(nèi)容大意如下：
Q：越來越多的科學(xué)家開始使用推理模型。這些模型在五年內(nèi)可能帶來哪些變化？
A：
如今，你與模型互動(dòng)時(shí)，它更像是一個(gè)需要不斷引導(dǎo)的助手。我預(yù)計(jì)，這種狀況會(huì)發(fā)生重大變化。
我們已經(jīng)看到了像 OpenAI 的 Deep Research（一個(gè)能夠整合大量信息的工具）能夠在沒有監(jiān)督的情況下工作 10 到 20 分鐘，并且能產(chǎn)生有用的結(jié)果。但解決這些問題所需要的計(jì)算資源相對較少。
如果你有開放的研究問題，值得在這類問題上投入更多的計(jì)算。我預(yù)計(jì)，我們會(huì)擁有能夠進(jìn)行原創(chuàng)研究的 AI。例如，在自動(dòng)化軟件工程和硬件組件的自主設(shè)計(jì)等領(lǐng)域，將會(huì)有很多進(jìn)展，其他學(xué)科也會(huì)出現(xiàn)類似的應(yīng)用。
Q：在 OpenAI 推理模型的開發(fā)中，基于試錯(cuò)和獎(jiǎng)勵(lì)的“強(qiáng)化學(xué)習(xí)”有多重要？
A：
最初的 ChatGPT 版本包括一個(gè)無監(jiān)督的預(yù)訓(xùn)練階段，模型通過攝取大量數(shù)據(jù)構(gòu)建“世界模型”。然后，我們通過強(qiáng)化學(xué)習(xí)的過程，借助人工反饋，提煉出一個(gè)實(shí)用的助手。
最新的推理模型進(jìn)展可以看作是更重視強(qiáng)化學(xué)習(xí)階段，這樣我們不僅僅是提取信息，還讓模型能夠找到自己的思維方式。
一個(gè)問題是，是否應(yīng)該繼續(xù)將這些學(xué)習(xí)階段分開看待。推理模型不是在空白中學(xué)習(xí)思考，它們是基于預(yù)訓(xùn)練模型的基礎(chǔ)進(jìn)行的。我的工作重點(diǎn)之一就是研究這個(gè)階段，并融合不同方法，理解它們的相互作用。
Q：你提到模型在“思考”。那么，模型是否真的在推理？還是它們只是在模擬推理的過程？
A：
我們需要明確一點(diǎn)：模型的工作方式和人類大腦的工作方式不同。預(yù)訓(xùn)練模型學(xué)到了世界的一些知識(shí)，但它并不真正理解自己是如何學(xué)到這些的，也沒有時(shí)間順序感。
我相信，我們已經(jīng)有足夠證據(jù)表明，模型能夠發(fā)現(xiàn)新的見解。我認(rèn)為這可以算作是一種推理，但這并不意味著它與人類的推理方式完全相同。
Q：奧爾特曼曾表示，OpenAI 將很快發(fā)布開源模型，這是自 2019 年 GPT-2 以來的首次。你能告訴我這些計(jì)劃的詳細(xì)情況嗎？
A：
我對此非常興奮，尤其是能夠?yàn)檠芯咳藛T提供一個(gè)開源模型的機(jī)會(huì)，讓他們能夠下載并進(jìn)行進(jìn)一步訓(xùn)練。隨著這些模型的不斷進(jìn)步，我們需要承擔(dān)更多責(zé)任，了解它們的部署方式如何影響人類。
我認(rèn)為，要發(fā)布具有開源權(quán)重的前沿模型會(huì)非常困難，主要是出于安全考慮。我希望能夠發(fā)布一個(gè)比現(xiàn)有開源模型更好的版本。
Q：你對 AGI 的定義是什么？你認(rèn)為我們何時(shí)能夠?qū)崿F(xiàn)它？
A：
我（對 AGI）的時(shí)間表和定義都發(fā)生了很大的變化。剛進(jìn)入研究生院時(shí)，我看到了 AGI 的一個(gè)重要里程碑 —— 圍棋，之前我認(rèn)為還需要幾十年。顯然，圍棋在 2016 年就被攻克了，那一刻讓我感到震撼。
2017 年加入 OpenAI 時(shí)，我還是公司內(nèi)最大的懷疑者之一，但里程碑的突破比我預(yù)期的要快。在圖靈測試方面，我們已經(jīng)取得了顯著進(jìn)展。接下來，問題是數(shù)學(xué)和問題解決能力呢？我們在這些方面也取得了很大進(jìn)展，我預(yù)計(jì)最具挑戰(zhàn)性的基準(zhǔn)測試將很快被超越。
因此，我目前在關(guān)注的下一個(gè)重要里程碑是，人工智能能否在經(jīng)濟(jì)上產(chǎn)生實(shí)際的、可量化的影響，尤其是能否創(chuàng)造原創(chuàng)的科研成果。對我而言，這接近我以前對 AGI 的情感定義。我們現(xiàn)在正專注于這個(gè)方向，預(yù)計(jì)到本十年結(jié)束時(shí)，我們將取得非常顯著的進(jìn)展。甚至今年，我也預(yù)計(jì) AI 將能幾乎自主地生成有價(jià)值的軟件，盡管可能不會(huì)解決重大的科學(xué)難題。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。