【新智元導(dǎo)讀】突然間，AGI 已經(jīng)成為了一個新的「5 年內(nèi)實(shí)現(xiàn)」的未來技術(shù)。從 Altman 到老黃，都在不同場合表示，達(dá)到人類智能水平的 AI 將很快到來。而技術(shù)路徑和未來可能出現(xiàn)的能源短缺，可能是達(dá)到 AGI 過程中的最大變數(shù)。
Claude 3、Sora、Gemini 1.5 Pro 的紛紛出現(xiàn)，以及或許今年內(nèi)就會被放出的 GPT-5，讓所有人都不約而同地隱隱感覺：我們似乎離 AGI 似乎越來越近了。
OpenAI CEO Sam Altman 堅(jiān)定地認(rèn)為，AGI 將在 5 年內(nèi)實(shí)現(xiàn)。不過，還需要我們耐心地等待。
英偉達(dá) CEO 黃仁勛的觀點(diǎn)與 Altman 不謀而合：如果我們對「像人類一樣思考的計(jì)算機(jī)」的定義是通過人體測試能力，那么 AGI 在五年內(nèi)就會到來。
谷歌機(jī)器人工程師 Alex Irpan，在 LLM 出現(xiàn)后，修正了自己原先對 AGI 出現(xiàn)時間的預(yù)測：4 年前，他認(rèn)為 AGI 在 2035 年出現(xiàn)的幾率是 10%；現(xiàn)在，AGI 在 2025 年，就有 10% 的幾率出現(xiàn)。
更驚人的是，預(yù)測大神 Jimmy Apples 曾在去年爆料：AGI 其實(shí)已經(jīng)在內(nèi)部實(shí)現(xiàn)了。
初創(chuàng)公司 Runway CEO 兼 AI 投資人 Siqi Chen 也曾在去年表示，GPT-5 預(yù)計(jì)在 2023 年底完成訓(xùn)練，OpenAI 期待它達(dá)到 AGI 水平。
如此說來，馬斯克的橫插一腳，讓 AGI 進(jìn)程的加快損失重大……
離職 OpenAI 員工 Logan.GPT 表示，接下來的十年，將是人類歷史上最重要的十年。
在這十年里，我們必定會擁有超人 AI！
不過細(xì)思恐極的一個問題是，AI 實(shí)在是太耗水耗電了！
最近，ChatGPT 耗電量驚人的話題，就上了微博熱搜。
前幾天流傳的 PDF 曝出，OpenAI 新模型 Q * 的參數(shù)很可能達(dá)到了 125 萬億。讓我們算一算，如果 AGI 真的出現(xiàn)，一天要耗費(fèi)多少電能？
此外，馬斯克在最近一個公開采訪中表示，芯片短缺緩解，限制 AI 發(fā)展的將是電力和降壓變壓器的短缺。
而獲取高效清潔能源的方法，會直接影響 AGI 的到來。
Altman：AGI 五年內(nèi)實(shí)現(xiàn)
Sam Altman 在一本討論 AI 未來發(fā)展方向的書「Our AI Journey」中說到，AI 將能完成 「營銷人員、策略規(guī)劃人員和創(chuàng)意專業(yè)人員 95% 的工作」。
（這本書采用訂閱模式。新章節(jié)完成后就會發(fā)布）
他還說，AGI 將在 「5 年內(nèi)成為現(xiàn)實(shí)」。
這本書收錄了兩位商業(yè)創(chuàng)新者 Adam Brotman 和 Andy Sack 對包括 Altman 在內(nèi)的頂級人工智能領(lǐng)導(dǎo)者的深度訪談。
Brotman 是 Forum3 的聯(lián)合創(chuàng)始人和聯(lián)合首席執(zhí)行官，此前曾擔(dān)任星巴克首任首席數(shù)字官。Sack 也是 Forum3 的聯(lián)合創(chuàng)始人和聯(lián)合首席執(zhí)行官，曾任微軟首席執(zhí)行官 Satya Nadella 的顧問。
他們之前的背景表明他們不是那種只會說空話的人。
Altman 講述的內(nèi)容總是能刷新讀者認(rèn)識的上限。
Altman 認(rèn)為，「當(dāng) AI 能夠獨(dú)立完成創(chuàng)新的科學(xué)突破時，它就能被稱為 AGI 了」。
兩位作者想知道 AGI 將如何影響他們的工作：市場營銷。
于是他們問 Altman，AGI 對那些想要通過創(chuàng)作廣告活動來建立消費(fèi)品牌的市場營銷人員意味著什么？
這時，Altman 拋出了他的第一個知識炸彈：
意味著營銷人員今天使用代理公司、策略規(guī)劃師和創(chuàng)意專業(yè)人員所做的 95% 的工作都將由人工智能輕松、近乎即時、幾乎無成本地處理。
這一切內(nèi)容都能做到免費(fèi)、即時完成和近幾乎完美可用。圖片、視頻、活動創(chuàng)意方案都沒有問題。
而且 AI 很可能能夠根據(jù)真實(shí)或合成的目標(biāo)客戶來測試創(chuàng)意，以預(yù)測結(jié)果并進(jìn)行優(yōu)化。
Altman 稱 AGI 即將到來
兩位作者再繼續(xù)追問 Altman，你認(rèn)為 AGI 將在何時成為現(xiàn)實(shí)？
Altman 回答到：
5 年左右，也許會稍長一些 —— 沒有人能說出一個確切的時間，也沒有人知道它對社會的影響到底是什么。
這本書的作者 Roetzer 說，就算現(xiàn)在 AGI 還沒有出現(xiàn)，人類就已經(jīng)能看到經(jīng)濟(jì)、勞動力、教育和社會的大規(guī)模變革正在產(chǎn)生了。
就前不久，大型支付公司 Klarna 剛剛透露，它的 AI 助理現(xiàn)在已經(jīng)能勝任 700 名員工的工作。
這個 AI 客服由 OpenAI 提供支持，處理客戶的各種咨詢，支持多語言，能夠直接處理退款和退貨的請求。
Klarna 表示，在短短一個月內(nèi)，AI 助手就完成了 700 名全職客服的工作。
到目前為止，它已經(jīng)進(jìn)行了 230 萬次對話，占公司所有客戶服務(wù)對話的三分之二。
它的客戶滿意度得分與人工客服「不相上下」。
而且，它在解決客戶請求方面更準(zhǔn)確、更快速。解決請求的平均時間從 11 分鐘降至 2 分鐘。
Klarna 的 CEO 暗示社會需要為先進(jìn)的人工智能做好準(zhǔn)備：
這凸顯了人工智能將對社會產(chǎn)生的深遠(yuǎn)影響。
我們希望社會和政界人士對 AI 帶來的影響有慎重考慮，并相信全面、透明的管理對于我們社會應(yīng)對這場變革至關(guān)重要。
老黃：AI 會在五年內(nèi)通過人類測試，未來 10 年算力將再提高 100 萬倍
老黃也同意這個觀點(diǎn)，認(rèn)為 AGI 將很快到來。
最近，英偉達(dá) CEO 黃仁勛表示：AI 會在五年內(nèi)通過人類測試，AGI 將很快到來！
在斯坦福大學(xué)舉行的一個經(jīng)濟(jì)論壇上，黃仁勛回答了這個問題：人類何時能創(chuàng)造像人類一樣思考的計(jì)算機(jī)？這也是硅谷的長期目標(biāo)之一。
老黃是這樣回答的：答案很大程度上取決于我們?nèi)绾味x這個目標(biāo)。
如果我們對「像人類一樣思考的計(jì)算機(jī)」的定義，是通過人體測試能力，那么 AGI 很快就會到來。
五年后，AI 將通過人類測試
老黃認(rèn)為，如果我們把能想象到的每一個測試都列出一個清單，把它放在計(jì)算機(jī)科學(xué)行業(yè)面前，讓 AI 去完成，那么不出五年，AI 會把每個測試都做得很好。
截至目前，AI 可以通過律師考試等測試，但是在胃腸病學(xué)等專業(yè)醫(yī)療測試中，它依然舉步維艱。
但在老黃看來，五年后，它應(yīng)該能通過這些測試中的任何一個。
不過他也承認(rèn)，如果根據(jù)其他定義，AGI 可能還很遙遠(yuǎn)，因?yàn)槟壳皩＜覀儗τ诿枋鋈祟愃季S如何運(yùn)作方面，仍然存在分歧。
因此，如果從工程師的角度，實(shí)現(xiàn) AGI 是比較難的，因?yàn)楣こ處熜枰鞔_的目標(biāo)。
另外，黃仁勛還回答了另外一個重要問題 —— 我們還需要多少晶圓廠，來支持 AI 產(chǎn)業(yè)的擴(kuò)張。
最近，OpenAI CEO Sam Altman 的七萬億計(jì)劃震驚了全世界，他認(rèn)為，我們還需要更多的晶圓廠。
而在黃仁勛看來，我們的確需要更多芯片，但隨著時間推移，每塊芯片的性能就會變得更強(qiáng)，這也就限制了我們所需芯片的數(shù)量。
他表示：「我們將需要更多的晶圓廠。但是，請記住，隨著時間的推移，我們也在極大地改進(jìn) AI 的算法和處理?！?/p>
計(jì)算效率的提高，需求并不會像今天這么大。
「我會在 10 年內(nèi)，將計(jì)算能力提高一百萬倍?！?/p>
馬庫斯?jié)娎渌篏PT-5 在 2024 年不會出現(xiàn)
一直唱反調(diào)的馬庫斯也做出了截止 2024 年底全新的預(yù)測 ——
我們可能會見證：
- 大約 7 到 10 款與 GPT-4 相當(dāng)?shù)哪Ｐ蛦柺?/p>
- 在技術(shù)上不會有革命性的突破（沒有推出 GPT-5，或者 GPT-5 并未達(dá)到預(yù)期）
- 市場上將出現(xiàn)激烈的價格競爭
- 幾乎沒有公司能夠形成明顯的護(hù)城河
- 尚無有效的方法來解決 AI 產(chǎn)生的幻覺
- 企業(yè)對這些技術(shù)的采納將保持在一個適度的水平
- 利潤相對適中，將在這 7 到 10 家公司之間分配
網(wǎng)友表示，還有 11 個月就能見證這個結(jié)果了。
為了證明自己的預(yù)測絕對影響力，馬庫斯還拋出了自己曾在 2001 年預(yù)測的模型幻覺問題。
以及兩年前，2022 年 3 月 10 日，曾發(fā)表了一篇「深度學(xué)習(xí)正在碰壁」的觀點(diǎn)文章。
文章發(fā)表一個月后 DALL?E 問世，Sam Altman 發(fā)文嘲諷，「請給我一個平庸的深度學(xué)習(xí)懷疑論者般的自信……」
而在 11 日，馬庫斯再次表示「即便過了 2 年，深度學(xué)習(xí)依舊面臨同樣的根本性挑戰(zhàn)」！
也就是說，人類靠深度學(xué)習(xí)到達(dá) AGI，遙不可及。
https://garymarcus.substack.com/p/two-years-later-deep-learning-is?r=8tdk6&utm_campaign=post&utm_medium=web&triedRedirect=true
文中他列舉了多個例證，來說明這些觀點(diǎn)至今依舊成立：
- 深度學(xué)習(xí)從根本上說是一種識別模式的技術(shù)，當(dāng)我們需要的只是粗略的結(jié)果時，深度學(xué)習(xí)就能發(fā)揮出最大的作用。
- 目前的深度學(xué)習(xí)系統(tǒng)經(jīng)常會出現(xiàn)愚蠢的錯誤。
- 擴(kuò)大參數(shù)規(guī)模的爭論 —— 那些已經(jīng)擴(kuò)大參數(shù)規(guī)模的研究，并沒真正改進(jìn) LLM 迫切需要的東西 ——「理解力」。Kaplan 等 OpenAI 團(tuán)隊(duì)所提出的衡量標(biāo)準(zhǔn) —— 關(guān)于預(yù)測下一個單詞，并不同于 AI 就實(shí)現(xiàn)深度理解。
- 「scaling laws」僅是觀察到的現(xiàn)象，就像摩爾定律一樣，可能不會永遠(yuǎn)有效。
論文地址：https://arxiv.org/pdf/2001.08361.pdf
當(dāng)然，馬庫斯最后表示，AGI 并非不可以實(shí)現(xiàn)，而是人類需要一次范式轉(zhuǎn)變。越來越多的結(jié)果說明，LLM 本身不是通向 AGI 的終點(diǎn)答案。
與此同時，圖靈巨頭 LeCun 在最近的博客采訪中，也談到 ——AGI 離我們還很遠(yuǎn)。
在這個訪談中，LeCun 還提到了，「嬰兒只有在已經(jīng)了解了物質(zhì)世界如何運(yùn)作的基礎(chǔ)知識之后，才能習(xí)得語言。很多物理知識都是內(nèi)化的，無法用語言來描述，因此 LLM 也無法理解」。
吳恩達(dá)也參與了 AGI 的討論，并表示 AGI 只會慢慢到來，而非一夜之間。
斯坦福團(tuán)隊(duì)?wèi){借「大模型涌現(xiàn)能力是海市蜃樓」獲得 NeurIPS 杰出論文獎，論文中提到大模型涌現(xiàn)能力的出現(xiàn)是因?yàn)檠芯咳藛T度量選擇，而不是因?yàn)槟Ｐ托袨?，隨著參數(shù)規(guī)模變化而發(fā)現(xiàn)根本變化。
當(dāng)許多人突然意識到一項(xiàng)技術(shù)（也許是發(fā)展已久的技術(shù)）時，公眾的感知就會出現(xiàn)斷崖式的變化，從而會紛紛感到驚訝。
但人工智能能力的增長，比人們想象的要持續(xù)得多。這就是為什么我預(yù)計(jì)通往 AGI 的道路將包括許多前進(jìn)的步驟，進(jìn)而讓系統(tǒng)的智能化程度逐步提高。
ChatGPT 耗電量驚人，人類撐得住 AGI 嗎？
雖然 AI 模型已經(jīng)在飛速發(fā)展，但最近的一個大問題已經(jīng)讓人揪心：它們實(shí)在太耗電了！
人工智能是能源的無底洞，AI 未來將會被能源卡脖子。
包括 Sam Altman 在內(nèi)的越來越多的 AI 行業(yè)大佬表示，AI 的第一性原理，最重要的部分就是能源和智能的轉(zhuǎn)化率的問題。
因?yàn)?Transformer 本質(zhì)上不是一個能效很高算法，所以在未來，能源將會是困擾 AI 發(fā)展的一個大問題。
馬斯克最近在一個公開采訪中表示：
AI 是有史以來最大的技術(shù)革命，我從未見過任何技術(shù)進(jìn)步比現(xiàn)在的 AI 更快。
芯片短缺的情況可能已經(jīng)過去，但人工智能和電動汽車正在以如此迅猛的速度擴(kuò)張，以至于明年世界將面臨電力和變壓器的供應(yīng)緊縮。
現(xiàn)在 AI 對算力的需求差不多每半年就會增加 10 倍。顯然，這種情況不可能永遠(yuǎn)以如此高的速度持續(xù)下去，否則會超過宇宙的質(zhì)量。
AI 計(jì)算的瓶頸是可以預(yù)見的…… 一年前，短缺的是芯片。
然后下一個短缺將是電力。當(dāng)芯片短缺緩解之后，明年可能就會出現(xiàn)電力將不不足以運(yùn)轉(zhuǎn)這些芯片。
然后，很容易預(yù)測下一個短缺將是降壓變壓器。
如果電網(wǎng)輸出 100-300 千伏的電壓，然后必須一路降壓至 6 伏，那么降壓幅度就很大。
這有一個不是那么好笑的笑話，未來運(yùn)行 Transformer 的變壓器（Transformer）將出現(xiàn)短缺。
Hinton：有 1/10 概率，AI 會殺死人類
AGI 真正實(shí)現(xiàn)那天，終結(jié)者中那一幕也在迫近。
「數(shù)字智能會取代生物智能嗎」？
「幾乎可以肯定，會的」！
「我們?nèi)祟悜?yīng)該盡最大努力存活下來」。
AI 教父 Hinton 近日在牛津大學(xué)發(fā)表了最新演講，給出了驚人言論 —— 在 5-20 年內(nèi)，每個人都有 1/10 的概率被 AI 被殺死。
圖靈獎得主 Bengio 也持有同樣的觀點(diǎn)，即有 1/5 的可能性，我們會被殺死。
Hinton 意識到，日益強(qiáng)大的 AI 模型可以像「蜂巢思維」一樣，相互分享所學(xué)知識，從而相對于人類更具優(yōu)勢。它們可能是一種更好的智能形式。
就比如，GPT-4 可以學(xué)習(xí)語言，會推理、諷刺，還會展現(xiàn)出極高的同理心。
他在演講中說，「我要做出一個非常有力的聲明，這些模型確實(shí)能理解」。
這些模型也可能以危險的方式「進(jìn)化」，形成一種控制的意向性。如果我為政府提供建議，我會說這些 AI 有 10% 的可能性會在未來 20 年內(nèi)消滅人類。我認(rèn)為這將是一個合理的數(shù)字。
不僅如此，AI 界大佬在「關(guān)于人工智能殺死所有人的可能性有多大」的問題時，認(rèn)為有 25-49% 概率的人最多。
不同的人 / 組織對 AI 滅世的概率預(yù)測。
AI 真的會殺死人類嗎，你怎么看？
參考資料：
https://www.marketingaiinstitute.com/blog/sam-altman-ai-agi-marketing
https://twitter.com/garymarcus/status/1766871625075409381?s=46
本文來自微信公眾號：新智元 （ID：AI_era）
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。