突然間，AGI已經(jīng)成為了一個(gè)新的「5年內(nèi)實(shí)現(xiàn)」的未來(lái)技術(shù)。從Altman到老黃，都在不同場(chǎng)合表示，達(dá)到人類智能水平的AI將很快到來(lái)。而技術(shù)路徑和未來(lái)可能出現(xiàn)的能源短缺，可能是達(dá)到AGI過(guò)程中的最大變數(shù)。

Claude 3、Sora、Gemini 1.5 Pro的紛紛出現(xiàn)，以及或許今年內(nèi)就會(huì)被放出的GPT-5，讓所有人都不約而同地隱隱感覺(jué)：我們似乎離AGI似乎越來(lái)越近了。

OpenAI CEO Sam Altman堅(jiān)定地認(rèn)為，AGI將在5年內(nèi)實(shí)現(xiàn)。

不過(guò)，還需要我們耐心地等待。

英偉達(dá)CEO黃仁勛的觀點(diǎn)與Altman不謀而合：如果我們對(duì)「像人類一樣思考的計(jì)算機(jī)」的定義是通過(guò)人體測(cè)試能力，那么AGI在五年內(nèi)就會(huì)到來(lái)。

谷歌機(jī)器人工程師Alex Irpan，在LLM出現(xiàn)后，修正了自己原先對(duì)AGI出現(xiàn)時(shí)間的預(yù)測(cè)：4年前，他認(rèn)為AGI在2035年出現(xiàn)的幾率是10%；現(xiàn)在，AGI在2025年，就有10%的幾率出現(xiàn)。

更驚人的是，預(yù)測(cè)大神Jimmy Apples曾在去年爆料：AGI其實(shí)已經(jīng)在內(nèi)部實(shí)現(xiàn)了。

初創(chuàng)公司Runway CEO兼AI投資人Siqi Chen也曾在去年表示，GPT-5預(yù)計(jì)在2023年底完成訓(xùn)練，OpenAI期待它達(dá)到AGI水平。

如此說(shuō)來(lái)，馬斯克的橫插一腳，讓AGI進(jìn)程的加快損失重大……

離職OpenAI員工Logan.GPT表示，接下來(lái)的十年，將是人類歷史上最重要的十年。

在這十年里，我們必定會(huì)擁有超人AI！

不過(guò)細(xì)思恐極的一個(gè)問(wèn)題是，AI實(shí)在是太耗水耗電了！

最近，ChatGPT耗電量驚人的話題，就上了微博熱搜。

前幾天流傳的PDF曝出，OpenAI新模型Q*的參數(shù)很可能達(dá)到了125萬(wàn)億。讓我們算一算，如果AGI真的出現(xiàn)，一天要耗費(fèi)多少電能？

此外，馬斯克在最近一個(gè)公開采訪中表示，芯片短缺緩解，限制AI發(fā)展的將是電力和降壓變壓器的短缺。

而獲取高效清潔能源的方法，會(huì)直接影響AGI的到來(lái)。

一、Altman：AGI五年內(nèi)實(shí)現(xiàn)

Sam Altman在一本討論AI未來(lái)發(fā)展方向的書「Our AI Journey」中說(shuō)到，AI將能完成 「營(yíng)銷人員、策略規(guī)劃人員和創(chuàng)意專業(yè)人員95%的工作」。

（這本書采用訂閱模式。新章節(jié)完成后就會(huì)發(fā)布）

他還說(shuō)，AGI將在 「5 年內(nèi)成為現(xiàn)實(shí)」。

這本書收錄了兩位商業(yè)創(chuàng)新者Adam Brotman和Andy Sack對(duì)包括Altman在內(nèi)的頂級(jí)人工智能領(lǐng)導(dǎo)者的深度訪談。

Brotman是Forum3的聯(lián)合創(chuàng)始人和聯(lián)合首席執(zhí)行官，此前曾擔(dān)任星巴克首任首席數(shù)字官。Sack也是Forum3的聯(lián)合創(chuàng)始人和聯(lián)合首席執(zhí)行官，曾任微軟首席執(zhí)行官Satya Nadella的顧問(wèn)。

他們之前的背景表明他們不是那種只會(huì)說(shuō)空話的人。

Altman講述的內(nèi)容總是能刷新讀者認(rèn)識(shí)的上限。

Altman認(rèn)為，「當(dāng)AI能夠獨(dú)立完成創(chuàng)新的科學(xué)突破時(shí)，它就能被稱為AGI了」。

兩位作者想知道AGI將如何影響他們的工作：市場(chǎng)營(yíng)銷。

于是他們問(wèn)Altman，AGI對(duì)那些想要通過(guò)創(chuàng)作廣告活動(dòng)來(lái)建立消費(fèi)品牌的市場(chǎng)營(yíng)銷人員意味著什么？

這時(shí)，Altman拋出了他的第一個(gè)知識(shí)炸彈：

意味著營(yíng)銷人員今天使用代理公司、策略規(guī)劃師和創(chuàng)意專業(yè)人員所做的95%的工作都將由人工智能輕松、近乎即時(shí)、幾乎無(wú)成本地處理。

這一切內(nèi)容都能做到免費(fèi)、即時(shí)完成和近幾乎完美可用。圖片、視頻、活動(dòng)創(chuàng)意方案都沒(méi)有問(wèn)題。

而且AI很可能能夠根據(jù)真實(shí)或合成的目標(biāo)客戶來(lái)測(cè)試創(chuàng)意，以預(yù)測(cè)結(jié)果并進(jìn)行優(yōu)化。

Altman稱AGI即將到來(lái)

兩位作者再繼續(xù)追問(wèn)Altman，你認(rèn)為 AGI 將在何時(shí)成為現(xiàn)實(shí)？

Altman回答到：

5 年左右，也許會(huì)稍長(zhǎng)一些——沒(méi)有人能說(shuō)出一個(gè)確切的時(shí)間，也沒(méi)有人知道它對(duì)社會(huì)的影響到底是什么。

這本書的作者Roetzer說(shuō)，就算現(xiàn)在AGI還沒(méi)有出現(xiàn)，人類就已經(jīng)能看到經(jīng)濟(jì)、勞動(dòng)力、教育和社會(huì)的大規(guī)模變革正在產(chǎn)生了。

就前不久，大型支付公司Klarna剛剛透露，它的AI助理現(xiàn)在已經(jīng)能勝任700名員工的工作。

這個(gè)AI客服由OpenAI提供支持，處理客戶的各種咨詢，支持多語(yǔ)言，能夠直接處理退款和退貨的請(qǐng)求。

Klarna表示，在短短一個(gè)月內(nèi)，AI助手就完成了700名全職客服的工作。

到目前為止，它已經(jīng)進(jìn)行了230萬(wàn)次對(duì)話，占公司所有客戶服務(wù)對(duì)話的三分之二。

它的客戶滿意度得分與人工客服「不相上下」。

而且，它在解決客戶請(qǐng)求方面更準(zhǔn)確、更快速。解決請(qǐng)求的平均時(shí)間從11分鐘降至2分鐘。

Klarna的CEO暗示社會(huì)需要為先進(jìn)的人工智能做好準(zhǔn)備：

這凸顯了人工智能將對(duì)社會(huì)產(chǎn)生的深遠(yuǎn)影響。

我們希望社會(huì)和政界人士對(duì)AI帶來(lái)的影響有慎重考慮，并相信全面、透明的管理對(duì)于我們社會(huì)應(yīng)對(duì)這場(chǎng)變革至關(guān)重要。

二、老黃：AI會(huì)在五年內(nèi)通過(guò)人類測(cè)試，未來(lái)10年算力將再提高100萬(wàn)倍

老黃也同意這個(gè)觀點(diǎn)，認(rèn)為AGI將很快到來(lái)。

最近，英偉達(dá)CEO黃仁勛表示：AI會(huì)在五年內(nèi)通過(guò)人類測(cè)試，AGI將很快到來(lái)！

在斯坦福大學(xué)舉行的一個(gè)經(jīng)濟(jì)論壇上，黃仁勛回答了這個(gè)問(wèn)題：人類何時(shí)能創(chuàng)造像人類一樣思考的計(jì)算機(jī)？這也是硅谷的長(zhǎng)期目標(biāo)之一。

老黃是這樣回答的：答案很大程度上取決于我們?nèi)绾味x這個(gè)目標(biāo)。

如果我們對(duì)「像人類一樣思考的計(jì)算機(jī)」的定義，是通過(guò)人體測(cè)試能力，那么AGI很快就會(huì)到來(lái)。

五年后，AI將通過(guò)人類測(cè)試

老黃認(rèn)為，如果我們把能想象到的每一個(gè)測(cè)試都列出一個(gè)清單，把它放在計(jì)算機(jī)科學(xué)行業(yè)面前，讓AI去完成，那么不出五年，AI會(huì)把每個(gè)測(cè)試都做得很好。

截至目前，AI可以通過(guò)律師考試等測(cè)試，但是在胃腸病學(xué)等專業(yè)醫(yī)療測(cè)試中，它依然舉步維艱。

但在老黃看來(lái)，五年后，它應(yīng)該能通過(guò)這些測(cè)試中的任何一個(gè)。

不過(guò)他也承認(rèn)，如果根據(jù)其他定義，AGI可能還很遙遠(yuǎn)，因?yàn)槟壳皩＜覀儗?duì)于描述人類思維如何運(yùn)作方面，仍然存在分歧。

因此，如果從工程師的角度，實(shí)現(xiàn)AGI是比較難的，因?yàn)楣こ處熜枰鞔_的目標(biāo)。

另外，黃仁勛還回答了另外一個(gè)重要問(wèn)題——我們還需要多少晶圓廠，來(lái)支持AI產(chǎn)業(yè)的擴(kuò)張。

最近，OpenAI CEO Sam Altman的七萬(wàn)億計(jì)劃震驚了全世界，他認(rèn)為，我們還需要更多的晶圓廠。

而在黃仁勛看來(lái)，我們的確需要更多芯片，但隨著時(shí)間推移，每塊芯片的性能就會(huì)變得更強(qiáng)，這也就限制了我們所需芯片的數(shù)量。

他表示：「我們將需要更多的晶圓廠。但是，請(qǐng)記住，隨著時(shí)間的推移，我們也在極大地改進(jìn)AI的算法和處理?！?/p>

計(jì)算效率的提高，需求并不會(huì)像今天這么大。

「我會(huì)在10年內(nèi)，將計(jì)算能力提高了一百萬(wàn)倍?！?/p>

三、馬庫(kù)斯?jié)娎渌篏PT-5在2024年不會(huì)出現(xiàn)

一直唱反調(diào)的馬庫(kù)斯也做出了截止2024年底全新的預(yù)測(cè)——

我們可能會(huì)見(jiàn)證：

– 大約7到10款與GPT-4相當(dāng)?shù)哪Ｐ蛦?wèn)世

– 在技術(shù)上不會(huì)有革命性的突破（沒(méi)有推出GPT-5，或者GPT-5并未達(dá)到預(yù)期）

– 市場(chǎng)上將出現(xiàn)激烈的價(jià)格競(jìng)爭(zhēng)

– 幾乎沒(méi)有公司能夠形成明顯的護(hù)城河

– 尚無(wú)有效的方法來(lái)解決AI產(chǎn)生的幻覺(jué)

– 企業(yè)對(duì)這些技術(shù)的采納將保持在一個(gè)適度的水平
– 利潤(rùn)相對(duì)適中，將在這7到10家公司之間分配

網(wǎng)友表示，還有11個(gè)月就能見(jiàn)證這個(gè)結(jié)果了。

為了證明自己的預(yù)測(cè)絕對(duì)影響力，馬庫(kù)斯還拋出了自己曾在2001年預(yù)測(cè)的模型幻覺(jué)問(wèn)題。

以及兩年前，2022年3月10日，曾發(fā)表了一篇「深度學(xué)習(xí)正在碰壁」的觀點(diǎn)文章。

文章發(fā)表一個(gè)月后DALL·E問(wèn)世，Sam Altman發(fā)文嘲諷，「請(qǐng)給我一個(gè)平庸的深度學(xué)習(xí)懷疑論者般的自信…」

而在今天，馬庫(kù)斯再次表示「即便過(guò)了2年，深度學(xué)習(xí)依舊面臨同樣的根本性挑戰(zhàn)」！

也就是說(shuō)，人類靠深度學(xué)習(xí)到達(dá)AGI，遙不可及。

https://garymarcus.substack.com/p/two-years-later-deep-learning-is?r=8tdk6&utm_campaign=post&utm_medium=web&triedRedirect=true

文中他列舉了多個(gè)例證，來(lái)說(shuō)明這些觀點(diǎn)至今依舊成立：

– 深度學(xué)習(xí)從根本上說(shuō)是一種識(shí)別模式的技術(shù)，當(dāng)我們需要的只是粗略的結(jié)果時(shí)，深度學(xué)習(xí)就能發(fā)揮出最大的作用。

– 目前的深度學(xué)習(xí)系統(tǒng)經(jīng)常會(huì)出現(xiàn)愚蠢的錯(cuò)誤。

– 擴(kuò)大參數(shù)規(guī)模的爭(zhēng)論——那些已經(jīng)擴(kuò)大參數(shù)規(guī)模的研究，并沒(méi)真正改進(jìn)LLM迫切需要的東西——「理解力」。Kaplan等OpenAI團(tuán)隊(duì)所提出的衡量標(biāo)準(zhǔn)——關(guān)于預(yù)測(cè)下一個(gè)單詞，并不同于AI就實(shí)現(xiàn)深度理解。

– 「scaling laws」僅是觀察到的現(xiàn)象，就像摩爾定律一樣，可能不會(huì)永遠(yuǎn)有效。

論文地址：https://arxiv.org/pdf/2001.08361.pdf

當(dāng)然，馬庫(kù)斯最后表示，AGI并非不可以實(shí)現(xiàn)，而是人類需要一次范式轉(zhuǎn)變。越來(lái)越多的結(jié)果說(shuō)明，LLM本身不是通向AGI的終點(diǎn)答案。

與此同時(shí)，圖靈巨頭LeCun在最近的博客采訪中，也談到——AGI離我們還很遠(yuǎn)。

在這個(gè)訪談中，LeCun還提到了，「嬰兒只有在已經(jīng)了解了物質(zhì)世界如何運(yùn)作的基礎(chǔ)知識(shí)之后，才能習(xí)得語(yǔ)言。很多物理知識(shí)都是內(nèi)化的，無(wú)法用語(yǔ)言來(lái)描述，因此LLM也無(wú)法理解」。

吳恩達(dá)也參與了AGI的討論，并表示AGI只會(huì)慢慢到來(lái)，而非一夜之間。

斯坦福團(tuán)隊(duì)?wèi){借「大模型涌現(xiàn)能力是海市蜃樓」獲得NeurIPS杰出論文獎(jiǎng)，論文中提到大模型涌現(xiàn)能力的出現(xiàn)是因?yàn)檠芯咳藛T度量選擇，而不是因?yàn)槟Ｐ托袨?，隨著參數(shù)規(guī)模變化而發(fā)現(xiàn)根本變化。

當(dāng)許多人突然意識(shí)到一項(xiàng)技術(shù)（也許是發(fā)展已久的技術(shù)）時(shí)，公眾的感知就會(huì)出現(xiàn)斷崖式的變化，從而會(huì)紛紛感到驚訝。

但人工智能能力的增長(zhǎng)，比人們想象的要持續(xù)得多。這就是為什么我預(yù)計(jì)通往AGI的道路將包括許多前進(jìn)的步驟，進(jìn)而讓系統(tǒng)的智能化程度逐步提高。

四、ChatGPT耗電量驚人，人類撐得住AGI嗎？

雖然AI模型已經(jīng)在飛速發(fā)展，但最近的一個(gè)大問(wèn)題已經(jīng)讓人揪心：它們實(shí)在太耗電了！

人工智能是能源的無(wú)底洞，AI未來(lái)將會(huì)被能源卡脖子。

包括Sam Altman在內(nèi)的越來(lái)越多的AI行業(yè)大佬表示，AI的第一性原理，最重要的部分就是能源和智能的轉(zhuǎn)化率的問(wèn)題。

因?yàn)門ransformer本質(zhì)上不是一個(gè)能效很高算法，所以在未來(lái)，能源將會(huì)是困擾AI發(fā)展的一個(gè)大問(wèn)題。

馬斯克最近在一個(gè)公開采訪中表示：

AI是有史以來(lái)最大的技術(shù)革命，我從未見(jiàn)過(guò)任何技術(shù)進(jìn)步比現(xiàn)在的AI更快。

芯片短缺的情況可能已經(jīng)過(guò)去，但人工智能和電動(dòng)汽車正在以如此迅猛的速度擴(kuò)張，以至于明年世界將面臨電力和變壓器的供應(yīng)緊縮。

現(xiàn)在AI對(duì)算力的需求差不多每半年就會(huì)增加10倍。顯然，這種情況不可能永遠(yuǎn)以如此高的速度持續(xù)下去，否則會(huì)超過(guò)宇宙的質(zhì)量。

AI計(jì)算的瓶頸是可以預(yù)見(jiàn)的……一年前，短缺的是芯片。

然后下一個(gè)短缺將是電力。當(dāng)芯片短缺緩解之后，明年可能就會(huì)出現(xiàn)電力將不不足以運(yùn)轉(zhuǎn)這些芯片。

然后，很容易預(yù)測(cè)下一個(gè)短缺將是降壓變壓器。

如果電網(wǎng)輸出100-300千伏的電壓，然后必須一路降壓至6伏，那么降壓幅度就很大。

這有一個(gè)不是那么好笑的笑話，未來(lái)運(yùn)行Transformer的變壓器（Transformer）將出現(xiàn)短缺。

五、Hinton：有1/10概率，AI會(huì)殺死人類

AGI真正實(shí)現(xiàn)那天，終結(jié)者中那一幕也在迫近。

「數(shù)字智能會(huì)取代生物智能嗎」？

「幾乎可以肯定，會(huì)的」！

「我們?nèi)祟悜?yīng)該盡最大努力存活下來(lái)」。

AI教父Hinton近日在牛津大學(xué)發(fā)表了最新演講，給出了驚人言論——在5-20年內(nèi)，每個(gè)人都有1/10的概率被AI被殺死。

圖靈獎(jiǎng)得主Bengio也持有同樣的觀點(diǎn)，即有1/5的可能性，我們會(huì)被殺死。

Hinton意識(shí)到，日益強(qiáng)大的AI模型可以像「蜂巢思維」一樣，相互分享所學(xué)知識(shí)，從而相對(duì)于人類更具優(yōu)勢(shì)。它們可能是一種更好的智能形式。

就比如，GPT-4可以學(xué)習(xí)語(yǔ)言，會(huì)推理、諷刺，還會(huì)展現(xiàn)出極高的同理心。

他在演講中說(shuō)，「我要做出一個(gè)非常有力的聲明，這些模型確實(shí)能理解」。

這些模型也可能以危險(xiǎn)的方式「進(jìn)化」，形成一種控制的意向性。如果我為政府提供建議，我會(huì)說(shuō)這些AI有10%的可能性會(huì)在未來(lái)20年內(nèi)消滅人類。我認(rèn)為這將是一個(gè)合理的數(shù)字。

不僅如此，AI界大佬在「關(guān)于人工智能殺死所有人的可能性有多大」的問(wèn)題時(shí)，認(rèn)為有25-49%概率的人最多。

不同的人/組織對(duì)AI滅世的概率預(yù)測(cè)。

AI真的會(huì)殺死人類嗎，你怎么看？

參考資料：

https://www.marketingaiinstitute.com/blog/sam-altman-ai-agi-marketing

https://twitter.com/garymarcus/status/1766871625075409381?s=46