最近，LeCun最新訪談視頻中談了談自己關(guān)于開(kāi)源AI的看法，他認(rèn)為未來(lái)將出現(xiàn)超越人類智能的人工智能，而開(kāi)源人工智能不會(huì)成為我們的主宰。怎么理解呢？這篇文章里，作者做了梳理與分享，一起來(lái)看。

LeCun一段近5分的視頻，引起了全網(wǎng)300+萬(wàn)人的關(guān)注。

視頻中，他再次重提對(duì)開(kāi)源人工智能的幾點(diǎn)看法：

• 未來(lái)將出現(xiàn)超越人類智能的人工智能
• 這些人工智能將受到我們的控制
• 它們不會(huì)成為我們的主宰，也不會(huì)對(duì)我們構(gòu)成威脅
• 它們將成為我們與數(shù)字世界互動(dòng)的中介
• 因此，這些人工智能需要是開(kāi)放的平臺(tái)，這樣每個(gè)人都能參與進(jìn)來(lái)，幫助它們學(xué)習(xí)和優(yōu)化。

對(duì)此，馬斯克表示，我們的數(shù)字上帝將以csv文件的形式出現(xiàn)。LeCun回應(yīng)道，如果它是開(kāi)源的，無(wú)論你選擇什么格式，都會(huì)有導(dǎo)入過(guò)濾器。

COSS創(chuàng)始人Joseph Jack調(diào)侃道，我們能不能直接讓LeCun擔(dān)任AI總統(tǒng)，然后就此結(jié)束今天的討論。

以下是視頻中，LeCun個(gè)人提出的觀點(diǎn)。

一、智能與統(tǒng)治毫無(wú)干系，開(kāi)源是必然

在未來(lái)的某個(gè)時(shí)刻，也許是幾十年后，我們將擁有智能與人類相媲美的AI系統(tǒng)。

因?yàn)槿祟愒诓煌I(lǐng)域有各自的專長(zhǎng)，這些AI系統(tǒng)不僅同樣如此，而且在人類擅長(zhǎng)的領(lǐng)域中，甚至可能都要比人類聰明。

B端究竟需要什么样的产品经理？

B端产品经理都是以提升供应侧的工作效率为目的，所以B端需求主要是以业务问题为导向。 这个是B端产品比较重要的一点，B端产品是服务于一个主体 ...

查看详情 >

現(xiàn)在你可能會(huì)想，「天吶！這樣的系統(tǒng)會(huì)不會(huì)掌控世界？」

No！智能與統(tǒng)治之間并沒(méi)有必然的聯(lián)系。

就拿人類來(lái)說(shuō)，人類中有一部分人有控制欲，但并非人人都有，并且，想要統(tǒng)治的并不是我們當(dāng)中最聰明的人。

其實(shí)，國(guó)際政治舞臺(tái)上的各種事件都在證明這一點(diǎn)。這背后的原因可能來(lái)自自然進(jìn)化，不夠聰明的人需要依賴他人，因此也會(huì)應(yīng)影響他人，但聰明的人可以獨(dú)立生存。

第二個(gè)觀點(diǎn)是，我們習(xí)慣于比自己更聰明的人一起工作。對(duì)于我來(lái)說(shuō)，我曾經(jīng)領(lǐng)導(dǎo)過(guò)的一個(gè)研究實(shí)驗(yàn)室，只雇傭比我聰明的人，與聰明的人一起工作的感覺(jué)很棒。

我們與未來(lái)AI助手的關(guān)系，它會(huì)在日常生活中幫助我們。

想象一下，未來(lái)10-20年，AI助手會(huì)在日常生活中幫助我們，而且可能會(huì)比我們更聰明。但它們的存在，是為了讓我們更聰明。

我們命令它們，便會(huì)聽(tīng)命于我們。并不是因?yàn)樗鼈兟斆?，就想要統(tǒng)治。

而這種統(tǒng)治欲其實(shí)源于，我們是社會(huì)性物種的本性。因此，我們需要有能力去影響他人。這也就是統(tǒng)治和服從的來(lái)源。

我們是一個(gè)有等級(jí)秩序的社會(huì)性物種，這也是進(jìn)化論賦予我們的特征，像黑猩猩、狒狒狼等社會(huì)性動(dòng)物一樣。

但即便是猩猩這樣的物種，智力接近人類，卻沒(méi)有被賦予控制他人的特征。

因此，控制和智能完全沒(méi)有關(guān)系。

我們可以設(shè)計(jì)一個(gè)極其智能但不具備統(tǒng)治欲的系統(tǒng)，且非常聰明，也就是說(shuō)，你給它們一個(gè)目標(biāo)，就能幫你實(shí)現(xiàn)。

設(shè)定目標(biāo)由我們?nèi)祟悂?lái)做，而這些系統(tǒng)會(huì)制定子目標(biāo)。至于如何做到這一點(diǎn)的技術(shù)問(wèn)題還沒(méi)有解決，我們只是在想象未來(lái)的事情。

包括我之前談到的「目標(biāo)驅(qū)動(dòng)的AI」，這只是未來(lái)。

想象一下，如果未來(lái)我們與數(shù)字世界、信息世界所有交互都是通過(guò)AI智能體來(lái)完成。

這些AI智能體將成為所有人類知識(shí)的寶庫(kù)，與一個(gè)能進(jìn)行對(duì)話和推理的「超級(jí)百科」類似，但知識(shí)比維基百科更豐富。

這將成為一個(gè)像現(xiàn)在的互聯(lián)網(wǎng)一樣的公共平臺(tái)，它必須是開(kāi)放的，而不是專有的，因?yàn)檎莆赵谏贁?shù)公司的超級(jí)AI將是非常危險(xiǎn)的。

如果少數(shù)人控制著超級(jí)AI，便可以左右每個(gè)人的觀點(diǎn)、文化等等。

所以，唯一的解決方案就是開(kāi)源基礎(chǔ)架構(gòu)。這也是Meta開(kāi)源Llama2的原因之一，因其是基礎(chǔ)設(shè)施的一部分。

在此之前，Meta還發(fā)布了PyTorch，一個(gè)構(gòu)建AI系統(tǒng)的軟件系統(tǒng)，ChatGPT就是基于PyTorch構(gòu)建的。

因此，這些系統(tǒng)必須是開(kāi)源的，并且訓(xùn)練方式也必須是眾包的，以確保它們成為所有人類的知識(shí)庫(kù)。

這樣，所有人類都可以為其中做貢獻(xiàn)，而不是僅僅貢獻(xiàn)給OpenAI、Meta或其他公司的專有系統(tǒng)。

它必須是開(kāi)源的，無(wú)論聽(tīng)起來(lái)有多危險(xiǎn)，但這是未來(lái)的必然趨勢(shì)。

二、我們需要世界模型

對(duì)于超級(jí)AI的發(fā)展，LeCun一直以來(lái)都站在開(kāi)源隊(duì)列中。

就在本月初，他曾號(hào)召1700+位人工智能領(lǐng)域的專家和研究人員簽署了一封聯(lián)名信，呼吁AI更加開(kāi)放。

在LeCun看來(lái)，當(dāng)前自回歸模型的能力遠(yuǎn)遠(yuǎn)不及人類，甚至都不如阿貓阿狗。

當(dāng)被TED負(fù)責(zé)人問(wèn)道，有沒(méi)有一個(gè)理論能夠證明人類大腦，而不是LLM能夠推理。

LeCun表示，LLM以每個(gè)token的固定計(jì)算量生成答案。它們沒(méi)有辦法投入更多（可能是無(wú)限的）「時(shí)間和精力」來(lái)解決難題。這非常類似于人類快速和潛意識(shí)的「系統(tǒng)1」決策過(guò)程。

真正的推理和計(jì)劃將允許系統(tǒng)搜索解決方案，使用潛在的無(wú)限時(shí)間。這種迭代推理過(guò)程更類似于人類有意識(shí)「系統(tǒng)2」。

這就是人類和許多動(dòng)物在新情況下找到新問(wèn)題的新解決方案的原因。

一些人工智能系統(tǒng)具有規(guī)劃能力，即玩游戲或控制機(jī)器人的系統(tǒng)。AlphaGo、AlphaZero、Libratus和Cicero等游戲AI系統(tǒng)具有規(guī)劃能力。與動(dòng)物和人類相比，這些系統(tǒng)的規(guī)劃能力仍然相當(dāng)有限。

為了實(shí)現(xiàn)更通用的規(guī)劃能力，人工智能系統(tǒng)需要擁有一個(gè)「世界模型」，即一個(gè)可以預(yù)測(cè)動(dòng)作序列后果的子系統(tǒng)：給定時(shí)間t的世界狀態(tài)，以及我可以采取的想象行動(dòng)，在時(shí)間t+1時(shí)世界的合理狀態(tài)是什么。通過(guò)世界模型，系統(tǒng)可以計(jì)劃一系列行動(dòng)以實(shí)現(xiàn)目標(biāo)。

如何建立和訓(xùn)練這樣的世界模型仍然是一個(gè)懸而未決的問(wèn)題。更復(fù)雜的是如何將一個(gè)復(fù)雜的目標(biāo)分解為一系列子目標(biāo)。

這將實(shí)現(xiàn)分層規(guī)劃，這是人類和許多動(dòng)物可以毫不費(fèi)力地做到的，但仍然完全超出了人工智能系統(tǒng)的能力范圍。

三、網(wǎng)友熱議

馬庫(kù)斯看后表示，他的每一句話中非?？隙ǎo人留下了深刻的印象。但如果他的一些前提（再次）被證明是錯(cuò)誤的怎么辦？

更多智能并不意味著更多危險(xiǎn)。人工智能的威脅取決于編寫(xiě)損失函數(shù)的人是誰(shuí)。

LeCun的演講金句已被畫(huà)出。

參考資料：

https://twitter.com/ylecun/status/1728515719535489484

https://www.youtube.com/watch?v=EGDG3hgPNp8