“我們不僅僅是為了命名事物而看……我們真正是為了做事、導(dǎo)航世界、相互互動而看，縮小看與做之間的差距需要空間知識。作為一名技術(shù)專家，我對此感到非常興奮?！?/p>

你對人工通用智能（AGI）感到困惑嗎？這就是 OpenAI 執(zhí)著于最終以“造福全人類”的方式創(chuàng)造的東西。你可能想認真對待他們，因為他們剛籌集了 66 億美元以更接近這個目標。

但如果你仍然在想究竟什么是 AGI，你并不孤單。

在周四的 Credo AI 負責(zé)任的人工智能領(lǐng)導(dǎo)峰會上，世界著名研究員常被稱為“人工智能教母”的李飛飛表示，她也不知道什么是 AGI。在其他時刻，李飛飛討論了她在現(xiàn)代人工智能誕生中的角色，社會應(yīng)該如何保護自己免受先進人工智能模型的影響，以及她為什么認為她的新獨角獸初創(chuàng)公司 World Labs將改變一切。

但當(dāng)被問及她對“人工智能奇點”的看法時，李和我們其他人一樣感到困惑。

“我來自人工智能學(xué)術(shù)界，接受過更嚴格和基于證據(jù)的方法的教育，所以我并不太清楚這些詞的意思，”李在舊金山一個擠滿人的房間里說，旁邊是一扇俯瞰金門大橋的大窗戶?！疤孤实卣f，我甚至不知道 AGI 是什么意思。人們說你見到它就知道，我想我還沒有見過。事實上，我并不花太多時間思考這些詞，因為我認為還有很多更重要的事情要做……”

如果有人知道什么是 AGI，那可能是李飛飛。2006 年，她創(chuàng)建了 ImageNet，這是世界上第一個大型 AI 訓(xùn)練和基準數(shù)據(jù)集，對催化我們當(dāng)前的 AI 熱潮至關(guān)重要。從 2017 年到 2018 年，她擔(dān)任谷歌云的 AI/ML 首席科學(xué)家。今天，李飛飛領(lǐng)導(dǎo)斯坦福人本中心 AI 研究所（HAI），她的初創(chuàng)公司 World Labs 正在構(gòu)建“大型世界模型”。（如果你問我，這個術(shù)語幾乎和 AGI 一樣令人困惑。）

OpenAI 首席執(zhí)行官奧特曼在去年的 The New Yorker 采訪中嘗試定義 AGI。奧特曼將 AGI 描述為“你可以雇傭的同事的中等人類的等價物?！保╡quivalent of a median human that you could hire as a coworker.）

與此同時，OpenAI 的章程將 AGI 定義為“在大多數(shù)經(jīng)濟價值工作中超越人類的高度自主系統(tǒng)?！保?“highly autonomous systems that outperform humans at most economically valuable work.”）

顯然，這些定義對于一家價值 1570 億美元的公司來說并不夠好。因此，OpenAI 創(chuàng)建了 五個級別，用于內(nèi)部評估其向 AGI 的進展。第一個級別是聊天機器人（如 ChatGPT），然后是推理者（顯然，OpenAI o1 是這個級別），代理（這 supposedly 是下一個），創(chuàng)新者（可以幫助發(fā)明事物的 AI），最后一個級別是組織級（可以完成整個組織工作的 AI）。

仍然感到困惑嗎？我也是，李也是。此外，這聽起來遠遠超過一個普通人類同事能做到的。

李在談話早些時候提到，自小她就對智能的概念充滿了好奇。這使她在人工智能尚未盈利之前就開始研究這一領(lǐng)域。在 2000 年代初，李表示她和其他幾個人正在悄悄為這個領(lǐng)域奠定基礎(chǔ)。

“在 2012 年，我的 ImageNet 與 AlexNet 和 GPU 結(jié)合——許多人稱之為現(xiàn)代人工智能的誕生。它是由三個關(guān)鍵因素驅(qū)動的：大數(shù)據(jù)、神經(jīng)網(wǎng)絡(luò)和現(xiàn)代 GPU 計算。一旦那個時刻到來，我認為整個人工智能領(lǐng)域以及我們的世界都再也不同了?！?/p>

當(dāng)被問及加利福尼亞州有爭議的人工智能法案 SB 1047 時，李謹慎地發(fā)言，以避免重提州長紐森剛剛通過上周否決該法案而平息的爭議。（我們最近與 SB 1047 的作者進行了交談，他更愿意重新與李展開辯論。）

“你們中的一些人可能知道我對這項被否決的法案 [SB 1047] 表達過我的擔(dān)憂，但現(xiàn)在我正在深思熟慮，并充滿期待地展望未來，”李說。“我感到非常受寵若驚，或者說很榮幸，紐森州長邀請我參與后 SB 1047 的下一步?！?/p>

加利福尼亞州的州長最近邀請李以及其他人工智能專家組成一個工作組，幫助該州制定人工智能部署的保護措施。李表示，她將在這個角色中采用基于證據(jù)的方法，并將盡力倡導(dǎo)學(xué)術(shù)研究和資金支持。然而，她也希望確保加利福尼亞州不會懲罰技術(shù)人員。

“我們需要真正關(guān)注對人類和我們社區(qū)的潛在影響，而不是將責(zé)任歸咎于技術(shù)本身……如果一輛車被故意或無意地濫用并傷害了一個人，我們懲罰汽車工程師——比如福特或通用汽車——是沒有意義的。僅僅懲罰汽車工程師并不會讓汽車更安全。我們需要做的是繼續(xù)創(chuàng)新以實現(xiàn)更安全的措施，同時改善監(jiān)管框架——無論是安全帶還是限速——人工智能也是如此。”

這是我聽過的針對 SB 1047 的更好論點之一，該法案將懲罰因危險 AI 模型而受到影響的科技公司。

盡管李正在為加利福尼亞州提供人工智能監(jiān)管建議，但她也在舊金山經(jīng)營她的初創(chuàng)公司 World Labs。這是李第一次創(chuàng)辦初創(chuàng)公司，她是少數(shù)幾位領(lǐng)導(dǎo)前沿人工智能實驗室的女性之一。

“我們離一個非常多樣化的人工智能生態(tài)系統(tǒng)還很遠，”李說?！拔掖_實相信，多樣化的人類智能將導(dǎo)致多樣化的人工智能，并將為我們帶來更好的技術(shù)?！?/p>

在接下來的幾年里，她很高興能將“空間智能”更接近現(xiàn)實。李說，人類語言是今天大型語言模型的基礎(chǔ)，可能花費了百萬年的時間來發(fā)展，而視覺和感知則可能花費了 5.4 億年的時間。這意味著創(chuàng)建大型世界模型是一項更復(fù)雜的任務(wù)。

“這不僅僅是讓計算機看見，而是真正讓計算機理解整個三維世界，我稱之為空間智能，”李說。“我們不僅僅是為了命名事物而看……我們真正是為了做事、導(dǎo)航世界、相互互動而看，縮小看與做之間的差距需要空間知識。作為一名技術(shù)專家，我對此感到非常興奮?！?/p>

本文翻譯自：TechCrunch

https://techcrunch.com/2024/10/03/even-the-godmother-of-ai-has-no-idea-what-agi-is/

編譯：ChatGPT