Open AI發(fā)布新一代模型01
昨天晚上,OpenAI發(fā)布了最新的草莓模型——01系列,隨著01模型的問世,我們有理由相信,AI的“思考”將更加貼近人類,而其在各行各業(yè)的應用,也將帶來革命性的變革。
凌晨1點,我還在追劇。
這時,朋友發(fā)來一條消息說:Open AI發(fā)布了新模型,你在電腦上試試看能用嗎?哎,大哥,都要睡覺了,這要強制開機,讓我起來加班碼字啊。
帶著好奇,打開PC端ChatGPT一看,果然,多出兩個模型,分別是ChatGPT 01-mini和01-preview。
這是什么東東?怎么叫這個名字?這個模型有什么特點?怎么還有兩個版本呢?價位如何?難道是此前被傳的「草莓」做出來了?
帶著疑惑,熬夜看完官方文檔,把內(nèi)容總結(jié)分享給你。
01
為什么叫01呢?官方說:
For complex reasoning tasks this is a significant advancement and represents a new level of AI capability. Given this, we are resetting the counter back to 1 and naming this series OpenAI o1。
我用自帶瀏覽器的翻譯功能,翻譯出來就是:
這個模型在復雜推理任務上是一個重大的進步,代表了人工智能能力的一個新水平;因此,我們決定重新開始編號,把這一系列模型命名為OpenAI 01。
襖,原來因為這個模型非常厲害,能做很多復雜的事情,OpenAI 覺得這是一個新的起點,所以把編號重新設為1,開始一個新的系列。
那么,它為什么會有兩個版本呢?官方說:
o1 mini版是個簡化的版本。它在速度、體積和成本方面都做了優(yōu)化。
這個版本在處理數(shù)學、編程推理任務時表現(xiàn)不錯,特別適合需要快速處理問題的場合;因為它體積小,成本也低,所以,如果你想快速得到答案,那么o1 mini版可能更適合你。
相對01 preview版,是完整版本。
比較擅長解決復雜的問題,比如,無論是科學問題、數(shù)學題還是編程,它都能處理得非常好;當然,如果你遇到的問題要廣泛的知識或者深刻的理解,那么這個版本更適合你,因為它的推理能力非常強大。
我不信,于是,讓國產(chǎn)大模型Kimi Chat給我想了一個邏輯數(shù)學邏輯題,如下:
假設我有一個農(nóng)場,里面有雞和兔子。有一天,我數(shù)了數(shù)農(nóng)場里動物的頭和腳,發(fā)現(xiàn)總共有35個頭和94只腳。請問,農(nóng)場里各有多少只雞和兔子?
preview版的確很強。除了告訴我有23只雞,和12只兔子外,還給出了步驟,整個下來,也就不到2秒。
當然,這種測試用來對付Chat肯定是無壓力的,如果你有時間,也可以帶入工作中的問題,自己體驗下。
總的來說,兩個版本的主要區(qū)別是它們處理任務的能力、速度和成本;o1 mini版在速度、成本上有優(yōu)勢;preview版更適合推理。
不過,實際體驗下來,沒覺得有什么差異,也許我本身要它做的事情,比較簡單。
體驗完后,仔細一想,這和GPT-4o、GPT-4omini有啥區(qū)別呢?非要搞出四個模型嗎?加上GPT-4,我電腦上已經(jīng)有五個模型了。
查了下官方文檔,有一篇文章叫《用法學碩士學習推理》(Learning to Reason with LLMs)詳細介紹了一切。
他們是這么說的:
在對OpenAI的兩個AI模型——o1-preview和GPT-4o的實際使用偏好測試中,人類評估者在不知情的情況下,比較了兩個模型對復雜問題的回答。
結(jié)果顯示,在需要大量推理的任務上,比如數(shù)據(jù)分析、編程和數(shù)學問題,大家更喜歡o1-preview。因為o1-preview經(jīng)過特殊的強化學習訓練,所以,在解決這類問題時,推理能力更強,更高效。
但是,在自然語言處理任務上,o1-preview的表現(xiàn)不如GPT-4o。這是因為它的訓練重點在推理和解決問題的策略上,而不是在語言的流暢度或文本生成的多樣性上。
這說明,雖然o1-preview在某些領域很出色,但它并不適合所有類型的任務,尤其是那些專注于自然語言處理的場景。
原來如此。
我又看了看o1-preview和o1 mini版適合哪些人。官方說,如果你在處理科學、編碼、數(shù)學等領域的復雜問題,這些增強的推理能力可能特別有用。
比如:
醫(yī)療研究人員可以用o1來標注細胞測序數(shù)據(jù);物理學家可以生成量子光學所需的復雜數(shù)學公式;各個領域的開發(fā)者都可以用o1來構(gòu)建和執(zhí)行多步的工作流程。
所以,如果你做科學、敲代碼、編程、數(shù)學方面的工作,用它再好不過了。
02
那么,o1-preview和o1 mini到底做了哪些測試呢?
首先,為了顯示o1模型在推理方面比GPT-4o有多大改進,他們在不同的人體檢查和機器學習基準上測試了它。
比如:
在2024年的AIME數(shù)學考試中,GPT-4o平均只解決了12%的題目;而o1模型單次測試的平均解題率達到了74%。如果算上64次測試的平均得分,能達到83%;重新從1000個樣本中排名,平均得分甚至可以達到93%。
這個成績不僅讓它進入了全美前500名,還超過了參加美國數(shù)學奧林匹克的分數(shù)線。
他們還用一個叫做GPQA鉆石的難題來測試o1。這個測試涉及化學、物理和生物學的專業(yè)知識。
他們請了一些擁有博士學位的專家來回答這些問題,結(jié)果發(fā)現(xiàn),o1模型的表現(xiàn)超過了人類專家,成為第一個在這個測試中取得這樣成績的模型。
這并不意味著o1在所有方面都比博士更厲害,而是說明它在解決某些專業(yè)問題上更為熟練。
當然,在其他一些機器學習的測試中,他們也做了大量測試;它在MMMU的視覺感知測試中得了78.2分,成為第一個能和人類專家競爭的模型;而且,在57個MMLU子測試中的54個項目上,它的表現(xiàn)都優(yōu)于GPT-4o。
我好奇地搜索了一下,什么是 MMLU?簡單講,MMLU 像一場大型的綜合考試,參加考試的不是人類,而是人工智能模型。
總之,這些測試最終結(jié)論是:
OpenAI的o1模型在全球編程比賽Codeforces中排名第89位,在美國數(shù)學奧林匹克(AIME)的資格賽中,進入了全美前500名。
在物理、生物學和化學問題的測試中,它的表現(xiàn)甚至超過了博士水平。
因此,o1-preview和o1 mini在解決高難度的推理和專業(yè)問題上表現(xiàn)更出色;而GPT-4o更適合處理日常的任務。
03
所以,這么強的推理能力怎么實現(xiàn)的?關(guān)鍵有四個方面:
首先,o1模型用了一種“自我對弈強化學習”(Self-play RL)的方法;這是一種通過模擬環(huán)境和自我對抗來提升模型性能的技術(shù)。
這種方法中,模型在沒有外部指導,通過不斷嘗試和錯誤來學習策略和優(yōu)化決策。
想象一下:
它就像在和自己下棋,一邊玩一邊學;過程中,不用別人教,自己試試、出錯、再試,慢慢就學會了怎樣做決策和解決問題。
其次,o1還模仿了人類的“慢思考”(Slow Thinking);這種思考要時間、努力和邏輯三者結(jié)合,就像我們在考試時仔細思考一個難題一樣。
通過深思熟慮方式,o1先分析問題,然后把它拆開,再推理,再解決;這讓它在科學、編程或數(shù)學上更精準,更出色。
當然,這一步離不開思維鏈。
思維鏈的推理,還用一種獨特的方法來監(jiān)控模型。如果這些思維鏈是可讀的,研發(fā)人員就能“讀懂”模型的思考過程。
這對于監(jiān)測模型是否能操縱用戶行為非常有幫助,但是,為了讓模型能自由地表達思考,他們不在模型中加入任何與政策、用戶偏好相關(guān)的硬性規(guī)定。
因此,這個模型整合了安全政策和人類價值觀,過在模型的答案中重現(xiàn)思維鏈中的有用想法,讓用戶間接了解模型的思考過程。
還有一點,思維鏈加入了魯棒性(Robustness)測試。所謂魯棒性指一個系統(tǒng)、模型或者設備在面對各種意外情況、干擾或者變化時,仍然能夠正常工作,不容易出問題。
比如:
一輛汽車,無論在高溫、低溫、下雨還是顛簸的路面上,都能正常行駛,這說明它的魯棒性很好;在AI領域,魯棒性指軟件、模型在面對不同的數(shù)據(jù)輸入、錯誤,甚至惡意攻擊時,仍然能保持穩(wěn)定和準確。
所以,魯棒性強調(diào)的是在各種復雜、多變的環(huán)境下,仍然能保持可靠和穩(wěn)定的性能。
除以上兩點,o1在訓練時還用上了數(shù)據(jù)飛輪(Data Flywheel);它的正確答案會被用來再訓練它自己,幫助它變得更聰明。
當然,為支持這些復雜的思考任務,o1還用上了一些特別優(yōu)化的算法、架構(gòu)。這些技術(shù)讓它更快、更準確地解決問題,提高了它的整體能力。
總之,o1模型訓練關(guān)注五個維度:
一,自我對弈強化學習、二,模仿人類慢思考、三,拆解了思維鏈的過程;四,在思維鏈中加入了魯棒性測試;五,數(shù)據(jù)飛輪再強化。
看完官網(wǎng)文檔,說白了,我覺得他們讓AI更像人了。
04
再強大的東西,不商業(yè)化肯定不行。那么,o1模型的成本和使用限制有哪些呢?
o1-preview的價格是:
每處理一百萬個輸入要花15美元,每處理一百萬個輸出則是60美元;這說明,如果你用這個版本,輸入和輸出的處理費用會比較高。
真貴啊。這是什么概念?舉個例子:
如果你每天和這個模型聊天100次,每次輸入1000個單詞,那么一天的費用是75美分乘以100次,等于75美元。按照現(xiàn)在匯率,75美元大概等于540人民幣。
這樣看來,使用這個模型的成本相當于每天花540塊錢。如果你每天都這么使用,一個月下來的花費就非??捎^了,堪比請一個專家了。
而o1-mini的價格便宜一些。
每一百萬個輸入只需3美元,每一百萬個輸出12美元。但這個便宜版在功能上可能會有些限制;如果你是ChatGPT Plus或Team的用戶,就可以優(yōu)先嘗試o1模型的功能。
對開發(fā)者來說,要求就嚴格多了,只有支付了1000美元的五級開發(fā)者才能用這個模型,而且每分鐘只能調(diào)用20次。
至于API的調(diào)用限制,o1-preview每周只能調(diào)用30次,o1-mini每周可以調(diào)用50次。這種限制是按周來算的,不是按小時或分鐘。
功能方面,目前的o1模型還不能支持所有的功能,比如理解圖片、生成圖片、解釋代碼、網(wǎng)頁搜索等。所以,用戶現(xiàn)在只能用它來進行基本的對話。
官方還說:
雖然現(xiàn)在o1模型成本較高,使用也有限,但隨著技術(shù)發(fā)展和OpenAI的不斷改進,預計將來會有更多用戶能使用到這個模型,成本也可能會降低。
不管怎能說,AI越來越像人一樣“深思熟慮”了,至于這個模型,誰會付費呢?誰又能為它支付1000美金呢?或許,只有大公司、研究機構(gòu)、有特定需求的專業(yè)人士才能承擔得起。
那到時候,真就成了花錢請了一個「AI專家」,所以,AI會替代專家嗎?
總結(jié)
越來越像人的模型。
誰也猜不到,未來的o1-preview(mini)會發(fā)展成什么樣,至少,它肯定不會是個普通的GPT。
它會發(fā)展成具身智能嗎?有這個可能。隨著技術(shù)不斷進步,o1-preview(mini)很大概率會改變一些行業(yè)的運作方式。
本文由人人都是產(chǎn)品經(jīng)理作者【王智遠】,微信公眾號:【王智遠】,原創(chuàng)/授權(quán) 發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來自Unsplash,基于 CC0 協(xié)議。
- 目前還沒評論,等你發(fā)揮!