為什么ChatGPT能降價(jià)90%?產(chǎn)生的商業(yè)影響是什么?
在未來,ChatGPT的成本會(huì)下降嗎?它產(chǎn)生的商業(yè)影響是什么呢?語言模型與現(xiàn)存端口會(huì)如何結(jié)合?本文作者對(duì)這三個(gè)方面,分享了他的看法,希望能給你帶來一些啟發(fā)。
本文說三件事:
- 價(jià)格-90%背后是什么?
- 商業(yè)影響是什么?真的要全面AIGC了?
- 老調(diào)重彈,關(guān)注語言模型與現(xiàn)存交互端口的融合
一、成本下降猜測(cè)
結(jié)論在前:可以大膽地說,在未來,成本還會(huì)進(jìn)一步下降,并且會(huì)令人難以想象。
1. 技術(shù)角度
技術(shù)優(yōu)化一直在進(jìn)行,2020年GPT-3發(fā)布的時(shí)候,單次訓(xùn)練成本是460萬美元,而現(xiàn)在這個(gè)價(jià)格是140萬美元,約-70%。盡管這是訓(xùn)練成本,而非推理(回答你的問題即推理)成本,但也能夠作為參考。
具體的技術(shù)優(yōu)化產(chǎn)生在哪些方面,算法?模型結(jié)構(gòu)?工程設(shè)計(jì)?定制GPU?任務(wù)調(diào)度?——不知道(我沒去搜哈哈)。但技術(shù)角度出發(fā),成本會(huì)下降大家應(yīng)該是不會(huì)懷疑的。
2. 商業(yè)角度
假設(shè),你現(xiàn)在擁有全世界最領(lǐng)先的技術(shù),拔劍四顧心茫然,寰球宇內(nèi)一個(gè)能打的都沒有。那么你會(huì):
- 趁著技術(shù)領(lǐng)先期,能賺就賺。
- 直接成本價(jià)售賣,圈用戶圈數(shù)據(jù)圈場(chǎng)景圈服務(wù)商(特別我還有個(gè)金主爸爸的情況下),數(shù)據(jù)飛輪給我跑出火花來!剩余參賽者全都給我撿我挑剩的少量數(shù)據(jù)。
我想這道選擇題應(yīng)該不難做。
用另一個(gè)角度推理佐證:
- SaaS服務(wù)成本一般在20%
- 云服務(wù)成本在50%
- 即背靠微軟的OpenAI,其成本線恰好就是之前價(jià)格的十分之一
- 也就是說人家說不定還有余力進(jìn)一步降價(jià),目前這個(gè)價(jià)格只是讓渡了利潤(rùn),還沒算上技術(shù)點(diǎn)來的成本下降。(參考《ChatGPT背后的經(jīng)濟(jì)賬》,深度好文,推薦搜索學(xué)習(xí)?。?/li>
那么降價(jià)90%就不難理解了,不管是技術(shù)成本優(yōu)化還是商業(yè)成本優(yōu)化,這場(chǎng)降價(jià)都必將發(fā)生(事后諸葛亮就是我了)。
3. 競(jìng)爭(zhēng)角度
假設(shè)Google的產(chǎn)品出來了——面對(duì)勢(shì)如烈火的微軟,面對(duì)產(chǎn)生動(dòng)搖的云客戶。他發(fā)布基本對(duì)標(biāo)產(chǎn)品之外,在價(jià)格上會(huì)做什么設(shè)計(jì)呢?
假設(shè)3月16日百度出來了,再過一段時(shí)間阿里、字節(jié)、騰訊等有能力的都跟進(jìn)了,那么他們?cè)趦r(jià)格上會(huì)形成默契的卡特爾嗎?還是像當(dāng)初百團(tuán)大戰(zhàn)一樣,不得不陷入一場(chǎng)爭(zhēng)奪數(shù)據(jù)、客戶的囚徒困境?
好玩!刺激!曾經(jīng)的免費(fèi)打車、免費(fèi)吃飯、免費(fèi)騎單車似乎在向我招手了!
二、商業(yè)影響是什么
結(jié)論在前:有人狂喜有人沒那么喜,走一步看三步。
1. 獨(dú)立開發(fā)者狂喜
現(xiàn)在看似降價(jià)90%,但我更傾向這是一種商業(yè)行為促使的降價(jià),即把LLM的成本和創(chuàng)業(yè)公司的費(fèi)用成本拉到一條線(38000字/元)。
說白了這技術(shù)還是那么貴,只是我揮淚大甩賣,大公司和創(chuàng)業(yè)公司站一起奔跑。
Twitter一條令我印象深刻的評(píng)論是:“這下子我可以做那些掛廣告盈利的項(xiàng)目了”。
2. 創(chuàng)業(yè)公司不一定喜
因?yàn)橐郧耙材苓@么低成本的,只是你不知道。
0.02美元的價(jià)格是最貴的Davinci模型(GPT3.5),而Curie模型比他弱一些也更便宜一些,價(jià)格是0.002美元——就是ChatGPT現(xiàn)在的價(jià)格。
所以很多以前用GPT-3的創(chuàng)業(yè)公司,他根本就是基于Curie,或Curie微調(diào)后的模型在跑的業(yè)務(wù)。這次降價(jià)對(duì)他們更多是效果提升而非成本下降。
而且!暫時(shí)我在官網(wǎng)上沒看到ChatGPT支持微調(diào)的說明(我沒找到),如果真的是這樣,一些創(chuàng)業(yè)公司應(yīng)該正在難受——我是擁抱新模型呢?還是用現(xiàn)在這個(gè)微調(diào)過的舊模型將就一下?相信他們應(yīng)該都在加班測(cè)試了。
3. 小模型公司風(fēng)中飄揚(yáng)
之前我認(rèn)為L(zhǎng)LM模型存在一些弊端,會(huì)提供給小模型公司一定的生存空間,具體包括:實(shí)時(shí)性(車載/直播等)、私有化(金融)、成本敏感(客服)、答案精確(金融)、道德控制(心理)等要求的場(chǎng)景還是會(huì)使用小模型。
實(shí)時(shí)性,有點(diǎn)崩,最新的ChatGPT接口,有人測(cè)試后發(fā)現(xiàn),響應(yīng)速度是之前的4倍(不嚴(yán)謹(jǐn),未多方求證)。
成本敏感,暫時(shí)堅(jiān)挺。對(duì)于客服來說,哪怕是目前的價(jià)格下降90%,仍然是扛不動(dòng)的的價(jià)位——客服本來就是成本中心,多花任何一分錢都是困難的。不過一旦客服做upsell追加銷售額場(chǎng)景跑通,成本可能就不是問題了。
私有化,OpenAI暴露出了私有化計(jì)劃,一定程度上,這也不再是小模型公司獨(dú)有的優(yōu)勢(shì)了。
只剩下答案精確、道德控制這兩個(gè)LLM模型天生的缺陷死死撐住。
我比較擔(dān)心在這樣狂暴的技術(shù)演進(jìn)中,小模型公司如何面對(duì)日新月異的LLM模型能力升級(jí)(我朋友圈一位朋友說,舊模型剛跑通接上,就落伍了……),如何面對(duì)大廠們卷起來的價(jià)格戰(zhàn)?
跟還是不跟?怎么跟?這將是纏繞在小模型公司身上陰魂不散的魔咒。
4. 為什么走一步看三步
第一個(gè)原因前面提過,這個(gè)成本還會(huì)進(jìn)一步下降——有一些業(yè)務(wù)你現(xiàn)在跑不通,或許等兩個(gè)月模式就能跑通了。
那么——你要提前下場(chǎng)嗎?還是等成本到尾再下場(chǎng)?一個(gè)典型的例子是AI繪畫領(lǐng)域,企業(yè)是在成本高昂時(shí)入場(chǎng)的,靠勉強(qiáng)盈虧平衡活下來,并收獲成本暴降后的紅利——順便還幸運(yùn)地等來了ControlNet的二次升級(jí),獲得了更大的商業(yè)空間。
第二個(gè)原因則與OpenAI的另一項(xiàng)猜測(cè)有關(guān),有爆料稱OpenAI在預(yù)備開放支持32,000 token長(zhǎng)度的模型——而上下文長(zhǎng)度目前在最新的ChatGPT上是4096 token。更長(zhǎng)的上下文可能使一些原本做不了的場(chǎng)景(例如長(zhǎng)文本寫作)成為可能。
總之走一步,看三步,可能今天你覺得不行的場(chǎng)景,明天凌晨大洋彼岸一則公告就行了,時(shí)刻保持更新,時(shí)刻提前預(yù)判。
如果你想看全面的所有方向的解析,請(qǐng)看我的分析庫,因?yàn)槊總€(gè)方向我都要結(jié)合技術(shù)、商業(yè)做詳細(xì)分析,寫在文章里是徹頭徹尾的災(zāi)難:重磅分享:40+ChatGPT商業(yè)項(xiàng)目庫開源分享(持續(xù)增加)
三、語言模型與現(xiàn)存端口的結(jié)合
這種結(jié)合依賴于多模態(tài)+Toolformer,詳情關(guān)注我上篇文章怎么風(fēng)平浪靜的?多模態(tài)+Toolformer,這波還不原地起飛?
我曾經(jīng)認(rèn)為語言模型會(huì)成為新時(shí)代的虛擬終端,即你無論要做什么、要用什么,你都是首先經(jīng)過他——因?yàn)樗糜昧?!你就像吩咐你的秘書去幫你做事情一樣?/p>
但是我發(fā)現(xiàn)我錯(cuò)了,人類終究是實(shí)體,要與虛擬終端交互離不開實(shí)體終端,什么是實(shí)體終端?手機(jī)、電腦、音箱、VR、手表等。
微軟發(fā)布多模態(tài)這篇論文可能不是沒有原因的,自從BING上的嘗試后,他現(xiàn)在一路脫韁野馬一般沖向?yàn)g覽器和Windows。
你想象一個(gè)場(chǎng)景→ 你用著電腦,帶著耳機(jī)聽歌,在閱讀一篇商業(yè)報(bào)道。你對(duì)報(bào)道中提到的向量化數(shù)據(jù)庫這個(gè)陌生的單詞產(chǎn)生了疑問,你選中單詞,向耳機(jī)語音提問,這是什么?LLM在瀏覽器的側(cè)邊欄為你列舉了詳細(xì)說明?!@時(shí)你想找一下現(xiàn)在向量數(shù)據(jù)庫這個(gè)方向有多少從業(yè)者、市場(chǎng)空間怎么樣,但是你這篇文章剛讀到10%,你想繼續(xù)讀下去不想被打亂思緒?!谑悄闱昧讼露鷻C(jī),對(duì)耳機(jī)里L(fēng)LM說“幫我列一下向量數(shù)據(jù)庫的玩家是哪些,搜集一下相關(guān)的市場(chǎng)分析報(bào)告并總結(jié)好,下載到本地?!薄?dāng)你閱讀到30%的時(shí)候,耳機(jī)叮咚一聲響,相關(guān)的分析和報(bào)告都下載好了,只等你閱讀完畢后前往桌面的文件夾“向量數(shù)據(jù)庫分析”中查看。
那么在未來,手機(jī)、電腦(其實(shí)就是Mac體系,window已經(jīng)在搞了)、音箱、VR等多端聯(lián)合起來會(huì)發(fā)生什么呢?哪個(gè)端口敢于拒絕擁抱全新的人機(jī)交互范式呢?而這場(chǎng)擁抱又會(huì)催生出哪些復(fù)合應(yīng)用呢?
我覺得在未來,互聯(lián)網(wǎng)陣營(yíng)會(huì)圍繞脫穎而出的LLM廠商進(jìn)行重新站隊(duì)重組——例如,假設(shè)蘋果自己做不出來,你說他是擁抱微軟還是擁抱Google呢?
新時(shí)代就要來了,不要只看到AIGC內(nèi)容生成,也請(qǐng)看看這場(chǎng)顛覆式的交互革命吧!
本文由@馬丁的面包屑 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來自 Unsplash,基于 CC0 協(xié)議
該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)。
老哥666