為何這些大公司都偏愛A/B測試法?
Elliot Shmukler曾分別在LinkedIn、eBay、Wealthfront和Instacart擔(dān)任過產(chǎn)品負(fù)責(zé)人,他在這些公司一直都在極力倡導(dǎo)和推行A/B測試法,不僅將A/B測試法作為產(chǎn)品開發(fā)的方式,同時(shí)將它作為一種有效的產(chǎn)品團(tuán)隊(duì)管理工具。他在本文中分享了自己為何將A/B測試法作為產(chǎn)品開發(fā)和團(tuán)隊(duì)管理工具,同時(shí)列出了使用A/B測試法的益處和挑戰(zhàn),并分享了如何在公司里運(yùn)用和快速推廣A/B測試法。不管你是公司的產(chǎn)品負(fù)責(zé)人還是用戶增長負(fù)責(zé)人,相信你都能從這篇文章里受益良多。
Elliot Shmukler目前是日用雜貨當(dāng)日送達(dá)服務(wù)公司Instacart的產(chǎn)品副總裁,他之前還曾擔(dān)任過理財(cái)公司W(wǎng)earlthfront和職場社交平臺(tái)LinkedIn的產(chǎn)品負(fù)責(zé)人。在他截至目前的職業(yè)生涯中,他一直都在極力推行和倡導(dǎo)A/B測試法。他不僅將A/B測試法不僅作為產(chǎn)品開發(fā)的工具,同時(shí)還作為一種有效的團(tuán)隊(duì)管理工具。
在eBay工作的時(shí)候,Shmukler第一個(gè)嘗試通過使用A/B測試法來改善eBay的搜索體驗(yàn),同時(shí)還幫助eBay推出了eBay Express這款產(chǎn)品,這應(yīng)該是eBay當(dāng)時(shí)在產(chǎn)品方面做過的最大膽的嘗試。在LinkedIn的時(shí)候,他領(lǐng)導(dǎo)的15人的產(chǎn)品團(tuán)隊(duì)負(fù)責(zé)LinkedIn網(wǎng)站將近一半的網(wǎng)站流量。在擔(dān)任Wealthfront產(chǎn)品副總裁期間,Shmukler不僅帶領(lǐng)團(tuán)隊(duì)將公司管理的客戶理財(cái)資產(chǎn)規(guī)模從1.5億美元增至超過30億美元,同時(shí)還帶領(lǐng)團(tuán)隊(duì)推出了Direct Indexing、單股多元化服務(wù)(Single-Stock Diversification Service)和公司的第一款移動(dòng)App。在Shmukler的整個(gè)職業(yè)生涯中,他已經(jīng)熟練掌握了如何讓A/B測試在產(chǎn)品開發(fā)和團(tuán)隊(duì)管理中發(fā)揮最大效用。
近日,Shmukler接受了First Round Review的專訪,他在專訪中解釋了自己為何將A/B測試法作為自己的管理框架,并用自己的實(shí)際案例說明為何A/B測試法不僅能加速?zèng)Q策,同時(shí)還能更好地賦予團(tuán)隊(duì)成員做決策的能力。他列出了將A/B測試法作為管理框架的益處和所面臨的挑戰(zhàn),同時(shí)分享了如何在公司里運(yùn)用和快速推廣A/B測試法。
一、兩種完全不同類型的決策
在任何一種管理框架里,其核心目的都是為了做出更好的決策。Amazon的CEO Jeff Bezos在給股東的年度公開信中曾表示有兩種決策類型:不可逆型決策和可變型決策。Bezos分別對這兩種決策類型進(jìn)行了描述:
(1)不可逆型決策
有些決策的影響非常重大,而且這些決策是不可逆的或接近不可逆的,這種決策類似單向通道,做出決策后便再也無法更改。所以你必須非常有條理地、謹(jǐn)慎地并在充分協(xié)商地基礎(chǔ)上做出這類決策。一旦做出了決策,如果發(fā)現(xiàn)結(jié)果并不是你想要的,你也無法回去重新決策了。
(2)可變型決策
大部分決策都是可變型和可逆型決策,這類決策類似雙向通道。做出這類決策后,如果你發(fā)現(xiàn)結(jié)果并不是最理想的,你可以重新打開決策之門,返回去重新決策??勺冃蜎Q策可以而且應(yīng)該由那些具備很好判斷力的個(gè)人或小組去快速做出。
在公司發(fā)展的過程中,有一種傾向是廣泛地將“不可逆型決策”的流程應(yīng)用到每一項(xiàng)選擇中。在Bezos看來,這么做會(huì)導(dǎo)致決策的緩慢和一味的規(guī)避風(fēng)險(xiǎn),從而會(huì)妨礙測試和減弱創(chuàng)新。相反,如果公司盲目地對“可變型決策”不加選擇和思考地運(yùn)用、而忽視“不可逆型決策”的話,Bezos認(rèn)為大部分公司在發(fā)展壯大之前都將消亡。
Shmukler相信,通用的A/B測試法是讓公司使用“可變型決策”方法做大部分決策的理想方法。在傳統(tǒng)意義上,要想使用A/B測試法,至少需要兩個(gè)產(chǎn)品版本:A版本是原始版本,B版本是你認(rèn)為可能比A版本更好的版本。這時(shí),將A/B測試應(yīng)用到“可變型決策”中時(shí),如果通過A/B測試發(fā)現(xiàn)A版本要比B版本好,這時(shí)僅需簡單地關(guān)閉B版本、再回到A版本即可。A/B測試法甚至還能幫你認(rèn)識(shí)到什么時(shí)候需要應(yīng)用“不可逆型決策”流程,
根據(jù)掌舵Amazon的親身經(jīng)驗(yàn),Bezos提醒大家千萬不要陷入“萬能型”決策方法中,即將一種決策方法應(yīng)用到所有的決策中。Shmukler在早期創(chuàng)業(yè)公司中也看到過類似的陷阱,在產(chǎn)品管理中尤其如此?!爱a(chǎn)品經(jīng)理是他/她所主導(dǎo)的產(chǎn)品的CEO”是一句在業(yè)界非常有名的話,這句話在涉及到?jīng)Q策的時(shí)候是有它的道理的。產(chǎn)品經(jīng)理通常會(huì)自然而然地將自己管理風(fēng)格帶到自己的決策方式中。
二、將A/B測試法作為管理框架的真實(shí)案例
Shmukler在自己職業(yè)生涯的早期曾聯(lián)合創(chuàng)辦過Sombasa Media,他后來將這家公司賣給了About.com。他在這段創(chuàng)業(yè)經(jīng)歷中第一次意識(shí)到了兩種完全不同的產(chǎn)品管理決策風(fēng)格的產(chǎn)品經(jīng)理:遠(yuǎn)見直覺型產(chǎn)品經(jīng)理和數(shù)據(jù)驅(qū)動(dòng)型產(chǎn)品經(jīng)理。遠(yuǎn)見直覺型產(chǎn)品經(jīng)理對未來有自己的預(yù)測,通常會(huì)根據(jù)自己的直覺進(jìn)行決策。數(shù)據(jù)驅(qū)動(dòng)型產(chǎn)品經(jīng)理則主要根據(jù)測試和分析進(jìn)行決策。有效的決策框架有很多,但我希望使用一種既有助于做出最佳的產(chǎn)品決策、同時(shí)也能鼓勵(lì)團(tuán)隊(duì)內(nèi)部不同產(chǎn)品經(jīng)理的不同思維方式的決策框架。
對于遠(yuǎn)見直覺型產(chǎn)品經(jīng)理而言,當(dāng)直覺告訴他們需要開發(fā)某個(gè)功能或產(chǎn)品的時(shí)候,他們就會(huì)有強(qiáng)大的驅(qū)動(dòng)力將這項(xiàng)功能或產(chǎn)品開發(fā)出來并帶給所有用戶,Shmukler自己也承認(rèn),正是基于這個(gè)原因,他認(rèn)識(shí)的很多遠(yuǎn)見直覺型的產(chǎn)品經(jīng)理后來都成了公司創(chuàng)始人或CEO。相比較而言,數(shù)據(jù)驅(qū)動(dòng)型產(chǎn)品經(jīng)理一般都會(huì)系統(tǒng)地不斷完善自己的見解和洞察力,而不會(huì)根據(jù)自己的直覺任性決策。數(shù)據(jù)驅(qū)動(dòng)型產(chǎn)品經(jīng)理往往通過觀察和搜集新數(shù)據(jù)來支撐自己的立場和觀點(diǎn),隨著獲得的數(shù)據(jù)越來越多,他們會(huì)不斷完善自己的見解。
因?yàn)檫@兩類產(chǎn)品經(jīng)理的思維和做事的風(fēng)格完全不同,作為團(tuán)隊(duì)領(lǐng)導(dǎo),要想讓持這兩種完成不同產(chǎn)品管理方法的產(chǎn)品經(jīng)理達(dá)成一致是非常困難的。如果你是公司的產(chǎn)品負(fù)責(zé)人的話,你肯定對下面這樣的對話場景非常熟悉:
遠(yuǎn)見直覺型產(chǎn)品經(jīng)理:“我們需要做X”。
數(shù)據(jù)驅(qū)動(dòng)型產(chǎn)品經(jīng)理回應(yīng)說:“不,X是錯(cuò)誤的,它是行不通的。我們需要做的是Y”。
Shmukler在自己管理的產(chǎn)品團(tuán)隊(duì)里幾乎每天都會(huì)遇到上面這樣的場景。這簡直讓人筋疲力盡的,你很難在看起來不偏向某一方意見的情況下解決這個(gè)問題。面對這個(gè)問題,Shmukler并沒有選擇自己做裁判并在雙方的不同見解里選中一方的觀點(diǎn)去執(zhí)行,而是對這兩種觀點(diǎn)都進(jìn)行測試,最后讓數(shù)據(jù)成為裁判。咋一看,這個(gè)方法似乎偏向數(shù)據(jù)驅(qū)動(dòng)型產(chǎn)品經(jīng)理,但它卻能讓雙方的產(chǎn)品經(jīng)理都去切實(shí)推進(jìn)自己的想法,同時(shí)不會(huì)讓他們感覺決策是專門針對自己的。
為了說明這種方法的有效性,下面是Shmukler 將A/B測試法運(yùn)用到產(chǎn)品開發(fā)和團(tuán)隊(duì)管理中的真實(shí)案例。團(tuán)隊(duì)里幾個(gè)遠(yuǎn)見直覺型的產(chǎn)品經(jīng)理想要調(diào)整公司的對外宣傳語言,尤其是官網(wǎng)主頁的介紹語言。對于這個(gè)提議,團(tuán)隊(duì)里數(shù)據(jù)驅(qū)動(dòng)型的產(chǎn)品經(jīng)理表示他們之前曾做過這方面的測試,而測試結(jié)果顯示對注冊沒什么影響。
為了解決這種意見相左的問題,必須要有人出面決定是否要部署時(shí)間和人力資源進(jìn)行這方面的測試。這時(shí),不管你的決策是什么,都會(huì)有人認(rèn)為你做了一個(gè)糟糕的決策,遠(yuǎn)見直覺型產(chǎn)品經(jīng)理會(huì)說你做決策時(shí)過于依賴數(shù)據(jù),而不基于公司宏大的目標(biāo)進(jìn)行決策。數(shù)據(jù)驅(qū)動(dòng)型產(chǎn)品經(jīng)理會(huì)說在這方面花時(shí)間和資源是一種浪費(fèi)。這時(shí),A/B測試法就能很好地解決這個(gè)問題,因?yàn)槭褂肁/B測試后你就不用再去做這種兩難的決策了。因?yàn)樵贏/B測試的管理框架下能讓大家形成一個(gè)共識(shí):即一個(gè)值得信賴的團(tuán)隊(duì)的任何想法都能夠得到測試,測試結(jié)果決定是否要繼續(xù)踐行這個(gè)想法。
每當(dāng)面對這種情形,Shmukler都會(huì)讓所有團(tuán)隊(duì)成員一起協(xié)作對他們的想法進(jìn)行測試并獲得測試結(jié)果。遠(yuǎn)見直覺型產(chǎn)品經(jīng)理會(huì)負(fù)責(zé)撰寫新的官網(wǎng)主頁內(nèi)容,數(shù)據(jù)驅(qū)動(dòng)型產(chǎn)品經(jīng)理則負(fù)責(zé)構(gòu)建測試流程。整個(gè)測試只需1-2天就能完成,然后花一個(gè)月時(shí)間去搜集數(shù)據(jù)。所有測試結(jié)果都會(huì)在數(shù)據(jù)白板上向公司里的所有人公布。這樣一來,爭執(zhí)雙方就都滿意了:數(shù)據(jù)驅(qū)動(dòng)型產(chǎn)品經(jīng)理能夠根據(jù)測試數(shù)據(jù)進(jìn)行決策,遠(yuǎn)見直覺型產(chǎn)品經(jīng)理能夠?qū)⒆约旱南敕ǜ吨T實(shí)施。在這個(gè)案例中,最后的測試結(jié)果表明官網(wǎng)主頁內(nèi)容對用戶注冊并沒有很大的影響。不過這對那些主張更改官網(wǎng)主頁內(nèi)容的遠(yuǎn)見直覺型產(chǎn)品經(jīng)理也無所謂,因?yàn)橹罍y試結(jié)果后,他們就不會(huì)再死死抓住這個(gè)想法不放了,從而將精力投入到新的想法里。
A/B測試法還能夠讓Shmukler同時(shí)對多個(gè)產(chǎn)品想法說Yes,唯一的限制在于所有這些想法都需要被測試。這時(shí)“可變型決策”流程就能派上用場了,這能夠避免團(tuán)隊(duì)陷入毫無必要的“不可逆型決策”的困境和陷阱里。更為重要的是,這種方法能夠很好地鼓勵(lì)和團(tuán)結(jié)團(tuán)隊(duì)中持不同想法的產(chǎn)品經(jīng)理,因?yàn)槊恳粋€(gè)人都有機(jī)會(huì)對自己的想法進(jìn)行測試。
不管最后哪一方想法勝出,都不會(huì)造成產(chǎn)品經(jīng)理團(tuán)隊(duì)成員之間關(guān)系的緊張,因?yàn)闇y試結(jié)果來自權(quán)威的測試,而不是來自某一個(gè)權(quán)威的個(gè)人。其中的關(guān)鍵在于要快速測試,同時(shí)確保整個(gè)測試流程和結(jié)果的透明。下面就分別系統(tǒng)地總結(jié)一下A/B測試法的益處和所面臨的挑戰(zhàn)。
益處
(1)充分的自主權(quán)
采用A/B測試法,我發(fā)現(xiàn)非常有價(jià)值的一點(diǎn)在于,團(tuán)隊(duì)里的每個(gè)人,不管他是什么頭銜和職位,基本都可以將自己的想法變成現(xiàn)實(shí)。作為團(tuán)隊(duì)管理者,我扮演的角色更像是一個(gè)仲裁者,而非獨(dú)裁者。我只在完善有關(guān)未來的設(shè)想的時(shí)候才會(huì)插手。
(2)更低的風(fēng)險(xiǎn)
一旦公司里有用于快速測試的工具,那么測試成本就會(huì)低很多,而測試這個(gè)行為本身也將降低總體成本。通過測試,我們能更快地知道一個(gè)想法是否是糟糕的或是有潛在危害的,這樣我們就不會(huì)繼續(xù)推進(jìn)這個(gè)想法。如果經(jīng)過測試證明一個(gè)想法是好想法,那么我們便可以毫無顧忌地大膽推進(jìn)這個(gè)想法,并最大程度從中受益。
(3)提高員工參與度和敬業(yè)度
這種方法能夠提高團(tuán)隊(duì)產(chǎn)品經(jīng)理的幸福度,因?yàn)樗麄冎涝谶@樣的團(tuán)隊(duì)里,他們可以將自己的想法快速變成現(xiàn)實(shí),并證明自己的想法是有用的。很多團(tuán)隊(duì)成員都曾告訴我,他們在這個(gè)團(tuán)隊(duì)里能夠更快地學(xué)習(xí)和成長,因?yàn)樗麄兛梢钥焖贉y試自己的想法并從測試結(jié)果中學(xué)習(xí)。
(4)不會(huì)改變大家原有的做事風(fēng)格
A/B測試法這套產(chǎn)品開發(fā)和管理框架不僅能夠讓數(shù)據(jù)驅(qū)動(dòng)型產(chǎn)品經(jīng)理更加理性地評估自己的想法,也能夠讓遠(yuǎn)見直覺型產(chǎn)品經(jīng)理更快地打磨自己的直覺,因?yàn)橥ㄟ^測試他們可以更快地“體驗(yàn)”自己的直覺想法是否正確。這種方法不會(huì)改變大家原有的做事風(fēng)格。
挑戰(zhàn)
(1)用戶樣本規(guī)模
一開始的時(shí)候,創(chuàng)業(yè)公司通常需要按照遠(yuǎn)見型模式去運(yùn)營。要想讓讓A/B測試系統(tǒng)有效運(yùn)轉(zhuǎn),你首先需要有一定的用戶基礎(chǔ)。如果你想圍繞用戶在使用產(chǎn)品中的某一具體行為進(jìn)行測試,如注冊、點(diǎn)擊或分享的行為,你一周至少需要有數(shù)百位用戶有過這個(gè)操作行為才能測試。理想情況下,為了更快獲得測試結(jié)果,你往往需要在數(shù)千用戶中進(jìn)行測試,而且同時(shí)進(jìn)行多項(xiàng)測試。當(dāng)然,那些可以在數(shù)百萬用戶里進(jìn)行測試的公司在A/B測試時(shí)有更大的優(yōu)勢。
(2)公司遺留下來的傳統(tǒng)決策方法
我之前工作過的一家公司根本就不知道A/B測試法,更談不上使用這種方法了。相反,他們要求每一個(gè)人對所提出的每個(gè)想法可能會(huì)造成的結(jié)果寫一份詳細(xì)的財(cái)務(wù)和影響分析報(bào)告。在我看來,這是扼殺團(tuán)隊(duì)成員想法的罪魁禍?zhǔn)?。但現(xiàn)在很多公司依然在采用這種方法。
(3)注重指標(biāo)文化,而非測試文化
我之前工作過的一家公司,它非常擅長每天監(jiān)控自己的商業(yè)指標(biāo),但不做任何的A/B測試或其它小的測試。公司非??粗啬切└呒壷笜?biāo),然而一旦出現(xiàn)問題,它無法很快確定問題到底出在了什么地方。記得有一次,公司同時(shí)發(fā)布了7項(xiàng)新功能,所有這些功能都沒有經(jīng)過A/B測試,后來出現(xiàn)了一個(gè)大問題。為了重新對這些功能進(jìn)行A/B測試并從中找到問題的根源,這使得團(tuán)隊(duì)不得不撤回大部分新功能。
三、如何運(yùn)用和大規(guī)模推廣A/B測試法?
針對將A/B測試法作為產(chǎn)品開發(fā)和管理工具這件事,Shmukler在過去多年里聽到很多質(zhì)疑的聲音。在發(fā)展比較成熟的大公司里,人們早已形成了自己獨(dú)特的做事風(fēng)格,你很難僅僅靠A/B測試?yán)碚撋峡赡軙?huì)帶來價(jià)值說服他們轉(zhuǎn)變做事風(fēng)格并接受A/B測試法。而對于創(chuàng)業(yè)公司而言,他們往往會(huì)以耗不起這個(gè)時(shí)間和成本為借口而拒絕A/B測試法。對于我自己而言,我之前曾加入一家創(chuàng)業(yè)公司,加入時(shí)公司只有20名員工,后來我使用這個(gè)方法讓公司規(guī)模發(fā)展至100多人。
Shmukler同時(shí)有過大公司和創(chuàng)業(yè)公司的工作經(jīng)歷,他發(fā)現(xiàn),不管公司規(guī)模如何,這套測試框架一點(diǎn)都不會(huì)耗費(fèi)你的時(shí)間和成本,因此可以幫你非常順暢地開展測試工作。他是如何做到的呢?
(1)在輕量級A/B測試工具上進(jìn)行投入
根據(jù)Shmukler的經(jīng)驗(yàn),只需要幾個(gè)工程師就能開發(fā)一個(gè)初始工具和數(shù)據(jù)儀表盤來運(yùn)行、監(jiān)控和評估A/B測試。大部分沒有做過這個(gè)工作的人會(huì)誤認(rèn)為這個(gè)工作所要耗費(fèi)的資源是他們無法承受的。其實(shí)只需不到一個(gè)月的工作,創(chuàng)業(yè)公司就能讓A/B測試自動(dòng)化運(yùn)行。產(chǎn)品經(jīng)理在不需要做什么工作的情況下就能快速獲得測試結(jié)果。
如果你沒有足夠多的工程師人力資源去自己開發(fā)A/B測試工具,也沒有關(guān)系,因?yàn)楝F(xiàn)在市場上已經(jīng)有很多可以直接拿來用的測試工具,例如Optimizely。如果你使用Optimizely這款工具的話,你甚至不需要寫任何代碼就能進(jìn)行A/B測試,所有工作都由Optimizely幫你完成,包括測試、搜集數(shù)據(jù)和評估數(shù)據(jù)等。因此,如果你選擇使用一款外部的A/B測試工具的話,你基本上不需要做額外的工作。不過有些這類工具需要付費(fèi)才能使用,不過一般基礎(chǔ)功能免費(fèi),增值功能付費(fèi)。即使需要付費(fèi),這也是非常劃算的一筆投資,因?yàn)檫@樣的工具有助于你做出更好的產(chǎn)品決策,同時(shí)還能增強(qiáng)團(tuán)隊(duì)凝聚力。
(2)降低測試的決策障礙
要想讓A/B測試成為公司內(nèi)的通用做法,就要做到通過一個(gè)簡單的決定就能順利推動(dòng)測試的進(jìn)行,盡可能降低測試的決策障礙。在確定做一項(xiàng)測試后,整個(gè)A/B測試系統(tǒng)便會(huì)自行運(yùn)行和評估。歸根到底,需要打造一個(gè)優(yōu)秀的A/B測試框架。對于工程師而言,需要一個(gè)讓運(yùn)行一項(xiàng)測試變得非常容易的框架,可能僅需幾行代碼就能做一項(xiàng)新的測試。對于團(tuán)隊(duì)里的其他人來說,則需要一個(gè)能夠自動(dòng)評估測試結(jié)果的內(nèi)部儀表盤。
Shmukler建議產(chǎn)品團(tuán)隊(duì)使用那種能夠自動(dòng)識(shí)別新測試項(xiàng)目的儀表盤。他分享了他自己之前曾開發(fā)過的這樣的儀表盤:“它能夠讓你針對一項(xiàng)測試選擇一個(gè)目標(biāo),基于你選擇的目標(biāo),儀表盤會(huì)自動(dòng)顯示那些你應(yīng)該跟蹤的測試指標(biāo)。然后它會(huì)即時(shí)讓評估數(shù)據(jù),并給出紅色、綠色信號(hào)告訴你是采用新測試項(xiàng)目還是維持原狀。如果還沒有搜集足夠多的數(shù)據(jù),儀表盤會(huì)提醒你需要繼續(xù)運(yùn)行這個(gè)測試。你需要的正是這種簡單和自動(dòng)化儀表盤。
(3)理清不同測試間的相互影響和作用
當(dāng)年在LinkedIn的時(shí)候,我們最后發(fā)現(xiàn)了不同測試間的相互作用。舉個(gè)例子,對注冊流程和個(gè)人資料頁面的測試可能會(huì)影響其它的測試結(jié)果,而且很難梳理清楚不同測試間的相互作用。這時(shí),可以使用統(tǒng)計(jì)方法去提醒儀表盤是否存在有問題的交叉影響,這時(shí)你可以在選擇關(guān)閉其中的一項(xiàng)測試后再評估剩下的測試結(jié)果。
如果你在測試之前就預(yù)測到可能會(huì)出現(xiàn)這樣的問題,為了避免不同測試間的相互影響,可以考慮使用不同的篩選標(biāo)準(zhǔn)將特定的用戶導(dǎo)入到特定的測試中去。在LinkedIn,Shmukler就和他的團(tuán)隊(duì)采用了非常嚴(yán)格的篩選標(biāo)準(zhǔn)來避免不同測試間的相互影響。“在為新測試項(xiàng)目選擇測試用戶的時(shí)候,我們會(huì)從那些沒有參與其它測試的用戶里選取,或是對用戶進(jìn)行分區(qū),確保一個(gè)區(qū)的用戶一次只參與一項(xiàng)測試。”
此外,在需要同時(shí)進(jìn)行多項(xiàng)測試時(shí),其中的復(fù)雜度也會(huì)大大提升,這就需要讓儀表盤變得更加容易去解讀。最好的儀表盤通常都是最簡單的,只顯示紅色或綠色這種簡單的指示信號(hào)。
(4)理解測試對整個(gè)產(chǎn)品或公司所產(chǎn)生的廣泛影響
當(dāng)A/B測試法發(fā)揮的作用越來越大的時(shí)候,不管是遠(yuǎn)見直覺型產(chǎn)品經(jīng)理還是數(shù)據(jù)驅(qū)動(dòng)型產(chǎn)品經(jīng)理都會(huì)越來越信任A/B測試。大部分A/B測試都能夠告訴你一項(xiàng)測試是好是壞。下一步工作就是開發(fā)一個(gè)能夠顯示一項(xiàng)測試對整個(gè)產(chǎn)品或公司的關(guān)鍵指標(biāo)造成的影響的儀表盤。例如,你可能通過優(yōu)化注冊流程的個(gè)步驟,并將那個(gè)步驟的操作完成率提高10%,但這并不意味著你的整體注冊量提高了10%。
因此你需要加強(qiáng)測試軟件的能力,讓它能夠解讀測試對整個(gè)產(chǎn)品或公司所產(chǎn)生的宏觀影響,這應(yīng)該作為每一個(gè)產(chǎn)品團(tuán)隊(duì)的A/B測試路線圖。此外,它還能幫你在選擇測試時(shí)將它可能對整個(gè)公司的影響都考慮進(jìn)來,從而更明智地選擇要測試的項(xiàng)目。一項(xiàng)測試是能將整個(gè)產(chǎn)品改善10%還是僅僅能將產(chǎn)品的某一個(gè)部分改善10%,了解這一點(diǎn)很重要。
結(jié)語
A/B測試不僅在完善產(chǎn)品開發(fā)中有重大價(jià)值,它還有助于打造一個(gè)更加卓越的產(chǎn)品團(tuán)隊(duì)。A/B測試法不僅能夠化解不同類型產(chǎn)品經(jīng)理之間的緊張關(guān)系,同時(shí)還能夠賦予團(tuán)隊(duì)成員更大的自主權(quán),讓他們保留自己原有的做事風(fēng)格,而且能夠提高他們參與度和幸福感。盡管A/B測試法也會(huì)面臨諸如測試樣本規(guī)模、傳統(tǒng)的決策方法和不注重測試文化等方面的挑戰(zhàn),不過在輕量級的A/B測試工具上進(jìn)行投入依然是你最好的選擇。隨著公司規(guī)模的擴(kuò)大和測試項(xiàng)目的增多,測試軟件也需要與時(shí)俱進(jìn),確保測試軟件和儀表盤的簡潔,這樣所有員工都能準(zhǔn)確了解測試進(jìn)程和結(jié)果。
A/B測試法不僅有助于更快地完善產(chǎn)品,它還有助于打造一個(gè)更加緊密團(tuán)結(jié)的團(tuán)隊(duì),要想走得快,就一個(gè)人走,要想走得遠(yuǎn),就結(jié)伴同行。將A/B測試法作為管理工具向公司里的兩種不同類型的產(chǎn)品經(jīng)理都傳遞了這樣一個(gè)明確信號(hào):明智的測試想法總能脫穎而出,不管這個(gè)想法是誰想出來的。
譯者:達(dá)達(dá)
來源:36氪
版權(quán):人人都是產(chǎn)品經(jīng)理遵循行業(yè)規(guī)范,任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來源,若標(biāo)注有誤,請聯(lián)系主編QQ:419297645
皮毛而已
我想知道A/B測試法如何操作,比方說文中的例子說要更換宣傳語,這個(gè)怎么用A/B測試