A/B 測(cè)試:以變應(yīng)變,給用戶(hù)更好的體驗(yàn)“寵愛(ài)”

0 評(píng)論 4312 瀏覽 14 收藏 11 分鐘

編輯導(dǎo)語(yǔ):數(shù)據(jù)分析是推動(dòng)決策的重要環(huán)節(jié)之一,而若想讓數(shù)據(jù)真正地產(chǎn)生價(jià)值,則可能需要基于一定的運(yùn)營(yíng)框架,形成業(yè)務(wù)價(jià)值輸出閉環(huán),進(jìn)而推動(dòng)后續(xù)優(yōu)化迭代,提升用戶(hù)的產(chǎn)品使用體驗(yàn)。本篇文章里,作者結(jié)合實(shí)際經(jīng)驗(yàn),基于企業(yè)運(yùn)營(yíng)框架SDAF做了一次A/B測(cè)試與用戶(hù)行為相結(jié)合的實(shí)踐梳理,不妨來(lái)看一下。

伴隨著企業(yè)數(shù)字化轉(zhuǎn)型進(jìn)程的加速及用戶(hù)行為分析理念的深入,各種各樣的數(shù)據(jù)分析模型,比如事件分析、漏斗分析、留存分析等,早已成為企業(yè)日常運(yùn)營(yíng)不可或缺的“小助手”。

作為大數(shù)據(jù)分析與營(yíng)銷(xiāo)科技服務(wù)提供商,在我們過(guò)去服務(wù)客戶(hù)的過(guò)程中,逐漸意識(shí)到,數(shù)據(jù)分析只是企業(yè)數(shù)字化轉(zhuǎn)型過(guò)程中的一環(huán),要想讓數(shù)據(jù)真正對(duì)企業(yè)產(chǎn)生價(jià)值,應(yīng)該將基于數(shù)據(jù)流的決策、行動(dòng)與反饋統(tǒng)統(tǒng)加入進(jìn)來(lái),也就是基于數(shù)據(jù)流的企業(yè)運(yùn)營(yíng)框架 SDAF,即 Sense(感知)、Decision(決策)、Action(行動(dòng))、Feedback(反饋),形成一個(gè)完整的業(yè)務(wù)價(jià)值產(chǎn)出閉環(huán)。

當(dāng)我們進(jìn)一步思考,為什么 SDAF 是個(gè)環(huán),而且是多個(gè)持續(xù)不斷的環(huán)呢?

這時(shí)候我們會(huì)發(fā)現(xiàn),這是因?yàn)槠毡榇嬖趦蓚€(gè)痛點(diǎn):一是目標(biāo)不精確,可能會(huì)導(dǎo)致行動(dòng)失準(zhǔn)、產(chǎn)出失效;二是手段不精確,可能會(huì)導(dǎo)致最終產(chǎn)出小于投入。這不僅是因?yàn)槲覀冏陨淼恼J(rèn)知有限,用戶(hù)本身也十分“善變”。

也正是因此,我們希望將 A/B 測(cè)試與用戶(hù)行為分析結(jié)合,帶來(lái)應(yīng)對(duì)用戶(hù)變化的解決方案,最大化提升價(jià)值產(chǎn)出與效率,持續(xù)優(yōu)化、持續(xù)迭代,給用戶(hù)帶來(lái)更好的體驗(yàn)“寵愛(ài)”。

那么,我們?nèi)绾螒?yīng)用行為分析和 A/B 測(cè)試,達(dá)到良好融合、最大化提升價(jià)值產(chǎn)出的效率呢?用通俗的話語(yǔ)進(jìn)行描述,那就是:“像投資人一樣找杠桿,像科學(xué)家一樣做試驗(yàn)。”而要找到杠桿,首先得理解我們的目標(biāo)是什么。如果從用戶(hù)行為的角度來(lái)描述目標(biāo),可以分為一次性行為和周期性行為。

一次性行為:我們希望用戶(hù)盡可能發(fā)生單個(gè)目標(biāo)行為,且這類(lèi)行為通常非常關(guān)鍵,可以為后續(xù)的產(chǎn)品使用打下堅(jiān)實(shí)基礎(chǔ),常見(jiàn)如用戶(hù)注冊(cè)、首單支付、實(shí)名認(rèn)證等等。這類(lèi)行為對(duì)應(yīng)著我們的業(yè)務(wù)目標(biāo)是“轉(zhuǎn)化”,即讓更多用戶(hù)沿著正確路徑達(dá)成目標(biāo)事件。

周期性行為:我們希望用戶(hù)盡可能多次發(fā)生某個(gè)行為,或者發(fā)生的程度更深,通常是體現(xiàn)產(chǎn)品核心價(jià)值的行為,常見(jiàn)如支付訂單、瀏覽內(nèi)容等等。這類(lèi)問(wèn)題通常對(duì)應(yīng)的業(yè)務(wù)目標(biāo)是“參與度”或“留存”,即讓用戶(hù)更多更深入地做某件事情。

接下來(lái)我們將基于 SDAF 閉環(huán)運(yùn)營(yíng)框架,詳細(xì)為大家介紹 A/B 測(cè)試與用戶(hù)行為相結(jié)合的應(yīng)用實(shí)踐。

一、Sense:使用行為分析模型,感知用戶(hù)行為

對(duì)于用戶(hù)的一次性行為,我們的業(yè)務(wù)目標(biāo)是讓更多的用戶(hù)沿著正確的路徑做某個(gè)事情。可以通過(guò)以下模型進(jìn)行觀測(cè):

  • 漏斗分析:嚴(yán)格規(guī)定的路徑上,用戶(hù)流失情況如何?
  • 路徑分析:用戶(hù)群體的實(shí)際行為路徑如何分流?
  • 行為序列:用戶(hù)個(gè)體的實(shí)際行為路徑如何跳轉(zhuǎn)?

對(duì)于周期性的行為,我們的業(yè)務(wù)目標(biāo)是讓用戶(hù)更多更持久地做某件事,并形成習(xí)慣??梢酝ㄟ^(guò)以下模型進(jìn)行觀測(cè):

  • 留存分析:用戶(hù)行為的發(fā)生在時(shí)間上的持續(xù)性如何?
  • 分布分析:用戶(hù)行為的發(fā)生頻次(強(qiáng)度)如何?

二、Decision:基于觀測(cè)數(shù)據(jù),正確使用數(shù)據(jù)做決策

只有數(shù)據(jù)是很難產(chǎn)生價(jià)值的,所以完成了 Sense 之后,需要做進(jìn)一步的解讀與決策。我將數(shù)據(jù)應(yīng)用總結(jié)為以下三點(diǎn):

  1. 有限還原場(chǎng)景。從抽象過(guò)的、框架化的角度還原用戶(hù)的整個(gè)決策過(guò)程,比如通過(guò)漏斗分析、用戶(hù)路徑分析,就可以描繪用戶(hù)的整體行為情況。
  2. 做為診斷依據(jù)。感知用戶(hù)行為,通過(guò)時(shí)間或分類(lèi)維度的橫向豎向比較,可以大致確定是否存在問(wèn)題。
  3. 進(jìn)行杠桿排序。知曉當(dāng)前哪個(gè)比較重要,哪個(gè)暫時(shí)不那么重要,雖然問(wèn)題可能很多,但事兒還得一件一件干。

除此之外,比數(shù)據(jù)應(yīng)用重要的事情是知道事情怎么做?要描述好這個(gè)事情,我通常會(huì)列出兩張表。

第一張表叫做:為什么?如果我們對(duì)于要解決的問(wèn)題有更準(zhǔn)確的認(rèn)識(shí),解決起來(lái)的效果當(dāng)然是較好的,因此可以從動(dòng)力、阻力、時(shí)機(jī)等角度羅列可能的原因,并做一些主觀上的排序。

第二張表叫做:怎么辦?針對(duì)于這些具體原因,我們可以列出可能的方案或者方案的方向。最終使用 ICE 模型(Impact 影響范圍、Confidence 自信程度、Ease 實(shí)現(xiàn)難易)進(jìn)行主觀排序,確定最近的一段時(shí)間,我們要做的試驗(yàn)是什么。

比如針對(duì)電商場(chǎng)景,我們可以梳理出電商的核心路徑,并找到核心路徑上的薄弱環(huán)節(jié),或者杠桿指標(biāo),并進(jìn)一步定位我們的關(guān)注點(diǎn)。

當(dāng)定位到某個(gè)問(wèn)題頁(yè)面或者模塊之后,我們會(huì)進(jìn)一步列出為什么和怎么辦。比如我們?cè)跀?shù)據(jù)分析中診斷出某電商的輪播圖模塊存在轉(zhuǎn)化問(wèn)題,該模塊靠后的幾張廣告的滲透率急劇下降,且經(jīng)評(píng)估我們認(rèn)為該模塊的重要度比較高,我們就可以進(jìn)一步針對(duì)其列出以下列表:

三、Action:基于業(yè)務(wù)決策,實(shí)施 A/B 測(cè)試

當(dāng)我們已經(jīng)有了比較具體的試驗(yàn)方向,就可以進(jìn)一步設(shè)計(jì)試驗(yàn)本身的細(xì)節(jié),去羅列出試驗(yàn)實(shí)施的幾個(gè)要素:

  • 試驗(yàn)的假設(shè):我們所認(rèn)為的目標(biāo)和手段之間的因果關(guān)系。(改動(dòng)什么會(huì)影響什么?原因是什么?)
  • 試驗(yàn)的變量:具體的改動(dòng)元素,通常是單一元素,方便歸因。
  • 試驗(yàn)的指標(biāo):評(píng)估試驗(yàn)成敗的指標(biāo)及其相關(guān)指標(biāo)。
  • 試驗(yàn)的受眾:具體實(shí)施試驗(yàn)的用戶(hù)對(duì)象。

四、Feedback:分析試驗(yàn)數(shù)據(jù),獲取反饋與認(rèn)知

“反饋”的字面含義,指的是我們從試驗(yàn)結(jié)果中獲得的直接結(jié)論,即各試驗(yàn)組是否有差異,哪組策略更好或是更壞。而“認(rèn)知”卻是更深一層的,即我們學(xué)到的、可以被沉淀的知識(shí)。

比如在我司客戶(hù)的某個(gè)電商場(chǎng)景中,對(duì)于奢侈品的圖片加上各種相關(guān)標(biāo)語(yǔ)的大圖版本,從數(shù)據(jù)上來(lái)看轉(zhuǎn)化率是更差的,這是“反饋”。而奢侈品類(lèi)產(chǎn)品的大圖中加上標(biāo)語(yǔ),對(duì)用戶(hù)來(lái)說(shuō)受到了注意力干擾,影響到體驗(yàn)產(chǎn)品的美感,這是“認(rèn)知”。

商品圖源于網(wǎng)絡(luò)

在統(tǒng)計(jì)學(xué)中講到,“即使數(shù)據(jù)上存在顯著差異,我們無(wú)論接不接受新的方案,都是有概率犯錯(cuò)誤的?!币簿褪钦f(shuō),反饋可能是錯(cuò)誤的。

更要命的是,即使我們得到的反饋是對(duì)的,也可能在認(rèn)知上犯錯(cuò)誤。比如我們錯(cuò)誤的認(rèn)為,奢侈品的大圖上不加標(biāo)語(yǔ)是更好的,但實(shí)際上,只是不能只加優(yōu)惠政策類(lèi)標(biāo)語(yǔ),因?yàn)檫@看起來(lái)會(huì)很山寨,影響客戶(hù)的信任度,恰當(dāng)添加標(biāo)語(yǔ)也可以提升信任度。

商品圖源于網(wǎng)絡(luò)

基于反饋,我們可以判定最近的試驗(yàn)是否有效,基于認(rèn)知,我們也可以沉淀更多可累積的經(jīng)驗(yàn)。

就像企業(yè)一直追求的精細(xì)化運(yùn)營(yíng),其背后就是這種聚沙成塔式累積的效應(yīng),能夠幫助我們累積得更多,走得更遠(yuǎn)!

 

作者:簡(jiǎn)寧,神策數(shù)據(jù)資深分析師

本文由 @神策數(shù)據(jù) 發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可,禁止轉(zhuǎn)載

題圖來(lái)自Unsplash,基于CC0協(xié)議

更多精彩內(nèi)容,請(qǐng)關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號(hào)或下載App
評(píng)論
評(píng)論請(qǐng)登錄
  1. 目前還沒(méi)評(píng)論,等你發(fā)揮!