除了ABtest,還有更好用的測試方法!

0 評論 1227 瀏覽 1 收藏 10 分鐘

面對業(yè)務(wù)部門的精準(zhǔn)預(yù)測要求,你是否也曾感到壓力山大?別慌!今天帶你揭秘,在沒有數(shù)據(jù)基礎(chǔ)的情況下,如何通過科學(xué)的測試方法,為業(yè)務(wù)增長保駕護(hù)航。從部署到復(fù)盤,四階段詳解測試全流程,助你避免盲目預(yù)測,用數(shù)據(jù)說話,讓業(yè)務(wù)增長有據(jù)可依。

業(yè)務(wù)方要你人工智能大數(shù)據(jù)精準(zhǔn)預(yù)測,預(yù)測偏差多少錢,就扣你多少錢的工資,你怕不?!偏偏真的就有很多類似場景,話不多說,直接上干貨:

問題場景:某互聯(lián)網(wǎng)金融公司準(zhǔn)備通過投放獲取投資客戶,最近聽說私域流量很火,但是從來沒在公眾號渠道試驗(yàn)過,現(xiàn)計劃在公眾號渠道進(jìn)行投放,請數(shù)據(jù)分析部門利用大數(shù)據(jù)人工智能精準(zhǔn)預(yù)測投放效果,到底做一次投放能賺多少錢。假設(shè)你是這個公司的數(shù)據(jù)分析師……

思考一分鐘?

一、別忘了你還有這個武器

正確回答:預(yù)測個屁!業(yè)務(wù)部門是不懂?dāng)?shù)據(jù)原理的,有想不明白的事搬出“大數(shù)據(jù)人工智能”就好了。但做數(shù)據(jù)的人腦子得格外清醒。按題中的場景,業(yè)務(wù)上連一次都沒做過,連數(shù)據(jù)都沒有,這還預(yù)測個毛線。這時候應(yīng)該做測試,先收集一些數(shù)據(jù),有了相當(dāng)?shù)臄?shù)據(jù)積累以后再談預(yù)測的事。

測試從來都是數(shù)據(jù)分析解決問題的手段。俗話說:是騾子是馬,拉出來遛遛。測試就是遛馬的過程,結(jié)果好壞一眼即明。特別針對:新渠道、新產(chǎn)品、新團(tuán)隊這種創(chuàng)新情況。舊的數(shù)據(jù)不能完全推演創(chuàng)新,就更得上測試了。

只不過,這些年熱炒的都是基于自有App的ABtest,所以很多新人忽視了更普遍的測試設(shè)計方法,今天我們系統(tǒng)講解下。?

二、設(shè)計測試的基本要求

很多新人會想當(dāng)然地認(rèn)為:測試不就是讓業(yè)務(wù)先搞幾次,那讓他們搞,我們等著收數(shù)據(jù)不就好了。這種偷懶的想法,會在事后給自己添加無窮無盡的麻煩。

首先,測試是有業(yè)務(wù)代價的。

比如本場景中,投放是為了拉新用戶和新投資,花了錢要見效果,不然肯定被老板diss。

那么相關(guān)的問題就來了:

  • 花多少錢?
  • 要做多少效果?
  • 測幾輪見效果?
  • 測幾輪的損失能不能承擔(dān)?

這些都得事先有個清晰界定,才能避免糾結(jié)。

其次,測試是有內(nèi)容設(shè)計的。

比如本場景中,用戶會不會被吸引來,和投放號類型、投放時機(jī)、文案、轉(zhuǎn)化路徑、產(chǎn)品選擇、CTA動作,都有關(guān)系,如果一開始不做認(rèn)真設(shè)計。只是簡單的丟一個,那很多其他可能無法對比測試,就不能推導(dǎo)出有效結(jié)論。

再次,測試是受投入影響的。

比如本場景中,有可能優(yōu)質(zhì)的渠道需要花很多錢,有可能用戶補(bǔ)貼力度得比其他渠道大一點(diǎn),導(dǎo)致的結(jié)果就是可能第一輪不見效,但第二輪增加力度就見效了!所以要不要做追加投入,也得事先考慮清楚。

由于以上三點(diǎn),使得測試需要分四個階段,做好充分的準(zhǔn)備再上路(如下圖)。

 

三、部署階段

部署階段要解決的是戰(zhàn)略問題:

  • 到底要測試多久
  • 為測試可以投放多少資源
  • 測試出什么結(jié)果才滿意

在本場景中,作為新投放渠道測試,則首先得搞清楚渠道的定位。常見的有:

  • 主力渠道:承擔(dān)50%+的流量來源,主要投資方向
  • 助攻渠道:承擔(dān)20%+的流量來源,次要投資方向
  • 邊緣渠道:單渠道流量不超過5%,選擇性投放
  • 零散渠道:有它沒它關(guān)系不大,聊勝于無

可以根據(jù)當(dāng)期的整體渠道投放目標(biāo),反推需要的流量;之后根據(jù)業(yè)務(wù)上策略(下決心建立新渠道,還是跟風(fēng)玩玩),把任務(wù)分配清楚,之后定義好本次測試新渠道的定位。有了清晰的定位,自然很容易得出:投多少錢,做多少次。有了財力、人力、時間的界定,后續(xù)設(shè)計方案就簡單了。

?4?準(zhǔn)備階段

準(zhǔn)備階段要解決的是戰(zhàn)術(shù)問題:

  • 到底要測試哪些渠道
  • 到底測哪些版本
  • 到底測哪些產(chǎn)品

在本場景中,由于是完全沒有經(jīng)驗(yàn),因此需要第三方/同業(yè)的案例、數(shù)據(jù)做支持。雖然不能拿到100%準(zhǔn)確的數(shù)據(jù),但至少能照貓畫虎,比如:

  • 同業(yè)投放哪些賬號
  • 可觀察的文章曝光量是多少
  • 小道消息打聽來的轉(zhuǎn)化率是多少
  • 業(yè)用的什么什么形式

經(jīng)過梳理,至少有一個大概方向,比閉著眼睛瞎胡做強(qiáng)的多。注意,站在用戶角度,影響用戶行為的因素是綜合性的。比如公眾號渠道投放,標(biāo)題、長度、投放時間、內(nèi)容寫法、CTA、轉(zhuǎn)化路徑、產(chǎn)品價格、產(chǎn)品屬性等等等都會有影響。

用數(shù)據(jù)進(jìn)行測試,很難在一次測試把以上因素全部拆解清楚,因此需要提前準(zhǔn)備多個測試版本,且測試版本之間差異不能太大,有一定延續(xù)性,這樣才能為后期分析做好準(zhǔn)備。

以上全部是標(biāo)紅加粗,是因?yàn)樵趯?shí)際工作中,業(yè)務(wù)方經(jīng)常喜歡糾結(jié)細(xì)節(jié),結(jié)果搞出來的各個版本一個天上一個地下,完全沒有可比性。除了看整體轉(zhuǎn)化結(jié)果外,細(xì)節(jié)完全無法對標(biāo),因此很難做深入分析。

可以說事后分析的艱難,有80%是因?yàn)槭孪葲]有做好計劃導(dǎo)致的,切記切記。?

五、測試與復(fù)盤階段

準(zhǔn)備好以后,可以上線測試和復(fù)盤。本場景是渠道投放,且目標(biāo)就是獲取新投資用戶,因此考核結(jié)果指標(biāo)相對簡單清晰,看轉(zhuǎn)化來的用戶數(shù),用戶投資率,用戶投資金額幾個指標(biāo)即可。只要測試結(jié)果能達(dá)成部署階段的目標(biāo),就算渠道合格,完成任務(wù)。如果不行,可以根據(jù)事先制定的迭代方案,進(jìn)行迭代優(yōu)化,進(jìn)一步觀察效果。

這里要強(qiáng)調(diào)的是一些細(xì)節(jié)問題:

  1. 結(jié)果判斷和原因分析要分開。先判斷結(jié)果是否可接受,再分析哪個環(huán)節(jié)有問題。
  2. 迭代有順序進(jìn)行,產(chǎn)品、價格、內(nèi)容要分開。最好一次換一個,最差也不要仨一起換。
  3. 優(yōu)先換產(chǎn)品、價格,內(nèi)容不一條條換。內(nèi)容涉及細(xì)節(jié)太多,全部測出來成本太高,因此優(yōu)先考慮產(chǎn)品和價格。

這樣看數(shù)據(jù)的時候,可以按以下順序展開:

六、小結(jié)

為啥開頭要問如何人工智能大數(shù)據(jù)精準(zhǔn)預(yù)測?是因?yàn)楹芏嗤瑢W(xué)真的以為能預(yù)測!不但業(yè)務(wù)部門迷信預(yù)測,連很多數(shù)據(jù)分析師自己都信了,還真以為隨便搞幾個數(shù)字就是大數(shù)據(jù)了,真以為隨便懟個模型調(diào)個參就是人工智能了,還真為人工智能就是全知全能的上帝一道金光從天而降代碼就能變成鈔票,隨著鍵盤的敲動從屏幕里噴薄而出……

  • 數(shù)據(jù)分析,有數(shù)據(jù)才能分析
  • 沒有數(shù)據(jù),先采集數(shù)據(jù)
  • 業(yè)務(wù)沒做過,先做做試試
  • 不要瞎胡試,認(rèn)真做計劃,一步步試

這些看似毫無技術(shù)含量的傳統(tǒng)流程,才是用數(shù)據(jù)保障業(yè)務(wù)增長的秘籍。由于本場景是外部渠道,因此不是用ABtest分流量做對比的思路。

本文由人人都是產(chǎn)品經(jīng)理作者【接地氣的陳老師】,微信公眾號:【接地氣的陳老師】,原創(chuàng)/授權(quán) 發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。

題圖來自Unsplash,基于 CC0 協(xié)議。

更多精彩內(nèi)容,請關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發(fā)揮!