深入淺出:如何從0開(kāi)始學(xué)習(xí)大數(shù)據(jù)挖掘分析?

劉永平
2 評(píng)論 43713 瀏覽 142 收藏 9 分鐘
B端产品经理要负责对目标行业和市场进行深入的分析和调研,了解客户的需求、痛点、期望和行为,找到产品的价值主张 🔗

文章梳理了學(xué)習(xí)大數(shù)據(jù)挖掘分析的思路與步驟,給大家提供一些參考,希望能夠?qū)δ阌兴鶐椭?/p>

最近有很多人咨詢,想學(xué)習(xí)大數(shù)據(jù),但不知道怎么入手,從哪里開(kāi)始學(xué)習(xí),需要學(xué)習(xí)哪些東西?對(duì)于一個(gè)初學(xué)者,學(xué)習(xí)大數(shù)據(jù)挖掘分析的思路邏輯是什么?本文就梳理了如何從0開(kāi)始學(xué)習(xí)大數(shù)據(jù)挖掘分析,學(xué)習(xí)的步驟思路,可以給大家一個(gè)學(xué)習(xí)的建議。

很多人認(rèn)為數(shù)據(jù)挖掘需要掌握復(fù)雜高深的算法,需要掌握技術(shù)開(kāi)發(fā),才能把數(shù)據(jù)挖掘分析做好,實(shí)際上并非這樣。如果鉆入復(fù)雜算法和技術(shù)開(kāi)發(fā),只能讓你走火入魔,越走越費(fèi)勁,并且效果不大。在公司實(shí)際工作中,最好的大數(shù)據(jù)挖掘工程師一定是最熟悉和理解業(yè)務(wù)的人。對(duì)于大數(shù)據(jù)挖掘的學(xué)習(xí)心得,作者認(rèn)為學(xué)習(xí)數(shù)據(jù)挖掘一定要結(jié)合實(shí)際業(yè)務(wù)背景、案例背景來(lái)學(xué)習(xí),這樣才是以解決問(wèn)題為導(dǎo)向的學(xué)習(xí)方法。那么,大體上,大數(shù)據(jù)挖掘分析經(jīng)典案例有以下幾種:

  1. 預(yù)測(cè)產(chǎn)品未來(lái)一段時(shí)間用戶是否會(huì)流失,流失情況怎么樣;
  2. 公司做了某個(gè)促銷活動(dòng),預(yù)估活動(dòng)效果怎么樣,用戶接受度如何;
  3. 評(píng)估用戶信用度好壞;
  4. 對(duì)現(xiàn)有客戶市場(chǎng)進(jìn)行細(xì)分,到底哪些客戶才是目標(biāo)客群;
  5. 產(chǎn)品上線投放市場(chǎng)后,用戶轉(zhuǎn)化率如何,到底哪些運(yùn)營(yíng)策略最有效;
  6. 運(yùn)營(yíng)做了很多工作,公司資源也投了很多,怎么提升產(chǎn)品投入產(chǎn)出比;
  7. 一些用戶購(gòu)買了很多商品后,哪些商品同時(shí)被購(gòu)買的幾率高;
  8. 預(yù)測(cè)產(chǎn)品未來(lái)一年的銷量及收益。。。。

大數(shù)據(jù)挖掘要做的就是把上述類似的商業(yè)運(yùn)營(yíng)問(wèn)題轉(zhuǎn)化為數(shù)據(jù)挖掘問(wèn)題。

一、如何將商業(yè)運(yùn)營(yíng)問(wèn)題轉(zhuǎn)化為大數(shù)據(jù)挖掘問(wèn)題

那么,問(wèn)題來(lái)了,我們?cè)撊绾伟焉鲜龅纳虡I(yè)運(yùn)營(yíng)問(wèn)題轉(zhuǎn)化為數(shù)據(jù)挖掘問(wèn)題?可以對(duì)數(shù)據(jù)挖掘問(wèn)題進(jìn)行細(xì)分,分為四類問(wèn)題:分類問(wèn)題、聚類問(wèn)題、關(guān)聯(lián)問(wèn)題、預(yù)測(cè)問(wèn)題。

1、分類問(wèn)題

用戶流失率、促銷活動(dòng)響應(yīng)、評(píng)估用戶度都屬于數(shù)據(jù)挖掘的分類問(wèn)題,我們需要掌握分類的特點(diǎn),知道什么是有監(jiān)督學(xué)習(xí),掌握常見(jiàn)的分類方法:決策樹(shù)、貝葉斯、KNN、支持向量機(jī)、神經(jīng)網(wǎng)絡(luò)和邏輯回歸等。

2、聚類問(wèn)題

細(xì)分市場(chǎng)、細(xì)分客戶群體都屬于數(shù)據(jù)挖掘的聚類問(wèn)題,我們要掌握聚類特點(diǎn),知道無(wú)監(jiān)督學(xué)習(xí),了解常見(jiàn)的聚類算法,例如劃分聚類、層次聚類、密度聚類、網(wǎng)格聚類、基于模型聚類等。

3、關(guān)聯(lián)問(wèn)題

交叉銷售問(wèn)題等屬于關(guān)聯(lián)問(wèn)題,關(guān)聯(lián)分析也叫購(gòu)物籃分析,我們要掌握常見(jiàn)的關(guān)聯(lián)分析算法:Aprior算法、Carma算法,序列算法等。

4、預(yù)測(cè)問(wèn)題

我們要掌握簡(jiǎn)單線性回歸分析、多重線性回歸分析、時(shí)間序列等。

二、用何種工具實(shí)操大數(shù)據(jù)挖掘

能實(shí)現(xiàn)數(shù)據(jù)挖掘的工具和途徑實(shí)在太多,SPSS、SAS、Python、R等等都可以,但是我們需要掌握哪個(gè)或者說(shuō)要掌握哪幾個(gè),才算學(xué)會(huì)了數(shù)據(jù)挖掘?這需要看你所處的層次和想要進(jìn)階的路徑是怎樣的。

第一層級(jí):達(dá)到理解入門層次

了解統(tǒng)計(jì)學(xué)和數(shù)據(jù)庫(kù)即可。

第二層級(jí):達(dá)到初級(jí)職場(chǎng)應(yīng)用層次

數(shù)據(jù)庫(kù)+統(tǒng)計(jì)學(xué)+SPSS(也可以是SPSS代替軟件)

第三層級(jí):達(dá)到中級(jí)職場(chǎng)應(yīng)用層次

SAS或R

第四層級(jí):達(dá)到數(shù)據(jù)挖掘師層次

SAS或R+Python(或其他編程語(yǔ)言)

三、如何利用Python學(xué)習(xí)大數(shù)據(jù)挖掘

只要能解決實(shí)際問(wèn)題,用什么工具來(lái)學(xué)習(xí)數(shù)據(jù)挖掘都是無(wú)所謂,這里首推Python。那該如何利用Python來(lái)學(xué)習(xí)數(shù)據(jù)挖掘?需要掌握Python中的哪些知識(shí)?

1、Pandas庫(kù)的操作

Panda是數(shù)據(jù)分析特別重要的一個(gè)庫(kù),我們要掌握以下三點(diǎn):

  • pandas 分組計(jì)算;
  • pandas 索引與多重索引;

索引比較難,但是卻是非常重要的

  • pandas 多表操作與數(shù)據(jù)透視表

2、numpy數(shù)值計(jì)算

numpy數(shù)據(jù)計(jì)算主要應(yīng)用是在數(shù)據(jù)挖掘,對(duì)于以后的機(jī)器學(xué)習(xí),深度學(xué)習(xí),這也是一個(gè)必須掌握的庫(kù),我們要掌握以下內(nèi)容:

  • Numpy array理解;
  • 數(shù)組索引操作;
  • 數(shù)組計(jì)算;
  • Broadcasting(線性代數(shù)里面的知識(shí))

3、數(shù)據(jù)可視化-matplotlib與seaborn

  • Matplotib語(yǔ)法

python最基本的可視化工具就是matplotlib。咋一看Matplotlib與matlib有點(diǎn)像,要搞清楚二者的關(guān)系是什么,這樣學(xué)習(xí)起來(lái)才會(huì)比較輕松。

  • seaborn的使用

seaborn是一個(gè)非常漂亮的可視化工具。

  • pandas繪圖功能

前面說(shuō)過(guò)pandas是做數(shù)據(jù)分析的,但它也提供了一些繪圖的API。

4、數(shù)據(jù)挖掘入門

這部分是最難也是最有意思的一部分,要掌握以下幾個(gè)部分:

  • 機(jī)器學(xué)習(xí)的定義

在這里跟數(shù)據(jù)挖掘先不做區(qū)別

  • 代價(jià)函數(shù)的定義
  • Train/Test/Validate
  • Overfitting的定義與避免方法

5、數(shù)據(jù)挖掘算法

數(shù)據(jù)挖掘發(fā)展到現(xiàn)在,算法已經(jīng)非常多,下面只需掌握最簡(jiǎn)單的,最核心的,最常用的算法:

  • 最小二乘算法;
  • 梯度下降;
  • 向量化;
  • 極大似然估計(jì);
  • Logistic Regression;
  • Decision Tree;
  • RandomForesr;
  • XGBoost;

6、數(shù)據(jù)挖掘?qū)崙?zhàn)

通過(guò)機(jī)器學(xué)習(xí)里面最著名的庫(kù)scikit-learn來(lái)進(jìn)行模型的理解。

以上,就是為大家理清的大數(shù)據(jù)挖掘?qū)W習(xí)思路邏輯??墒?,這還僅僅是開(kāi)始,在通往數(shù)據(jù)挖掘師與數(shù)據(jù)科學(xué)家路上,還要學(xué)習(xí)文本處理與自然語(yǔ)言知識(shí)、Linux與Spark的知識(shí)、深度學(xué)習(xí)知識(shí)等等,我們要保持持續(xù)的興趣來(lái)學(xué)習(xí)數(shù)據(jù)挖掘。

 

作者:劉永平 ,11年以上互聯(lián)網(wǎng)電商、互聯(lián)網(wǎng)金融、大數(shù)據(jù)項(xiàng)目實(shí)操經(jīng)驗(yàn),任職高級(jí)產(chǎn)品總監(jiān),產(chǎn)品運(yùn)營(yíng)專家,曾親自主導(dǎo)參與項(xiàng)目超過(guò)15個(gè),10個(gè)以上從0到1成功項(xiàng)目實(shí)操經(jīng)驗(yàn)。微信公眾號(hào):互聯(lián)網(wǎng)金融干貨。

本文由 @劉永平 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可,禁止轉(zhuǎn)載。

免責(zé)聲明:本文是作者通過(guò)多年項(xiàng)目實(shí)操,積累分享的干貨,全部屬于原創(chuàng),如需轉(zhuǎn)載分享,必須注明作者和出處,如沒(méi)有注明作者和出處,會(huì)追究法律責(zé)任。

題圖來(lái)自PEXELS,基于CC0協(xié)議

更多精彩內(nèi)容,請(qǐng)關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號(hào)或下載App
評(píng)論
評(píng)論請(qǐng)登錄
  1. 上周剛聽(tīng)了劉老師的課,原來(lái)劉老師對(duì)數(shù)據(jù)挖掘還有這么深入的研究,希望下次課能跟劉老師交流一下

    來(lái)自廣東 回復(fù)
  2. 好文章,收益了!感謝作者分享!

    來(lái)自江蘇 回復(fù)
专题
11608人已学习12篇文章
2023年双十一逐渐临近,各个电商平台也摩拳擦掌开始准备。本专题的文章分享了双十一营销玩法。
专题
55683人已学习20篇文章
产品上线后冷启动怎么做最有效?这是产品经理和运营必须要了解的。
专题
12245人已学习12篇文章
广告营销是为了销售产品,既然花了钱当然希望能给产品的销量带来增长。本专题的文章分享了广告营销指南。
专题
12218人已学习12篇文章
瑞幸咖啡和茅台的这次联名合作,无疑让联名营销这类营销方式又掀起了热度。本专题的文章分享了联名营销指南。
专题
14354人已学习13篇文章
裂变是研究用户增长的重要一环。本专题的文章分享了如何做裂变活动。