[[174566]]

第一步：數(shù)據(jù)準(zhǔn)備：(70%時間)

• 獲取數(shù)據(jù)(爬蟲，數(shù)據(jù)倉庫)
• 驗證數(shù)據(jù)
• 數(shù)據(jù)清理(缺失值、孤立點(diǎn)、垃圾信息、規(guī)范化、重復(fù)記錄、特殊值、合并數(shù)據(jù)集)
• 使用python進(jìn)行文件讀取csv或者txt便于操作數(shù)據(jù)文件(I/O和文件串的處理，逗號分隔)
• 抽樣(大數(shù)據(jù)時。關(guān)鍵是隨機(jī))
• 存儲和歸檔

第二步：數(shù)據(jù)觀察(發(fā)現(xiàn)規(guī)律和隱藏的關(guān)聯(lián))

• 單一變量：點(diǎn)圖、抖動圖;直方圖、核密度估計;累計分布函數(shù)
• 兩個變量：散點(diǎn)圖、LOESS平滑、殘差分析、對數(shù)圖、傾斜
• 多個變量：假色圖、馬賽克圖、平行左邊圖

第三步：數(shù)據(jù)建模

• 推算和估算(均衡可行性和成本消耗)
• 縮放參數(shù)模型(縮放維度優(yōu)化問題)
• 建立概率模型(二項、高斯、冪律、幾何、泊松分布與已知模型對比)

第四步：數(shù)據(jù)挖掘

• 選擇合適的機(jī)器學(xué)習(xí)算法(蒙特卡洛模擬，相似度計算，主成分分析)
• 大數(shù)據(jù)考慮用Map/Reduce
• 得出結(jié)論，繪制最后圖表

循環(huán)到第二步到第四步，進(jìn)行數(shù)據(jù)分析，根據(jù)圖表得出結(jié)論完成文章。

業(yè)務(wù)分析版

“無尺度網(wǎng)絡(luò)模型”的作者艾伯特-拉斯洛·巴拉巴西認(rèn)為——人類93%的行為是可以預(yù)測的。數(shù)據(jù)作為人類活動的痕跡，就像金礦等待發(fā)掘。但是首先你得明確自己的業(yè)務(wù)需求，數(shù)據(jù)才可能為你所用。

1. 數(shù)據(jù)為王，業(yè)務(wù)是核心

1. 了解整個產(chǎn)業(yè)鏈的結(jié)構(gòu)
2. 制定好業(yè)務(wù)的發(fā)展規(guī)劃
3. 衡量的核心指標(biāo)有哪些

有了數(shù)據(jù)必須和業(yè)務(wù)結(jié)合才有效果。首先你需要摸清楚所在產(chǎn)業(yè)鏈的整個結(jié)構(gòu)，對行業(yè)的上游和下游的經(jīng)營情況有大致的了解。然后根據(jù)業(yè)務(wù)當(dāng)前的需要，指定發(fā)展計劃，從而歸類出需要整理的數(shù)據(jù)。最后一步詳細(xì)的列出數(shù)據(jù)核心指標(biāo)(KPI)，并且對幾個核心指標(biāo)進(jìn)行更細(xì)致的拆解，當(dāng)然具體結(jié)合你的業(yè)務(wù)屬性來處理，找出那些對指標(biāo)影響幅度較大的影響因子。前期資料的收集以及業(yè)務(wù)現(xiàn)況的全面掌握非常關(guān)鍵。

2. 思考指標(biāo)現(xiàn)狀，發(fā)現(xiàn)多維規(guī)律

1. 熟悉產(chǎn)品框架，全面定義每個指標(biāo)的運(yùn)營現(xiàn)狀
2. 對比同行業(yè)指標(biāo)，挖掘隱藏的提升空間
3. 拆解關(guān)鍵指標(biāo)，合理設(shè)置運(yùn)營方法來觀察效果
4. 爭對核心用戶，單獨(dú)進(jìn)行產(chǎn)品用研與需求挖掘

發(fā)現(xiàn)規(guī)律不一定需要很高深的編程方法，或者復(fù)雜的統(tǒng)計公式，更重要的是培養(yǎng)一種感覺和意識。不能用你的感覺去揣測用戶的感覺，因為每個人的教育背景、生活環(huán)境都不一樣。很多數(shù)據(jù)元素之間的關(guān)系沒有明顯的顯示，需要使用直覺與觀察(數(shù)據(jù)可視化技術(shù)來呈現(xiàn))。

3. 規(guī)律驗證，經(jīng)驗總結(jié)

發(fā)現(xiàn)了規(guī)律之后不能立刻上線，需要在測試機(jī)上對模型進(jìn)行驗證。