數(shù)據(jù)集簡(jiǎn)介

本數(shù)據(jù)集共收集了發(fā)生在一個(gè)月內(nèi)的28010條數(shù)據(jù)，包含以下字段：

• ['訂單編號(hào)', '總金額', '買家實(shí)際支付金額', '收貨地址', '訂單創(chuàng)建時(shí)間', '訂單付款時(shí)間 ', '退款金額']

7個(gè)字段說明：

• 訂單編號(hào)：訂單編號(hào);
• 總金額：訂單總金額;
• 買家實(shí)際支付金額：總金額 - 退款金額(在已付款的情況下)。金額為0(在未付款的情況下);
• 收貨地址：各個(gè)省份;
• 訂單創(chuàng)建時(shí)間：下單時(shí)間;
• 訂單付款時(shí)間：付款時(shí)間;
• 退款金額：付款后申請(qǐng)退款的金額。如無付過款，退款金額為0。

數(shù)據(jù)概覽： 

相關(guān)庫、函數(shù)和數(shù)據(jù)的導(dǎo)入

# 相關(guān)庫和函數(shù)的導(dǎo)入 
 
import numpy as np 
from sklearn import metrics 
import math 
import copy 
import pandas as pd           
import scipy as sp導(dǎo)入常用的基本庫 
 
import datetime as date                                 # 導(dǎo)入datetime庫 
import seaborn as sns                                   # 導(dǎo)入seaborn庫，用于數(shù)據(jù)可視化 
from IPython.display import display                     # 載入數(shù)據(jù)查看時(shí)需要使用的函數(shù) 
from sklearn.model_selection import train_test_split    # 導(dǎo)入數(shù)據(jù)集劃分時(shí)需要使用的函數(shù) 
from sklearn.metrics import confusion_matrix            # 導(dǎo)入生成混淆矩陣的函數(shù) 
from sklearn.preprocessing import LabelEncoder          # 導(dǎo)入分類變量編碼時(shí)需要使用的函數(shù) 
from sklearn.metrics import classification_report       # 導(dǎo)入分類結(jié)果評(píng)價(jià)時(shí)要用到的函數(shù) 
 
from sklearn.discriminant_analysis import LinearDiscriminantAnalysis     # 導(dǎo)入LDA判別時(shí)需要使用的函數(shù) 
from sklearn.naive_bayes import MultinomialNB           # 導(dǎo)入樸素貝葉斯時(shí)需要使用的額函數(shù) 
from sklearn.neighbors import KNeighborsClassifier      # 導(dǎo)入KNN判別時(shí)需要使用的函數(shù) 
from sklearn.tree import DecisionTreeClassifier         # 導(dǎo)入決策樹函數(shù) 
from sklearn.neural_network import MLPClassifier        # 導(dǎo)入神經(jīng)網(wǎng)絡(luò)函數(shù) 
from sklearn import svm                                 # 導(dǎo)入支持向量機(jī)函數(shù) 
 
from sklearn.model_selection import GridSearchCV        # 導(dǎo)入模型優(yōu)化方法中的網(wǎng)格搜索法需要用到的函數(shù) 
from sklearn.cross_validation import KFold              # 導(dǎo)入模型評(píng)估時(shí)使用的函數(shù) 
 
# 數(shù)據(jù)導(dǎo)入 
 
dt = pd.read_csv('D:資料/數(shù)據(jù)分析/數(shù)據(jù)分析與數(shù)據(jù)挖掘/實(shí)戰(zhàn)演練/5（tmall_order_report）/tmall_order_report.csv',encoding='gbk',engine='python') 

數(shù)據(jù)檢查與清洗

首先，查看一下數(shù)據(jù)集的變量類型：

dt.dtypes                                               # 查看數(shù)據(jù)集有哪些變量  

然后，將變量中右側(cè)的空格去除(以免影響后續(xù)調(diào)用變量)，并進(jìn)行重復(fù)值和缺失值檢查：

dt.columns = dt.columns.str.rstrip()                    # 去除列名右側(cè)的空格 
dt.duplicated().sum()                                   # 檢查數(shù)據(jù)是否有重復(fù)值，發(fā)現(xiàn)并沒有重復(fù)值 
display(sum(dt.isnull().sum()))                         # 檢查數(shù)據(jù)集是否有缺失值  

檢查出來有缺失值(約占數(shù)據(jù)總量的12-15%)，考慮原數(shù)據(jù)中是否是因?yàn)?ldquo;訂單付款時(shí)間”這一列存在缺失值而導(dǎo)致產(chǎn)生這樣的檢查結(jié)果：

col = dt.columns.values.tolist()                        # 提取數(shù)據(jù)集中的所有列變量的名稱 
col.remove('訂單付款時(shí)間')                               # 將訂單付款時(shí)間這一列去除 
display(sum(dt[col].isnull().sum()))                    # 再次檢查是否有缺失值，發(fā)現(xiàn)并沒有缺失值，也就是缺失值均來自“訂單付款時(shí)間”這一列  

結(jié)果表明，缺失值僅來自“訂單付款時(shí)間”這一列。接下來就是處理缺失值，處理的思路可以是先計(jì)算出各訂單付款時(shí)間和下單時(shí)間的平均值，然后用下單時(shí)間 + 平均值，作為缺失值的填補(bǔ)對(duì)象：

c = np.array(['訂單創(chuàng)建時(shí)間','訂單付款時(shí)間'])             # 提取訂單創(chuàng)建時(shí)間、付款時(shí)間這兩列的列名 
for i in c: 
    dt[i] = pd.to_datetime(dt[i])                       # 將訂單創(chuàng)建時(shí)間、付款時(shí)間由object類型轉(zhuǎn)為datetime類型，方便運(yùn)算 
for i in range(0,dt.shape[0]): 
    if (dt['訂單付款時(shí)間'].iloc[i] < dt['訂單創(chuàng)建時(shí)間'].iloc[i]) == True: 
        dt['訂單付款時(shí)間'].iloc[i] = dt['訂單付款時(shí)間'].iloc[i] + date.timedelta(days=1)     # 將訂單付款時(shí)間 < 訂單創(chuàng)建時(shí)間的時(shí)間數(shù)據(jù)往后加1天（因?yàn)樵瓟?shù)據(jù)中沒有考慮日期差異情況)  
mu = np.mean(dt['訂單付款時(shí)間']-dt['訂單創(chuàng)建時(shí)間'])       # 計(jì)算時(shí)間差的均值，用于之后進(jìn)行缺失值替換 
for i in range(0,dt.shape[0]): 
    if pd.isnull(dt['訂單付款時(shí)間'].iloc[i]) == True:    # 進(jìn)行缺失值填補(bǔ) 
        dt['訂單付款時(shí)間'].iloc[i] = dt['訂單創(chuàng)建時(shí)間'].iloc[i] + mu 

在填補(bǔ)完成之后，再次檢查缺失值和重復(fù)值的情況：

display(sum(dt.isnull().sum()))                         # 再次檢查數(shù)據(jù)集是否有缺失值，發(fā)現(xiàn)已經(jīng)處理完了，但是還要檢查是否增加正確 
display(dt.duplicated().sum())                          # 再次檢查數(shù)據(jù)是否有重復(fù)值，發(fā)現(xiàn)并沒有重復(fù)值，發(fā)現(xiàn)也沒有重復(fù)值 

結(jié)果顯示已經(jīng)沒有缺失值和重復(fù)值了。

描述性分析

首先，對(duì)訂單總金額進(jìn)行描述性分析：

display(dt['總金額'].describe())                        # 查看訂單總金額的情況，發(fā)現(xiàn)最大的訂單價(jià)格達(dá)到了188320元，最小的則只有1元，平均訂單價(jià)為107元左右  

從描述統(tǒng)計(jì)的結(jié)果中可以看到，最大的訂單價(jià)格達(dá)到了188320元，最小的只有1元，平均訂單價(jià)在107元左右，中位數(shù)為1元，說明應(yīng)該是一個(gè)左偏分布，即大部分訂單的價(jià)格應(yīng)該都不高。然后查看買家實(shí)際支付金額為0(支付未完成)的訂單比例：

sum(dt['買家實(shí)際支付金額']==0) / dt.shape[0]             # 查看買家實(shí)際支付金額為0（也就是支付未完成）的訂單比例，占比約為32.3%  

從結(jié)果中可以看到，大概有32.3%的買家未完成支付，這一比例還是比較高的。再看看訂單付款時(shí)間相比于訂單創(chuàng)建時(shí)間的延遲情況：

display((dt['訂單付款時(shí)間']-dt['訂單創(chuàng)建時(shí)間']).describe())     # 查看訂單付款時(shí)間相比于訂單創(chuàng)建時(shí)間的延遲情況，發(fā)現(xiàn)最慢的支付延遲了接近1天，而大部分訂單在10分鐘內(nèi)就完成了支付 

從中可以看到，最慢的支付延遲了接近1天，而大部分訂單在10分鐘內(nèi)就完成了支付。最后，來對(duì)收貨地址情況進(jìn)行描述性分析：

siz = dt.groupby(dt['收貨地址']).size()                 # 對(duì)收貨地址進(jìn)行分組統(tǒng)計(jì) 
idx_sort = np.argsort(-siz)                            # 對(duì)分組統(tǒng)計(jì)的結(jié)果進(jìn)行降序排序 
display(siz[idx_sort].head())                          # 查看降序排序的結(jié)果的前5名，發(fā)現(xiàn)收貨地址選擇上海、廣東、江蘇、浙江、北京的最多 
siz[idx_sort].tail()                                   # 查看降序排序的結(jié)果的最后5名，發(fā)現(xiàn)收貨地址選擇湖北、新疆、寧夏、青海和西藏的最少，其中湖北可能受疫情影響所致 

從結(jié)果中可以看到，收貨地址選擇上海、廣東、江蘇、浙江、北京的最多，而選湖北、新疆、寧夏、青海和西藏的最少，其中湖北可能受疫情影響所致。

建模預(yù)處理

首先，進(jìn)行特征構(gòu)建，并生成用于建模的數(shù)據(jù)集，處理過程如下：

d1 = (dt['訂單付款時(shí)間']-dt['訂單創(chuàng)建時(shí)間'])            # 輸出訂單付款和創(chuàng)建之間的時(shí)間差，作為一個(gè)新變量 
d1 = (d1 / np.timedelta64(1, 's')).astype(int)        # 將時(shí)間差的格式進(jìn)行轉(zhuǎn)換，轉(zhuǎn)換為按秒計(jì)數(shù)，并把格式變?yōu)?/span>int類型 
le_train = LabelEncoder()                             # 使用從sklearn.preprocessing中import的LabelEncoder對(duì)分類數(shù)據(jù)進(jìn)行編碼，以便于后續(xù)使用交叉驗(yàn)證建模  
le_train.fit(dt['收貨地址'].tolist())                  # 對(duì)模型進(jìn)行訓(xùn)練 
d2 = le_train.transform(dt['收貨地址'].tolist())       # 轉(zhuǎn)化數(shù)據(jù)，作為第2個(gè)變量 
d3 = np.zeros(dt.shape[0])                            # 構(gòu)建一個(gè)全為0的數(shù)組 
for i in range(0,dt.shape[0]): 
    if (dt['總金額'].iloc[i]-dt['買家實(shí)際支付金額'].iloc[i]) == dt['退款金額'].iloc[i]: 
        d3[i] = 1                                     # 生成一個(gè)新變量(類別變量)，當(dāng)買家有支付（無論退不退款）時(shí)為1，沒有支付時(shí)為0（無支付時(shí)上述等式不成立，實(shí)際支付金額和退款金額均為0），表明支付的情況 
dt_use = np.vstack((d1,d2,d3)).T                      # 生成用于建模分析的數(shù)據(jù)集，np.vstack用于數(shù)組的垂直連接   

然后是對(duì)數(shù)據(jù)集進(jìn)行劃分，形成訓(xùn)練集和測(cè)試集，為之后的建模做準(zhǔn)備：

x_train,x_test, y_train, y_test = train_test_split(dt_use[:,0:2],dt_use[:,2:3],test_size=0.25, random_state=0)     # 使用從sklearn.model_selection中import的train_test_split函數(shù)進(jìn)行訓(xùn)練集、測(cè)試集的劃分 
print('訓(xùn)練集的自變量數(shù)據(jù)的維度',x_train.shape) 
print('訓(xùn)練集的因變量量數(shù)據(jù)的維度',x_test.shape) 
print('測(cè)試集的自變量數(shù)據(jù)的維度',y_train.shape)           
print('測(cè)試集的因變量數(shù)據(jù)的維度',y_test.shape)          # 查看數(shù)據(jù)集劃分后的維度情況  

數(shù)據(jù)建模

首先，構(gòu)建初始的模型，這里完成的是分類預(yù)測(cè)任務(wù)，選擇經(jīng)典的幾個(gè)模型，分別是 SVM、LDA、樸素貝葉斯NB、KNN判別、決策樹Detree和神經(jīng)網(wǎng)絡(luò)Network：

models = {}                                           # 構(gòu)建一個(gè)models集合 
models['SVM'] = svm.SVC()                             # 支持向量機(jī)模型 
models['LDA'] = LinearDiscriminantAnalysis()          # LDA判別模型 
models['NB'] = MultinomialNB()                        # 樸素貝葉斯模型 
models['KNN'] = KNeighborsClassifier()                # KNN判別模型 
models['Detree'] = DecisionTreeClassifier()           # 決策樹模型 
models['Network'] = MLPClassifier()                   # 神經(jīng)網(wǎng)絡(luò)模型 

然后，對(duì)模型進(jìn)行訓(xùn)練和分析：

target_names = ['有支付','沒有支付']                   # 生成類別的名稱 
for key in models: 
    models[key].fit(x_train,y_train)                  # 模型訓(xùn)練 
    display(confusion_matrix(y_test,models[key].predict(x_test)))                                               # 對(duì)y_test進(jìn)行預(yù)測(cè)，輸出混淆矩陣 
    print(classification_report(y_test,models[key].predict(x_test),target_names=target_names))                  # 對(duì)y_test進(jìn)行預(yù)測(cè)，輸出預(yù)測(cè)的分類評(píng)價(jià) 
    print('\n')    

SVM模型的混淆矩陣和準(zhǔn)確率： 

LDA模型的混淆矩陣和準(zhǔn)確率： 

樸素貝葉斯NB模型的混淆矩陣和準(zhǔn)確率： 

KNN判別模型的混淆矩陣和準(zhǔn)確率： 

決策樹Detree模型的混淆矩陣和準(zhǔn)確率： 

神經(jīng)網(wǎng)絡(luò)Network模型的混淆矩陣和準(zhǔn)確率： 

從上述結(jié)果中可以看到，SVM和KNN的準(zhǔn)確率較高。下面對(duì)樸素貝葉斯NB模型進(jìn)行調(diào)參，看是否能改善其預(yù)測(cè)準(zhǔn)確率：

param_grid_nb = {'alpha':[0,0.1,0.2,0.3,0.4,0.5,0.6,0.7,0.8,0.9,1.0]}    # 設(shè)定貝葉斯模型中不同alpha值 
model_nb_ty = MultinomialNB()                          # 設(shè)定貝葉斯的模型 
kfold = KFold(10, 6)                                   # 采用10折交叉驗(yàn)證，初始隨機(jī)起點(diǎn)為6 
grid = GridSearchCV(estimator=model_nb_ty,  
                    param_grid=param_grid_nb, scoring='neg_mean_squared_error', cv=kfold)         # 設(shè)置網(wǎng)格搜索的模型 
grid_result = grid.fit(x_train, y_train)               # 利用構(gòu)建好的模型對(duì)數(shù)據(jù)集進(jìn)行訓(xùn)練，搜索最優(yōu)的k值 
print('最優(yōu)：%s 使用%s' % (grid_result.best_score_, grid_result.best_params_))                     # 輸出最優(yōu)的參數(shù)情況 
nb_model = MultinomialNB(alpha=0)                      # 根據(jù)模型調(diào)參的結(jié)果，重新設(shè)定樸素貝葉斯模型 
nb_model.fit(x_train,y_train)                          # 模型訓(xùn)練 
display(confusion_matrix(y_test,nb_model.predict(x_test)))                                        # 對(duì)y_test進(jìn)行預(yù)測(cè)，輸出混淆矩陣 
print(classification_report(y_test,nb_model.predict(x_test),target_names=target_names))           # 對(duì)y_test進(jìn)行預(yù)測(cè)，輸出預(yù)測(cè)的分類評(píng)價(jià)，發(fā)現(xiàn)并沒有什么改進(jìn)  

調(diào)參后的結(jié)果和調(diào)參前并沒有多少改善，說明NB模型在本次預(yù)測(cè)中受限于數(shù)據(jù)情況，而不是模型參數(shù)。

最后放上全過程的代碼，供大家學(xué)習(xí)使用：

### 數(shù)據(jù)分析前期準(zhǔn)備工作 ### 
 
# 相關(guān)庫和函數(shù)的導(dǎo)入 
 
import numpy as np 
from sklearn import metrics 
import math 
import copy 
import pandas as pd           
import scipy as sp 
import matplotlib.pyplot as plt               # 導(dǎo)入常用的基本庫 
 
import datetime as date                                 # 導(dǎo)入datetime庫 
import seaborn as sns                                   # 導(dǎo)入seaborn庫，用于數(shù)據(jù)可視化 
from IPython.display import display                     # 載入數(shù)據(jù)查看時(shí)需要使用的函數(shù) 
from sklearn.model_selection import train_test_split    # 導(dǎo)入數(shù)據(jù)集劃分時(shí)需要使用的函數(shù) 
from sklearn.metrics import confusion_matrix            # 導(dǎo)入生成混淆矩陣的函數(shù) 
from sklearn.preprocessing import LabelEncoder          # 導(dǎo)入分類變量編碼時(shí)需要使用的函數(shù) 
from sklearn.metrics import classification_report       # 導(dǎo)入分類結(jié)果評(píng)價(jià)時(shí)要用到的函數(shù)   
 
from sklearn.discriminant_analysis import LinearDiscriminantAnalysis     # 導(dǎo)入LDA判別時(shí)需要使用的函數(shù) 
from sklearn.naive_bayes import MultinomialNB           # 導(dǎo)入樸素貝葉斯時(shí)需要使用的額函數(shù) 
from sklearn.neighbors import KNeighborsClassifier      # 導(dǎo)入KNN判別時(shí)需要使用的函數(shù) 
from sklearn.tree import DecisionTreeClassifier         # 導(dǎo)入決策樹函數(shù) 
from sklearn.neural_network import MLPClassifier        # 導(dǎo)入神經(jīng)網(wǎng)絡(luò)函數(shù) 
from sklearn import svm                                 # 導(dǎo)入支持向量機(jī)函數(shù) 
 
from sklearn.model_selection import GridSearchCV        # 導(dǎo)入模型優(yōu)化方法中的網(wǎng)格搜索法需要用到的函數(shù) 
from sklearn.cross_validation import KFold              # 導(dǎo)入模型評(píng)估時(shí)使用的函數(shù) 
 
# 全局設(shè)定 
 
plt.rcParams['font.sans-serif']=['SimHei']              # 設(shè)定中文字符的顯示設(shè)定 
 
# 數(shù)據(jù)導(dǎo)入 
 
dt = pd.read_csv('D:資料/數(shù)據(jù)分析/數(shù)據(jù)分析與數(shù)據(jù)挖掘/實(shí)戰(zhàn)演練/5（tmall_order_report）/tmall_order_report.csv',encoding='gbk',engine='python') 
 
 
 
### 數(shù)據(jù)整理與查看 ### 
 
# 數(shù)據(jù)檢查與清洗 
 
dt.dtypes                                               # 查看數(shù)據(jù)集有哪些變量 
 
dt.columns = dt.columns.str.rstrip()                    # 去除列名右側(cè)的空格 
 
dt.duplicated().sum()                                   # 檢查數(shù)據(jù)是否有重復(fù)值，發(fā)現(xiàn)并沒有重復(fù)值 
 
display(sum(dt.isnull().sum()))                         # 檢查數(shù)據(jù)集是否有缺失值 
 
col = dt.columns.values.tolist()                        # 提取數(shù)據(jù)集中的所有列變量的名稱 
 
col.remove('訂單付款時(shí)間')                               # 將訂單付款時(shí)間這一列去除 
 
display(sum(dt[col].isnull().sum()))                    # 再次檢查是否有缺失值，發(fā)現(xiàn)并沒有缺失值，也就是缺失值均來自“訂單付款時(shí)間”這一列 
 
c = np.array(['訂單創(chuàng)建時(shí)間','訂單付款時(shí)間'])             # 提取訂單創(chuàng)建時(shí)間、付款時(shí)間這兩列的列名 
 
for i in c: 
    dt[i] = pd.to_datetime(dt[i])                       # 將訂單創(chuàng)建時(shí)間、付款時(shí)間由object類型轉(zhuǎn)為datetime類型，方便運(yùn)算 
 
for i in range(0,dt.shape[0]): 
    if (dt['訂單付款時(shí)間'].iloc[i] < dt['訂單創(chuàng)建時(shí)間'].iloc[i]) == True: 
        dt['訂單付款時(shí)間'].iloc[i] = dt['訂單付款時(shí)間'].iloc[i] + date.timedelta(days=1)     # 將訂單付款時(shí)間 < 訂單創(chuàng)建時(shí)間的時(shí)間數(shù)據(jù)往后加1天（因?yàn)樵瓟?shù)據(jù)中沒有考慮日期差異情況)  
 
mu = np.mean(dt['訂單付款時(shí)間']-dt['訂單創(chuàng)建時(shí)間'])       # 計(jì)算時(shí)間差的均值，用于之后進(jìn)行缺失值替換 
 
for i in range(0,dt.shape[0]): 
    if pd.isnull(dt['訂單付款時(shí)間'].iloc[i]) == True:    # 進(jìn)行缺失值填補(bǔ) 
        dt['訂單付款時(shí)間'].iloc[i] = dt['訂單創(chuàng)建時(shí)間'].iloc[i] + mu 
 
display(sum(dt.isnull().sum()))                         # 再次檢查數(shù)據(jù)集是否有缺失值，發(fā)現(xiàn)已經(jīng)處理完了，但是還要檢查是否增加正確 
 
display(dt.duplicated().sum())                          # 再次檢查數(shù)據(jù)是否有重復(fù)值，發(fā)現(xiàn)并沒有重復(fù)值，發(fā)現(xiàn)也沒有重復(fù)值 
 
# 描述性分析 
 
display(dt['總金額'].describe())                        # 查看訂單總金額的情況，發(fā)現(xiàn)最大的訂單價(jià)格達(dá)到了188320元，最小的則只有1元，平均訂單價(jià)為107元左右 
 
sum(dt['買家實(shí)際支付金額']==0) / dt.shape[0]             # 查看買家實(shí)際支付金額為0（也就是支付未完成）的訂單比例，占比約為32.3% 
 
display((dt['訂單付款時(shí)間']-dt['訂單創(chuàng)建時(shí)間']).describe())     # 查看訂單付款時(shí)間相比于訂單創(chuàng)建時(shí)間的延遲情況，發(fā)現(xiàn)最慢的支付延遲了接近1天，而大部分訂單在10分鐘內(nèi)就完成了支付 
 
siz = dt.groupby(dt['收貨地址']).size()                 # 對(duì)收貨地址進(jìn)行分組統(tǒng)計(jì) 
idx_sort = np.argsort(-siz)                            # 對(duì)分組統(tǒng)計(jì)的結(jié)果進(jìn)行降序排序 
display(siz[idx_sort].head())                          # 查看降序排序的結(jié)果的前5名，發(fā)現(xiàn)收貨地址選擇上海、廣東、江蘇、浙江、北京的最多 
siz[idx_sort].tail()                                   # 查看降序排序的結(jié)果的最后5名，發(fā)現(xiàn)收貨地址選擇湖北、新疆、寧夏、青海和西藏的最少，其中湖北可能受疫情影響所致 
 
 
 
### 建模預(yù)處理 ### 
 
# 特征構(gòu)建 
 
d1 = (dt['訂單付款時(shí)間']-dt['訂單創(chuàng)建時(shí)間'])            # 輸出訂單付款和創(chuàng)建之間的時(shí)間差，作為一個(gè)新變量 
d1 = (d1 / np.timedelta64(1, 's')).astype(int)        # 將時(shí)間差的格式進(jìn)行轉(zhuǎn)換，轉(zhuǎn)換為按秒計(jì)數(shù)，并把格式變?yōu)?/span>int類型 
 
le_train = LabelEncoder()                             # 使用從sklearn.preprocessing中import的LabelEncoder對(duì)分類數(shù)據(jù)進(jìn)行編碼，以便于后續(xù)使用交叉驗(yàn)證建模  
le_train.fit(dt['收貨地址'].tolist())                  # 對(duì)模型進(jìn)行訓(xùn)練 
d2 = le_train.transform(dt['收貨地址'].tolist())       # 轉(zhuǎn)化數(shù)據(jù)，作為第2個(gè)變量 
 
d3 = np.zeros(dt.shape[0])                            # 構(gòu)建一個(gè)全為0的數(shù)組 
 
for i in range(0,dt.shape[0]): 
    if (dt['總金額'].iloc[i]-dt['買家實(shí)際支付金額'].iloc[i]) == dt['退款金額'].iloc[i]: 
        d3[i] = 1                                     # 生成一個(gè)新變量(類別變量)，當(dāng)買家有支付（無論退不退款）時(shí)為1，沒有支付時(shí)為0（無支付時(shí)上述等式不成立，實(shí)際支付金額和退款金額均為0），表明支付的情況 
 
dt_use = np.vstack((d1,d2,d3)).T                      # 生成用于建模分析的數(shù)據(jù)集，np.vstack用于數(shù)組的垂直連接    
 
# 數(shù)據(jù)集劃分 
 
x_train,x_test, y_train, y_test = train_test_split(dt_use[:,0:2],dt_use[:,2:3],test_size=0.25, random_state=0)     # 使用從sklearn.model_selection中import的train_test_split函數(shù)進(jìn)行訓(xùn)練集、測(cè)試集的劃分 
 
print('訓(xùn)練集的自變量數(shù)據(jù)的維度',x_train.shape) 
print('訓(xùn)練集的因變量量數(shù)據(jù)的維度',x_test.shape) 
print('測(cè)試集的自變量數(shù)據(jù)的維度',y_train.shape)           
print('測(cè)試集的因變量數(shù)據(jù)的維度',y_test.shape)          # 查看數(shù)據(jù)集劃分后的維度情況 
 
 
 
### 數(shù)據(jù)建模 ### 
 
# 初始模型構(gòu)建 
 
models = {}                                           # 構(gòu)建一個(gè)models集合 
 
models['SVM'] = svm.SVC()                             # 支持向量機(jī)模型 
 
models['LDA'] = LinearDiscriminantAnalysis()          # LDA判別模型 
 
models['NB'] = MultinomialNB()                        # 樸素貝葉斯模型 
 
models['KNN'] = KNeighborsClassifier()                # KNN判別模型 
 
models['Detree'] = DecisionTreeClassifier()           # 決策樹模型 
 
models['Network'] = MLPClassifier()                   # 神經(jīng)網(wǎng)絡(luò)模型 
 
# 模型訓(xùn)練與分析 
 
target_names = ['有支付','沒有支付']                   # 生成類別的名稱 
 
for key in models: 
    models[key].fit(x_train,y_train)                  # 模型訓(xùn)練 
    display(confusion_matrix(y_test,models[key].predict(x_test)))                                               # 對(duì)y_test進(jìn)行預(yù)測(cè)，輸出混淆矩陣 
    print(classification_report(y_test,models[key].predict(x_test),target_names=target_names))                  # 對(duì)y_test進(jìn)行預(yù)測(cè)，輸出預(yù)測(cè)的分類評(píng)價(jià) 
    print('\n') 
     
# 模型調(diào)參（NB模型） 
 
param_grid_nb = {'alpha':[0,0.1,0.2,0.3,0.4,0.5,0.6,0.7,0.8,0.9,1.0]}    # 設(shè)定貝葉斯模型中不同alpha值 
 
model_nb_ty = MultinomialNB()                          # 設(shè)定貝葉斯的模型 
 
kfold = KFold(10, 6)                                   # 采用10折交叉驗(yàn)證，初始隨機(jī)起點(diǎn)為6 
 
grid = GridSearchCV(estimator=model_nb_ty,  
                    param_grid=param_grid_nb, scoring='neg_mean_squared_error', cv=kfold)         # 設(shè)置網(wǎng)格搜索的模型 
 
grid_result = grid.fit(x_train, y_train)               # 利用構(gòu)建好的模型對(duì)數(shù)據(jù)集進(jìn)行訓(xùn)練，搜索最優(yōu)的k值 
 
print('最優(yōu)：%s 使用%s' % (grid_result.best_score_, grid_result.best_params_))                     # 輸出最優(yōu)的參數(shù)情況 
 
nb_model = MultinomialNB(alpha=0)                      # 根據(jù)模型調(diào)參的結(jié)果，重新設(shè)定樸素貝葉斯模型 
 
nb_model.fit(x_train,y_train)                          # 模型訓(xùn)練 
 
display(confusion_matrix(y_test,nb_model.predict(x_test)))                                        # 對(duì)y_test進(jìn)行預(yù)測(cè)，輸出混淆矩陣 
 
print(classification_report(y_test,nb_model.predict(x_test),target_names=target_names))           # 對(duì)y_test進(jìn)行預(yù)測(cè)，輸出預(yù)測(cè)的分類評(píng)價(jià)，發(fā)現(xiàn)并沒有什么改進(jìn)