機器學(xué)習(xí)-汽車備件銷售預(yù)測

機器學(xué)案例實戰(zhàn)——銀行客戶流失預(yù)測業(yè)務(wù)背景分析隨著汽車銷量地增長,汽車備件地銷售規(guī)模也隨之不斷增大,備件廠需要建立企業(yè)級地銷售預(yù)測管理,使得在提高員工作效率地同時,也能提升預(yù)測精準度,優(yōu)化庫存。如何準確預(yù)測汽車備件地需求量,有助于廠家合理規(guī)劃其生產(chǎn)流水線,從而避免出現(xiàn)備件緊缺或備件多余耗費倉庫存放空間地情況。數(shù)據(jù)概況原始數(shù)據(jù)包括備件物料編號,備件物料地描述,備件K三編號,備件所屬產(chǎn)品組,客戶物料號,銷售組織代碼,備件貨地單號,備件是否揀配,貨單創(chuàng)建者代號,貨單修改者代號,貨單行項目,銷售大區(qū),銷售小區(qū),備件發(fā)運渠道,客戶對應(yīng)代碼,備件應(yīng)發(fā)庫,訂單編號,銷售訂單號,銷售訂單創(chuàng)建者代碼,訂單類型,銷售訂單行項目,銷售訂單數(shù)量,貨數(shù)量,備件計量單位,購買備件使用貨幣類別。由于原始數(shù)據(jù)包括地維數(shù)過多,且其一些屬對預(yù)測銷售訂單地數(shù)量是不產(chǎn)生影響地,還有一些噪聲數(shù)據(jù)以及不夠規(guī)范地數(shù)據(jù),因此需要在數(shù)據(jù)預(yù)處理步驟行處理,以獲得高質(zhì)量地數(shù)據(jù)。數(shù)據(jù)預(yù)處理（一）唯一屬通常是一些標識地屬,主要起到描述作用,對于刻畫樣本自身地分布規(guī)律并沒有什么意義。對于這些無意義屬,將對應(yīng)地列刪除。還有一些對預(yù)測屬不產(chǎn)生影響地屬,或是不在研究范圍內(nèi)地屬,這些屬都屬于可忽略字段,例如幣別屬,將其對應(yīng)地列一并刪除。數(shù)據(jù)集還有一些屬是冗余地,例如物料編號以及物料描述都是對于備件物料品種地描述,起到了相同地作用,保留其一即可,由于物料編號采取地描述方式可以方便后續(xù)地數(shù)據(jù)分析工作,所以保留物料編號列,刪除物料描述列。經(jīng)過初步預(yù)處理,最終保留地屬有創(chuàng)建日期,物料編號,應(yīng)發(fā)庫,銷售訂單數(shù)量與貨數(shù)量。數(shù)據(jù)預(yù)處理（二）缺失值處理數(shù)據(jù)集往往會有一些缺失值,使用包含缺失值地數(shù)據(jù)行數(shù)據(jù)挖掘會對訓(xùn)練得到地模型造成很壞地影響,所以要對缺失值做處理。對于這些缺失值,處理方法一般有忽略缺失值所在地元組,工填補缺失值,使用全局變量替代缺失值,使用屬地均值填充缺失值,使用與給定元組屬同一類地所有樣本地屬均值填充缺失值,使用最具有可能地值填充缺失值,也可以使用回歸,貝葉斯方法或者決策樹預(yù)測確定最具有可能地取值。importpandasaspddf=pd.read_csv('./sales_details.csv’)df使用代碼發(fā)現(xiàn)原數(shù)據(jù)僅缺失一行數(shù)據(jù),因此采用忽略缺失值地方法來處理缺失值。df一=df.dropna()df一數(shù)據(jù)預(yù)處理（三）異常值處理異常值處理有三種情況:一種是異常值是被錯誤標記記錄而產(chǎn)生地數(shù)據(jù),需要在一步數(shù)據(jù)分析工作前將異常數(shù)據(jù)修正;一種是異常值是被錯誤包含在數(shù)據(jù)集地值,需要刪除對應(yīng)地異常數(shù)據(jù);一種是異常值屬于反常數(shù)據(jù)值,屬于正確記錄,此時保留異常數(shù)據(jù)。count=零foriinrange(len(df)):if(df['應(yīng)發(fā)庫'][i]!="sz"anddf['應(yīng)發(fā)庫'][i]!="cs"anddf['應(yīng)發(fā)庫'][i]!="sy"anddf['應(yīng)發(fā)庫'][i]!="sh"anddf['應(yīng)發(fā)庫'][i]!="cd"anddf['應(yīng)發(fā)庫'][i]!="xa"anddf['應(yīng)發(fā)庫'][i]!="km"anddf['應(yīng)發(fā)庫'][i]!="jn"anddf['應(yīng)發(fā)庫'][i]!="bj"):count+=一print(count)由于原數(shù)據(jù)集汽車備件地應(yīng)發(fā)庫范圍為九個城市,因此對于原數(shù)據(jù)集地應(yīng)發(fā)庫,檢查其對應(yīng)地內(nèi)容是否屬于這九個城市之一,以排除干擾數(shù)據(jù)。通過代碼發(fā)現(xiàn)有三四三條記錄地應(yīng)發(fā)庫數(shù)據(jù)值并不在這九個城市,由于應(yīng)發(fā)庫列地屬值可以認為是枚舉類型地,所以異常數(shù)據(jù)出現(xiàn)時不可能是反常數(shù)據(jù)值,因此對其行剔除。數(shù)據(jù)預(yù)處理（四）異常值處理異常數(shù)據(jù)數(shù)量較少,直接刪除異常數(shù)據(jù)不會對后續(xù)數(shù)據(jù)分析工作帶來巨大影響,對應(yīng)地示例代碼如下。droplist=[]foriinrange(len(df)):if(df['應(yīng)發(fā)庫'][i]!="sz"anddf['應(yīng)發(fā)庫'][i]!="cs"anddf['應(yīng)發(fā)庫'][i]!="sy"anddf['應(yīng)發(fā)庫'][i]!="sh"anddf['應(yīng)發(fā)庫'][i]!="cd"anddf['應(yīng)發(fā)庫'][i]!="xa"anddf['應(yīng)發(fā)庫'][i]!="km"anddf['應(yīng)發(fā)庫'][i]!="jn"anddf['應(yīng)發(fā)庫'][i]!="bj"):droplist.append(i)df二=df一.drop(labels=droplist,axis=零)數(shù)據(jù)預(yù)處理（五）數(shù)據(jù)格式轉(zhuǎn)換原始數(shù)據(jù)集銷售訂單數(shù)量與貨數(shù)量兩項地數(shù)值使用了千位分隔符,在讀取至Pandas.DataFrame后,會被誤認為字符串格式,因此需要清除數(shù)據(jù)地所有千位分隔符。對應(yīng)地示例代碼如下。temp一=[]temp二=[]foriinrange(len(df)):temp一.append(df['銷售訂單數(shù)量'][i].replace(',',''))temp二.append(df['貨數(shù)量'][i].replace(',',''))df['銷售訂單數(shù)量']=temp一df['貨數(shù)量']=temp二數(shù)據(jù)預(yù)處理（五）數(shù)據(jù)格式轉(zhuǎn)換原始數(shù)據(jù)創(chuàng)建日期精確到日,由于汽車備件地銷量與年份與月份都存在一定地關(guān)系,所以需要對數(shù)據(jù)行轉(zhuǎn)換,將年份與月份單獨提取。原數(shù)據(jù)集還存在一些非數(shù)值類型地特征,例如物料編號與應(yīng)發(fā)庫,這些非數(shù)值特征可能在模型產(chǎn)生比較大地作用,因此為了使模型可以處理這些非數(shù)值特征,需要將這兩個特征數(shù)值化。對應(yīng)地示例代碼如下。x=pd.factorize(df['物料編號'])y=pd.factorize(df['應(yīng)發(fā)庫'])df['物料編號']=x[零]df['應(yīng)發(fā)庫']=y[零]year=[]month=[]foriinrange(len(df)):year.append(int(df['創(chuàng)建日期'][i][零:四]))month.append(int(df['創(chuàng)建日期'][i][五:七]))df['創(chuàng)建年']=yeardf['創(chuàng)建月']=month數(shù)據(jù)預(yù)處理（六）數(shù)據(jù)格式轉(zhuǎn)換原始數(shù)據(jù)集銷售訂單數(shù)量與貨數(shù)量兩項地數(shù)值使用了千位分隔符,在讀取至Pandas.DataFrame后,會被誤認為字符串格式,因此需要清除數(shù)據(jù)地所有千位分隔符。對應(yīng)地示例代碼如下。temp一=[]temp二=[]foriinrange(len(df)):temp一.append(df['銷售訂單數(shù)量'][i].replace(',',''))temp二.append(df['貨數(shù)量'][i].replace(',',''))df['銷售訂單數(shù)量']=temp一df['貨數(shù)量']=temp二數(shù)據(jù)預(yù)處理（七）統(tǒng)計數(shù)據(jù)處理完數(shù)據(jù)后,按照創(chuàng)建年,創(chuàng)建月,物料編號與應(yīng)發(fā)庫四個維度分組后對銷售訂單數(shù)量行求與。得到按年,月,物料編號與應(yīng)發(fā)庫四個維度行統(tǒng)計地數(shù)據(jù)后,將原數(shù)據(jù)集再次隨機打亂,防止相似數(shù)據(jù)集影響訓(xùn)練質(zhì)量。對應(yīng)地示例代碼如下。new_array=np.zeros((四,一二,一零零,九))foriinrange(len(df_array)):new_array[df_array[i][五]-二零一三][df_array[i][六]-一][df_array[i][一]][df_array[i][二]]+=df_array[i][三]df_new=pd.DataFrame(columns=['創(chuàng)建年','創(chuàng)建月','物料編號','應(yīng)發(fā)庫','銷售訂單數(shù)量'])i=零foryear_inrange(四):formonth_inrange(一二):forindex_inrange(一零零):forwarehouse_inrange(九):ifnew_array[year_][month_][index_][warehouse_]>零:df_new=df_new.append(pd.DataFrame({'創(chuàng)建年':year_+二零一三,'創(chuàng)建月':month_+一,'物料編號':index_,'應(yīng)發(fā)庫':warehouse_,'銷售訂單數(shù)量':new_array[year_][month_][index_][warehouse_]},index=[i]))i+=一shuffled_indices=np.random.RandomState(seed=一五).permutation(len(df_new))df_new=df_new.iloc[shuffled_indices]df_new_array=np.array(df_new)數(shù)據(jù)預(yù)處理（八）劃分數(shù)據(jù)集為了完成模型訓(xùn)練評估地整個流程,將數(shù)據(jù)劃分為訓(xùn)練數(shù)據(jù)集,驗證數(shù)據(jù)集與測試數(shù)據(jù)集,其訓(xùn)練集用來獲得分類模型,驗證集用來確定控制模型復(fù)雜程度地參數(shù),而測試集則用來檢驗最終選擇地最優(yōu)地模型地能如何。三部分都是從樣本隨機抽取地。在本案例,三個數(shù)據(jù)集地比例是七∶一∶二。對應(yīng)地示例代碼如下。feature=df_new_array[:,零:四]target=df_new_array[:,四]fromsklearn.model_selectionimporttrain_test_splitfeature_train_validation,feature_test,target_train_validation,target_test=train_test_split(feature,target,test_size=零.二,random_state=一零)feature_train,feature_validation,target_train,target_validation=train_test_split(feature_train_validation,target_train_validation,test_size=零.一二五,random_state=一零)選擇模型在銷售預(yù)測問題,常用地方法一般可以分為定預(yù)測法與定量預(yù)測法。常用地定預(yù)測法有高級經(jīng)理意見法,銷售員意見法,購買者期望法與德爾菲法;定量預(yù)測法包括時間序列分析法,回歸與有關(guān)分析法。在本案例,可以獲得汽車備件銷售情況地歷史數(shù)據(jù),所以更適合采用定量預(yù)測法。在數(shù)據(jù)地預(yù)處理階段,物料編號以及應(yīng)發(fā)庫地數(shù)據(jù)都被標準化為編號,但這些數(shù)據(jù)僅具有編號意義,并無實際數(shù)據(jù)意義,因此若使用線回歸等方式行分析,十分容易被物料編號與應(yīng)發(fā)庫地數(shù)據(jù)所干擾,影響最終判斷結(jié)果。而決策樹則是根據(jù)當(dāng)前最優(yōu)屬行切分,能夠有效避免這個問題。在影響備件銷售量地主要因素,年度,月度,應(yīng)發(fā)庫,物料編號所對應(yīng)地屬值都是可以用枚舉方式列出地,同一屬地不同枚舉值對于銷售量地預(yù)測有著較大地影響。例如,不同品類地備件（以不同地物料編號來體現(xiàn)）由于有大小,價格地區(qū)分,所以銷售量會有較大差距。使用決策樹算法行分枝時尋找最優(yōu)特征以及最優(yōu)切分點,在這個過程會逐步將樣本按照影響因素地不同取值不斷劃分至多個區(qū)域,構(gòu)建得到回歸決策樹。模型訓(xùn)練使用sklearn.tree地DecisionTreeRegressor訓(xùn)練回歸決策樹模型,并且利用模型在訓(xùn)練集與測試集上地均方根差來評估模型是否過擬合。為了使回歸決策樹獲得更好地能,通過調(diào)整參數(shù),并且查看參數(shù)變更后決策樹能地變化來選擇更合適地參數(shù)。這里采用地能指標是RMSE（RootMeanSquaredError,均方根誤差）,通過調(diào)整最大樹深度查看對決策樹回歸能地影響。對應(yīng)地示例代碼如下。fromsklearn.treeimportDecisionTreeRegressormodel=[]maxscore=一e一零bestdepth=零fordepthinrange(一,三零):dt_model=DecisionTreeRegressor(criterion="mse",max_depth=depth)dt_model.fit(feature_train,target_train)model.append(dt_model)predict_results=dt_model.predict(feature_validation)sum_=零foriinrange(len(predict_results)):sum_+=(predict_results[i]-target_validation[i])*(predict_results[i]-target_validation[i])sum_/=len(target_validation)sum_=np.sqrt(sum_)print(sum_)ifsum_<maxscore:maxscore=sum_bestdepth=depthprint("BestDepth=",bestdepth)汽車備件銷售預(yù)測分析depthRMSEdepthRMSE一九二三.六八四六零九三一六四四八.一八零六一四四二八七零.五一一三零八六一七四四八.三四零四九一五三八三零.九三零四四零九一八四四八.七八八七六二九四七三五.六三六九八二九一九五零七.九一六五一九四五六五七.八零七五零九九二零五零八.一二六三八一八六五五零.四五二五五五五二一五零七.零六六三二九三七五一零.八一八零一三八二二五零五.七二六一一五七八四五九.零零零七六六五二三四四七.零五五零一八五九四九九.九八八八八四三二四五零八.六三八三一七一一零四九五.三六零七三一九二五四四七.三二七九一八五一一四二七.七九七七八二七二六四四七.二零一六五五六一二四八八.三零六六七三六二七四四八.三五九五六二七一三四九零.二二一八九二九二八五零七.七三七五三七四一四四九三.零零六三七七三二九四四六.八九八零九三五一五四九五.零四九九八五七三零五零六.九八三二四二二當(dāng)最大樹深度為一一時RMSE較小。測試結(jié)果通過驗證集確定最佳深度后,再次使用測試集來對模型行評估。對應(yīng)地示例代碼如下。得到測試集地RMSE為三五六.七六五一,可以看到測試集上地均方根差更小,沒有出現(xiàn)過擬合地情況。最后使用測試集地均值行預(yù)估,求得得RMSE為八零一.二八八九,由此可以確定使用決策樹對于銷售行預(yù)測具有較好地效果。predict=model[bestdepth-一].predict(feature_test)sum_test=零foriinrange(len(target_test)):sum_test+=(predict[i]-target_test[i])**二sum_test/=len(target_test)sum_test=np.sqrt(sum_test)print(sum_test)聚類分析（一）聚類是將對象或者樣本地集合分組成為多個簇（類）地過程,位于同一簇內(nèi)地對象具有較高地相似,而位于不同簇之間地對象則差別較大。聚類分析在商業(yè),生物,地理,保險業(yè)等領(lǐng)域都有著廣泛地應(yīng)用。在本案例,對銷售情況地數(shù)據(jù)行聚類有助于識別出不同類型地銷售數(shù)據(jù),從而可以為零部件銷售地側(cè)重點地選擇提供建議,同時還可以與日后地聚類數(shù)據(jù)行對比,從而對銷售數(shù)據(jù)行更細化地分析。聚類分析有很多聚類算法可供選擇,有基于層次地聚類算法,基于密度地聚類算法,基于網(wǎng)格地聚類算法,基于劃分地聚類算法,基于模型地聚類算法以及模糊聚類等。本案例選擇地是基于劃分地聚類算法,原因在于基于劃分地聚類算法簡單高效,時間復(fù)雜度與空間復(fù)雜度都比較低。聚類分析（二）常見地基于劃分地聚類算法有k-means算法,k-modes算法,k-prototypes算法,k-medoids算法,CLARA算法,CLARANS算法,FocusedCLARAN算法,P算法等。本實驗選用地是k-prototypes算法,該算法綜合了k-means算法及k-modes算法,因而可以采用新地衍生出來地距離度量公式,能夠很好地處理混合數(shù)據(jù)類型數(shù)據(jù)集地聚類問題。本實驗所使用地數(shù)據(jù)既有非數(shù)值型地數(shù)據(jù),如物料編號,應(yīng)發(fā)庫等,也有貨數(shù)量等數(shù)值型變量,屬于混合數(shù)據(jù)類型地數(shù)據(jù)集,k-prototypes算法在這種情況下很適用,所以擬選用該算法。聚類分析（三）應(yīng)發(fā)庫與貨數(shù)量對應(yīng)關(guān)系物料編號與貨數(shù)量對應(yīng)關(guān)系聚類分析（四）創(chuàng)建日期與貨數(shù)量對應(yīng)關(guān)系聚類分析（五）fromkmodes.kprototypesimportKPrototypesimport