基于概率神經(jīng)網(wǎng)絡(luò)的潛在客戶挖掘

1、摘 要 本文利用概率神經(jīng)網(wǎng)絡(luò)對(duì)潛在客戶的相關(guān)數(shù)據(jù)進(jìn) 行分析處理,訓(xùn)練神經(jīng)網(wǎng)絡(luò)得到潛在客戶對(duì)促銷(xiāo)響應(yīng)的預(yù)測(cè)模 型,模型將客戶分為響應(yīng)客戶和不響應(yīng)客戶兩類(lèi),指導(dǎo)企業(yè)有 效地進(jìn)行促銷(xiāo)活動(dòng),提高企業(yè)的投資收益率。關(guān)鍵詞 概率神經(jīng)網(wǎng)絡(luò) 數(shù)據(jù)挖掘 客戶響應(yīng)率1 引言客戶是企業(yè)收入的直接來(lái)源,不斷獲得新客戶是企業(yè)持續(xù) 成長(zhǎng)的關(guān)鍵,但是企業(yè)在促銷(xiāo)中如果對(duì)所有客戶進(jìn)行宣傳,花費(fèi) 的成本太高,因此企業(yè)迫切需要在眾多潛在客戶中挖掘那些最 有可能對(duì)產(chǎn)品響應(yīng)的客戶,以提高企業(yè)的促銷(xiāo)響應(yīng)率。本文利 用概率神經(jīng)網(wǎng)絡(luò)對(duì)潛在客戶的相關(guān)數(shù)據(jù)進(jìn)行分析處理,訓(xùn)練神 經(jīng)網(wǎng)絡(luò)得到潛在客戶對(duì)促銷(xiāo)響應(yīng)的預(yù)測(cè)模型,模型將客戶分為 響應(yīng)客戶和不

2、響應(yīng)客戶兩類(lèi),指導(dǎo)企業(yè)有效地進(jìn)行促銷(xiāo)活動(dòng), 提高企業(yè)的投資收益率。概率神經(jīng)網(wǎng)絡(luò)是由Specht博士在1989年提出的,他采用 Parzen提出的由高斯函數(shù)為基函數(shù)來(lái)形成聯(lián)合概率密度分布的估 計(jì)方法和貝葉斯優(yōu)化規(guī)則,是一種可用于模式分類(lèi)的神經(jīng)網(wǎng)絡(luò), 其實(shí)質(zhì)是基于貝葉斯最小風(fēng)險(xiǎn)準(zhǔn)則發(fā)展而來(lái)的一種并行算法。 該網(wǎng)絡(luò)是將Bayes網(wǎng)絡(luò)與前饋神經(jīng)網(wǎng)絡(luò)相結(jié)合的概率神經(jīng)網(wǎng)絡(luò)模 型,具有訓(xùn)練時(shí)間短和能產(chǎn)生Bayes后驗(yàn)概率的輸出的特點(diǎn)。概率神經(jīng)網(wǎng)絡(luò)構(gòu)造了一種概率密度分類(lèi)估計(jì)、并行處理的 4層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。與其他方法相比,概率神經(jīng)網(wǎng)絡(luò)為單向網(wǎng) 絡(luò),不需要多次重復(fù)的訓(xùn)練,穩(wěn)定收斂于貝葉斯優(yōu)化解,只進(jìn) 行滑因子的估

3、計(jì),網(wǎng)絡(luò)訓(xùn)練速度高出BP網(wǎng)絡(luò)5個(gè)數(shù)量級(jí)以上,完 全滿足現(xiàn)場(chǎng)學(xué)習(xí)的要求,為構(gòu)造應(yīng)用系統(tǒng)提供了有力工具。實(shí) 例計(jì)算表明,概率神經(jīng)網(wǎng)絡(luò)在潛在客戶分類(lèi)中優(yōu)于傳統(tǒng)的方法 如線性回歸、BP神經(jīng)網(wǎng)絡(luò)。2 基于概率神經(jīng)網(wǎng)絡(luò)的潛在客戶挖掘2.1 確定業(yè)務(wù)對(duì)象企業(yè)將要推出一款新的產(chǎn)品,為了進(jìn)行宣傳推廣,要對(duì)潛基于概率神經(jīng)網(wǎng)絡(luò)的潛在客戶挖掘陳曉琴(重慶交通大學(xué)·重慶南岸在的客戶進(jìn)行推銷(xiāo),需要找出哪些是企業(yè)的潛在客戶。企業(yè)在 過(guò)去營(yíng)銷(xiāo)過(guò)程中積累了大量的歷史數(shù)據(jù),而且可以獲得大量的 相關(guān)客戶的公眾信息,以及這些客戶在以往銷(xiāo)售過(guò)程中的反應(yīng) 情況。企業(yè)可利用概率神經(jīng)網(wǎng)絡(luò)對(duì)這些商業(yè)數(shù)據(jù)進(jìn)行分析,得 到客戶接觸響應(yīng)的

4、預(yù)測(cè)模型。2.2 數(shù)據(jù)準(zhǔn)備將以往相似產(chǎn)品的銷(xiāo)售歷史記錄建立客戶分類(lèi)模型, 對(duì)于每個(gè)目標(biāo)客戶,可以搜集的數(shù)據(jù)有如下特征信息:某一 特定辦公地點(diǎn)的員工數(shù)(Local Emp、整個(gè)企業(yè)的員工數(shù) (Ttl Emp、某一特定辦公地點(diǎn)的年銷(xiāo)售額(Local Sale、 整個(gè)企業(yè)的銷(xiāo)售額(Ttl Sale、該企業(yè)是否有海外業(yè)務(wù) (International Flag等等。這些都不與該企業(yè)是否購(gòu)買(mǎi)推 銷(xiāo)產(chǎn)品做出回應(yīng)有明顯的直接關(guān)系,但通過(guò)概率神經(jīng)網(wǎng)絡(luò)可以 發(fā)現(xiàn)它們之間的內(nèi)在聯(lián)系,對(duì)這些客戶進(jìn)行分類(lèi),區(qū)分哪些是 高可能性的客戶,并將這些數(shù)據(jù)整理在data_rough.txt文件 中,前11列數(shù)據(jù)表示客戶的相關(guān)屬

5、性,最后一列表示該客戶是 否購(gòu)買(mǎi)企業(yè)的類(lèi)似產(chǎn)品。共有1000條不同潛在客戶的特征信 息,其中有一些會(huì)對(duì)銷(xiāo)售宣傳回應(yīng)。將非數(shù)值型的數(shù)據(jù)修改為數(shù)值型的數(shù)據(jù),導(dǎo)入Matlab工作 區(qū),利用Matlab中概率神經(jīng)網(wǎng)絡(luò)算法實(shí)施實(shí)驗(yàn)。2.3 數(shù)據(jù)挖掘利用Matlab神經(jīng)網(wǎng)絡(luò)工具包中提供的概率神經(jīng)網(wǎng)絡(luò)的處理 工具進(jìn)行潛在客戶挖掘。客戶響應(yīng)預(yù)測(cè)的Matlab程序:function ifResponse=pnnCustomerMing(data_train,data_customer,ip_train=data_train(:,1:11;p_train=p_train't_train=data_trai

6、n(:,12;t_train=t_train'制訂完善各種具體的、有針對(duì)性的、可操作性強(qiáng)的素質(zhì)教育的 制度辦法,推進(jìn)素質(zhì)逐步邁向規(guī)范化、可持續(xù)化道路。除常規(guī) 的、一般的制度外,學(xué)校應(yīng)當(dāng)制定素質(zhì)教育的近期和中長(zhǎng)期規(guī) 劃,使教育不斷向素質(zhì)教育靠近;同時(shí)要把如何開(kāi)展教研活 動(dòng)、提升教師素質(zhì)、實(shí)施素質(zhì)教育具體化,使素質(zhì)教育不斷深 化,使教師逐步自覺(jué)實(shí)施素質(zhì)教育,在實(shí)踐中提高自身素質(zhì), 從一專(zhuān)一能向一專(zhuān)多能發(fā)展。5 學(xué)校在素質(zhì)教育實(shí)踐上應(yīng)當(dāng)直接參與我國(guó)教育家葉圣陶先生就說(shuō)過(guò):“教是為了不教”。 要讓學(xué)生不僅學(xué)會(huì),而且“會(huì)學(xué)”?！皶?huì)學(xué)”就是要學(xué)生掌 握讀書(shū)、解題、思考、分析等具體的學(xué)法,從而用手中

7、的鑰 匙去開(kāi)啟智慧的大門(mén)。既要根據(jù)學(xué)科特點(diǎn),盡量讓學(xué)生多動(dòng) 手動(dòng)腳,動(dòng)口動(dòng)腦,讓學(xué)生學(xué)會(huì)發(fā)現(xiàn)問(wèn)題,解決問(wèn)題,找出 方法,養(yǎng)成愿學(xué)、會(huì)學(xué)、樂(lè)學(xué)的習(xí)慣。也要讓學(xué)生接受課程 以外的日常生活知識(shí)和生存本領(lǐng)。因此,除老師直接組織策 劃、直接組織實(shí)施的日常素質(zhì)教育外,學(xué)校也應(yīng)當(dāng)投入足夠 的人力物力,直接組織和策劃,直接參與一些活動(dòng)的全過(guò) 程。比如,有的學(xué)校每年都在開(kāi)展 “素質(zhì)教育夏令營(yíng)”、 “素質(zhì)教育冬令營(yíng)”、“春季踏青活動(dòng)”、“秋季拓展訓(xùn) 練”等活動(dòng),每次活動(dòng)分組策劃主題,邀請(qǐng)教學(xué)經(jīng)驗(yàn)豐富的 老師、有實(shí)踐經(jīng)驗(yàn)的專(zhuān)家周密部署和指導(dǎo),以突出實(shí)踐素質(zhì) 教育主題的科學(xué)性、針對(duì)性,實(shí)踐主題應(yīng)突出培訓(xùn)學(xué)生的自 我管

8、理能力的培養(yǎng)、良好學(xué)習(xí)生活習(xí)慣的養(yǎng)成,自我認(rèn)知能 力、獨(dú)立生存能力、人際溝通能力、團(tuán)隊(duì)協(xié)作能力、挫折承 受能力、應(yīng)變能力、學(xué)習(xí)能力和創(chuàng)新能力以及全腦學(xué)習(xí)系統(tǒng) 的開(kāi)發(fā)等等,這對(duì)全面提高學(xué)生的素質(zhì)大有裨益。 2011.No16t_train=ind2vec(t_train;net=newpnn(p_train,t_train,i;ifResponse=vec2ind(sim(net,data_customer'-1;(1數(shù)據(jù)導(dǎo)入與分組。將數(shù)據(jù)data_prepared.mat導(dǎo)入工 作區(qū)。將數(shù)據(jù)分為兩組,訓(xùn)練數(shù)據(jù)集和測(cè)試數(shù)據(jù)集。利用訓(xùn)練 數(shù)據(jù)集訓(xùn)練神經(jīng)網(wǎng)絡(luò),得到潛在客戶挖掘模型,測(cè)試數(shù)據(jù)集

9、用 來(lái)檢驗(yàn)神經(jīng)網(wǎng)絡(luò)模型的可靠性。利用Matlab提供的函數(shù),可以設(shè)計(jì)算法對(duì)數(shù)據(jù)隨機(jī)分組, 生成訓(xùn)練數(shù)據(jù)集data_train和測(cè)試數(shù)據(jù)集data_test。生成訓(xùn)練 數(shù)據(jù)集和測(cè)試數(shù)據(jù)集,data_train=data_prepared(index_train,:,data_test=data_prepared(index_test,:。(2訓(xùn)練神經(jīng)網(wǎng)絡(luò)。利用Matlab神經(jīng)網(wǎng)絡(luò)工具包中提供的 概率神經(jīng)網(wǎng)絡(luò)的處理函數(shù)針對(duì)訓(xùn)練數(shù)據(jù)集進(jìn)行概率神經(jīng)網(wǎng)絡(luò)的構(gòu) 建。并生成輸入矩陣、輸出目標(biāo)矩陣、訓(xùn)練概率神經(jīng)網(wǎng)絡(luò)。(3模型檢驗(yàn)。下面利用測(cè)試數(shù)據(jù)集data_test對(duì)構(gòu)建 的神經(jīng)網(wǎng)絡(luò)在潛在客戶分類(lèi)中的有效性進(jìn)

10、行檢驗(yàn),并通過(guò)比較 選擇最佳的spread值。生成輸入矩陣,生成預(yù)期輸出結(jié)果,利 用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型對(duì)測(cè)試數(shù)據(jù)集客戶進(jìn)行分類(lèi)。得到 模型的實(shí)際輸出結(jié)果,這可以利用Matlab中的sim函數(shù)完成, o_test=sim(net,p_test。得到的o_test是一個(gè)稀疏矩陣, 需要將其轉(zhuǎn)化為1×500的各個(gè)客戶所屬類(lèi)別的向量,這利用 ind2vec的逆操作vec2ind完成,o_test=vec2ind(o_test。(4結(jié)果檢驗(yàn)和模型選擇。有兩個(gè)輸出結(jié)果:模型輸出 結(jié)果和預(yù)期輸出結(jié)果。模型輸出結(jié)果是我們的神經(jīng)網(wǎng)絡(luò)模型利 用提供的客戶相關(guān)信息,對(duì)客戶是否對(duì)產(chǎn)品做出相應(yīng)的一個(gè)預(yù) 測(cè)。

11、預(yù)期輸出結(jié)果是實(shí)際發(fā)生的數(shù)值,是客觀現(xiàn)實(shí),我們希望 模型輸出結(jié)果與預(yù)期輸出結(jié)果一致。在大量測(cè)試數(shù)據(jù)集中,模 型輸出結(jié)果與預(yù)期輸出結(jié)果一致的數(shù)量越多,說(shuō)明模型的預(yù)測(cè) 效果越好。同時(shí),由于在訓(xùn)練過(guò)程中我們利用hold-out方法選擇 spread值,對(duì)spread值取10000、5000、3000、2000、1000、 500、100、60、40、30、20、10、5、1、0.5、0.1、0.05、 0.04、0.03、0.01時(shí)分別對(duì)模型進(jìn)行訓(xùn)練,得到神經(jīng)網(wǎng)絡(luò)模型 net1到net20。在模型檢驗(yàn)中要根據(jù)不同模型的分類(lèi)效果,選擇 最佳的spread值和概率神經(jīng)網(wǎng)絡(luò)模型。這需要對(duì)20個(gè)模型的預(yù) 測(cè)

12、結(jié)果分別進(jìn)行檢驗(yàn),當(dāng)spread值達(dá)到10000時(shí),預(yù)測(cè)出的實(shí) 際對(duì)產(chǎn)品做出響應(yīng)的客戶的個(gè)數(shù)幾乎為0,而當(dāng)spread值小于 或等于0.03時(shí),總體預(yù)測(cè)準(zhǔn)確率、響應(yīng)客戶預(yù)測(cè)準(zhǔn)確率和不響 應(yīng)客戶預(yù)測(cè)準(zhǔn)確率基本上達(dá)到穩(wěn)定。從總體預(yù)測(cè)準(zhǔn)確率來(lái)看, spread值為10時(shí),預(yù)測(cè)效果最佳,但此時(shí)響應(yīng)客戶預(yù)測(cè)率不是 最高的,而本文需要預(yù)測(cè)的是在預(yù)測(cè)為響應(yīng)客戶的客戶中實(shí)際 上為響應(yīng)客戶的個(gè)數(shù),所以選擇響應(yīng)客戶預(yù)測(cè)率最高的一個(gè), 即是說(shuō)spread值為0.04時(shí)預(yù)測(cè)效果最好。2.4 不同方法潛在客戶挖掘結(jié)果比較分析在利用概率神經(jīng)網(wǎng)絡(luò)進(jìn)行潛在客戶挖掘的同時(shí),我們也 利用傳統(tǒng)的處理方法線性回歸和常用的神經(jīng)網(wǎng)絡(luò)BP

13、神經(jīng)網(wǎng)絡(luò) (Back Propagation Neural Networks,BPNN來(lái)對(duì)潛在客戶 進(jìn)行分類(lèi),試圖發(fā)現(xiàn)那些最有可能對(duì)促銷(xiāo)做出響應(yīng)的客戶。在利用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行客戶分類(lèi)的過(guò)程中,首先建立3層BP神經(jīng)網(wǎng)絡(luò),輸入層11個(gè)神經(jīng)元,中間隱含層8個(gè)神經(jīng)元, 輸出層1個(gè)神經(jīng)元,隱含層選激活函數(shù)tansig,輸出層選激在線性回歸方法中,首先建立線性回歸方程: 。其中t表 示n×1預(yù)期目標(biāo)輸出,p為n×11的輸入矩陣, 為誤差項(xiàng)。根據(jù) 訓(xùn)練數(shù)據(jù)集中的數(shù)據(jù),運(yùn)用Matlab線性回歸函數(shù)得到線性回歸 模型的參數(shù) ,b=regress(t,p。這樣,就可以利用線性回歸模 型預(yù)測(cè)客戶的類(lèi)型,并把預(yù)測(cè)結(jié)果跟預(yù)期結(jié)果比較,計(jì)算預(yù)測(cè) 準(zhǔn)確度,分析模型的預(yù)測(cè)效果。由上表可以看出,從總體預(yù)測(cè)準(zhǔn)確率來(lái)看,用概率神經(jīng)網(wǎng) 絡(luò)的方法進(jìn)行潛在客戶挖掘不完全是效果最佳的,但是本文需 要預(yù)測(cè)的是在預(yù)測(cè)為響應(yīng)客戶的客戶中實(shí)際上為響應(yīng)客戶的個(gè) 數(shù),所以我們應(yīng)從響應(yīng)客戶預(yù)測(cè)率方面來(lái)考慮,從中可以看出 概率神經(jīng)網(wǎng)絡(luò)方法優(yōu)于BP神經(jīng)網(wǎng)絡(luò)和線性回歸方法。3 總結(jié)概率神經(jīng)網(wǎng)絡(luò)(PNN在實(shí)際應(yīng)用中,尤其是在解決分類(lèi) 問(wèn)題的應(yīng)用中,它的優(yōu)勢(shì)在于用線性學(xué)習(xí)算法來(lái)完成以往非線 性學(xué)習(xí)算法所做的工作,同時(shí)又能保持非線性算法的高精度等 特性