新媒體時(shí)代下高校學(xué)生微博話題識(shí)別方法-以新浪微博為例

新媒體時(shí)代下高校學(xué)生微博話題識(shí)別方法----以新浪微博為例摘要：大學(xué)生的微博研究直接關(guān)系到高校思想政治教育。針對(duì)高校學(xué)生微博文本數(shù)據(jù)稀疏、缺少語義信息的情況，提出一種基于多種模型的高校學(xué)生微博話題識(shí)別方法。首先，使用連續(xù)詞袋模型對(duì)大量的微博文本進(jìn)行訓(xùn)練獲得詞嵌入表示；其次使用BTM雙詞主題模型對(duì)微博文本進(jìn)行建模，獲取微博主題特征向量；最后將微博詞嵌入向量與微博主題特征向量相融合，使用分類器進(jìn)行分類驗(yàn)證。實(shí)驗(yàn)結(jié)果表明新算法在準(zhǔn)確率、召回率及F值上均有良好的表現(xiàn)。關(guān)鍵詞：高校學(xué)生；微博話題識(shí)別；連續(xù)詞袋模型；BTM主題模型；0引言隨著互聯(lián)網(wǎng)時(shí)代的到來，大學(xué)生成為了網(wǎng)民群體的主力軍。黨的十九大報(bào)告指出，要加強(qiáng)互聯(lián)網(wǎng)內(nèi)容建設(shè)，建立網(wǎng)絡(luò)綜合治理體系，營造清朗的網(wǎng)絡(luò)空間[1]。據(jù)調(diào)查，微博、微信等自媒體軟件成為了大學(xué)生信息交互的主要途徑。為進(jìn)一步研究大學(xué)生微博使用情況，對(duì)大規(guī)模微博文本進(jìn)行模型建立、主題劃分、內(nèi)容擴(kuò)展，從而提高微博話題分類的準(zhǔn)確性。微博文本指的是用戶通過PC、手機(jī)等多種移動(dòng)終端接入，以文字、圖片、視頻等多媒體形式，實(shí)現(xiàn)信息的即時(shí)分享、傳播互動(dòng)的文本。一般來說微博文本的長度較短且重復(fù)的詞項(xiàng)較少，所以微博話題識(shí)別不可以視為一般的文本分類任務(wù)[2]。目前在微博話題識(shí)別的相關(guān)研究中，大多數(shù)學(xué)者使用短文本分類的相關(guān)技術(shù)，主要可以分為基于查詢規(guī)則的方法以及基于神經(jīng)網(wǎng)絡(luò)的分類方法[3]。1相關(guān)研究安璐[4]等針對(duì)微博文本的自身特點(diǎn)及內(nèi)容特征，使用基于相關(guān)性公式改進(jìn)的LDA模型來有效的生成文本的話題矩陣；李慧[5]等通過分析在線LDA模型無法對(duì)不同演化能力的話題進(jìn)行區(qū)分，提出了LOLDA模型，將微博話題標(biāo)簽融入模型中；王亞民等[6]為解決傳統(tǒng)方法在微博輿情熱點(diǎn)識(shí)別中存在的數(shù)據(jù)稀疏性，提出了利用BTM模型進(jìn)行建模的方法；He等[7]提出一種FastBTM模型，旨在提高BTM模型訓(xùn)練速度及準(zhǔn)確率；黃暢等[8]提出一種基于改進(jìn)突發(fā)詞對(duì)的BBTM主題模型，該模型能自動(dòng)發(fā)現(xiàn)最優(yōu)話題；陳鳳等[9]在識(shí)別微博話題過程中，將BTM模型與加權(quán)K-Means相結(jié)合，提高了熱點(diǎn)話題發(fā)現(xiàn)的準(zhǔn)確性和有效性。劉良選[10]提出BTM主題模型與詞向量結(jié)合的文本分類算法，提高了文本分類的準(zhǔn)確性。目前網(wǎng)絡(luò)上傳播的微博信息文本句子長度偏短、特征詞較少導(dǎo)致數(shù)據(jù)稀疏，直接影響微博話題識(shí)別準(zhǔn)確率偏低。針對(duì)上述問題，本文提出了基于多種模型的高校學(xué)生微博話題識(shí)別方法。核心思想是先利用連續(xù)詞袋模型(CBOW)對(duì)大規(guī)模的高校學(xué)生微博數(shù)據(jù)進(jìn)行向量化建模，獲取微博文本的詞嵌入表示；然后再使用BTM主題模型對(duì)微博文本進(jìn)行主題建模，獲取主題特征向量；最后將微博文本的詞向量與主題特征向量進(jìn)行結(jié)合，從而使得微博文本得到擴(kuò)展，擴(kuò)展后的微博文本將含有更多的特征詞。實(shí)驗(yàn)驗(yàn)證采用支持向量機(jī)（SVM）來對(duì)算法進(jìn)行分類驗(yàn)證，通過與傳統(tǒng)算法及單一模型進(jìn)行對(duì)比，驗(yàn)證本文算法的有效性。2基于多種模型的高校學(xué)生微博話題識(shí)別方法2.1連續(xù)詞袋模型(CBOW)Google公司的TomasMikolov等[11-12]提出了詞向量訓(xùn)練工具Word2vec，憑借此工具可以高效的在大規(guī)模字典或是數(shù)據(jù)集上進(jìn)行訓(xùn)練，獲得滿足用戶需求的文本詞向量表示結(jié)果。當(dāng)每個(gè)詞或句子都由向量表示后，就更容易的量化詞或句子之間的關(guān)聯(lián)性[13]。Mikolov等在Word2vec工具中提出了兩種計(jì)算模型分別是CBOW和Skip-gram。CBOW模型的計(jì)算過程是輸入當(dāng)前詞項(xiàng)相鄰的四個(gè)詞項(xiàng)來進(jìn)行預(yù)測(cè)并輸出當(dāng)前詞項(xiàng)，而后者則是輸入當(dāng)前詞項(xiàng)來進(jìn)行預(yù)測(cè)并輸出當(dāng)前詞相鄰的四個(gè)詞。CBOW模型訓(xùn)練速度則要快一些，對(duì)低頻詞效果更好[14]，所以本文的實(shí)驗(yàn)中，選取CBOW模型進(jìn)行訓(xùn)練樣本。2.2BTM主題模型常用的主題模型是通過計(jì)算文本中詞的貢獻(xiàn)度來形成主題模型。而微博短文本數(shù)據(jù)稀疏，特征詞較少，使用傳統(tǒng)算法建模往往不能夠?qū)ξ谋居辛己玫谋碚?。為了有效解決短文本稀疏的問題，學(xué)者們提出基于一種雙詞模型(bitermtopicmodel,BTM)[15]的微博話題識(shí)別方法。BTM模型改變了使用詞頻建模的傳統(tǒng)方式，而是更深層次的挖掘語義關(guān)系。BTM模型的前提是對(duì)文本主題分布進(jìn)行假設(shè)，假設(shè)語料庫中的所有文本是由若干個(gè)主題模型混合分布而成，全局主題遵循某種分布產(chǎn)生每一個(gè)主題因子。其核心思想是對(duì)微博短文本中的無序共現(xiàn)詞對(duì)進(jìn)行建模，若兩個(gè)詞項(xiàng)共現(xiàn)次數(shù)越多，則同屬一個(gè)主題的概率就越大。BTM模型的建模過程如圖3所示。圖1BTM模型建模過程在上圖中，為從高校學(xué)生微博中提取出的雙詞集合，在這里表示一個(gè)雙詞單元，和表示主題的Dirichlet分布參數(shù)，為微博短文本的主題分布，表示當(dāng)前主題下的詞項(xiàng)分布，指多項(xiàng)分布，表示Dirichlet分布，指在訓(xùn)練前對(duì)微博文本設(shè)置的主題數(shù)量。表示主題的Dirichlet分布。BTM模型實(shí)現(xiàn)主題分布的步驟如下：Step1對(duì)參數(shù)進(jìn)行抽樣，得出主題中的詞分布；Step2從參數(shù)的分布中，抽樣出所有文本集合的全局主題分布；Step3從微博短文本參數(shù)中抽取主題的分布，服從；Step4從上述抽取的主題中抽取，這兩個(gè)共現(xiàn)詞對(duì)，并服從。Step5從短文本語料庫共同參數(shù)抽取主題，服從；Step6設(shè)語料中的一個(gè)詞對(duì)為，，從上述抽取的主題中抽取，這兩個(gè)詞，并使其服從2.3具體方法流程高校大學(xué)生微博話題識(shí)別是大學(xué)教師對(duì)學(xué)生網(wǎng)絡(luò)思想政治教育的重要環(huán)節(jié)，只有精準(zhǔn)判斷高校學(xué)生微博話題，才能有效的把控當(dāng)前學(xué)生思想動(dòng)向，從而進(jìn)行輿情分析。微博短文本數(shù)據(jù)較為稀疏，為解決特征詞較少、識(shí)別精度不高等問題，本文提出了一種利用連續(xù)詞袋模型擴(kuò)展并融合BTM主題模型的高校大學(xué)生微博話題識(shí)別方法。該方法的構(gòu)建流程如圖4所示。Step1通過多線程爬蟲，獲取新浪微博平臺(tái)的高校大學(xué)生微博信息短文本。Step2利用Word2vec工具中的連續(xù)詞袋模型(CBOW)訓(xùn)練大量的微博信息短文本。Step3使用BTM主題模型對(duì)微博短文本進(jìn)行主題構(gòu)建；Step4利用BTM主題特征詞及訓(xùn)練得到的詞向量，對(duì)微博文本進(jìn)行特征擴(kuò)展。Step5使用支持向量機(jī)(SVM)對(duì)新的微博文本進(jìn)行分類，測(cè)試本文方法的分類效果。圖2基于多種模型的微博話題識(shí)別方法流程圖2.4高校大學(xué)生微博短文本的表示方法通過分析高校大學(xué)生微博短文本在網(wǎng)絡(luò)中傳播的方式及形態(tài)發(fā)現(xiàn)，有許多的微博話題的用戶回復(fù)中也存在許多的重要信息，用戶回復(fù)頻道往往成為高校大學(xué)生之間的交流區(qū)，所以在設(shè)計(jì)多線程爬蟲時(shí)，我們考慮將用戶評(píng)論信息一并爬取存檔，并將其與微博正文結(jié)合形成大規(guī)模微博原始語料庫。為了使微博文本獲得更多的特征項(xiàng)，首先將不同主題下的所有微博正文及回復(fù)文本整理形成一個(gè)大規(guī)模長文本，使用連續(xù)詞袋模型對(duì)整個(gè)大規(guī)模的長文檔來訓(xùn)練詞向量。在實(shí)驗(yàn)中，我們?cè)O(shè)置word2vec工具參數(shù)如下：1.在Linux環(huán)境下運(yùn)行工具。2.滑動(dòng)窗口大小設(shè)置為10。3.選擇不適用二進(jìn)制的存儲(chǔ)方式。(具體訓(xùn)練操作命令如下：-outputvectors.bin-cbow1-size200-window5-negative0-threads12-binary0)使用Word2vec訓(xùn)練得到的詞向量，其公式表示為：(1)其中，表示大規(guī)模數(shù)據(jù)集中第個(gè)詞，表示的詞向量表示。通過上述操作獲得了微博文本的詞向量表示，接下來使用BTM主題模型對(duì)微博文本進(jìn)行主題建模，采用Gibbssampling方法來進(jìn)行采樣，獲得微博文本的詞-主題分布。由于概率分布的計(jì)算結(jié)果在[0,1]之間，數(shù)值表示當(dāng)前詞項(xiàng)劃分到當(dāng)前主題的概率，所有處理時(shí)將主題概率按從大到小排序，取前個(gè)主題詞作為擴(kuò)展，表示公式如下:(2)其中表示文檔集合中第篇文檔的基于BTM主題模型的擴(kuò)展文檔，表示第篇文檔所形成的詞表中的第個(gè)詞，表示基于BTM主題模型的個(gè)特征擴(kuò)展。經(jīng)過兩次建模后得到了微博文本的連續(xù)詞袋模型表示方法以及BTM主題模型表示方法，拼接二者即可獲得含有豐富特征詞的表示方法。最終的微博文本表達(dá)式如下：(3)3實(shí)驗(yàn)及結(jié)果分析3.1實(shí)驗(yàn)數(shù)據(jù)2017年9月，教育部公布了新修訂的《普通高等學(xué)校輔導(dǎo)員隊(duì)伍建設(shè)規(guī)定》[18-19]，進(jìn)一步強(qiáng)調(diào)高校輔導(dǎo)員隊(duì)伍建設(shè)，對(duì)輔導(dǎo)員的定位和職責(zé)做出了全新的規(guī)定。文件規(guī)定高校學(xué)生工作的主要有如下幾點(diǎn)：1.思想理論教育和價(jià)值引領(lǐng)。2.黨團(tuán)和班級(jí)建設(shè)。3.學(xué)風(fēng)建設(shè)。4.學(xué)生日常事務(wù)管理。5.心理健康教育與咨詢工作。6.網(wǎng)絡(luò)思想政治教育。7.校園危機(jī)事件應(yīng)對(duì)。8.職業(yè)規(guī)劃與就業(yè)創(chuàng)業(yè)指導(dǎo)。9.理論和實(shí)踐研究。以上九項(xiàng)內(nèi)容完全涵蓋了高校學(xué)生生活學(xué)業(yè)的方方面面，所以在采集本次實(shí)驗(yàn)數(shù)據(jù)時(shí)，參考以上9個(gè)類別來設(shè)計(jì)多線程爬蟲。實(shí)驗(yàn)數(shù)據(jù)來自新浪微博首頁（），通過關(guān)鍵字檢索相關(guān)話題文本，使用多線程爬蟲依循廣度優(yōu)先策略進(jìn)行微博文本爬取。話題包括6個(gè)類別：大學(xué)生教學(xué)、大學(xué)生生活、大學(xué)生思想教育、大學(xué)生就業(yè)、大學(xué)生黨建、大學(xué)生管理工作。數(shù)據(jù)格式如表1所示。微博訓(xùn)練集采用中科院NLPIR漢語分詞系統(tǒng)進(jìn)行分詞及詞性標(biāo)注。在預(yù)處理語料之后，按照具體的方法流程，先對(duì)微博數(shù)據(jù)進(jìn)行詞向量訓(xùn)練，再使用BTM主題模型來獲取文本的主題擴(kuò)展，主題詞數(shù)設(shè)置為20。表1數(shù)據(jù)格式類別文本特征詞大學(xué)生教學(xué)歡迎本校參加全國大學(xué)生數(shù)學(xué)競(jìng)賽的同學(xué)、有考研意向的同學(xué)以及有提高自身數(shù)學(xué)能力需求的同學(xué)憑本校學(xué)生證或者學(xué)生卡聽課歡迎、參加、大學(xué)生、數(shù)學(xué)競(jìng)賽、考研、提高、數(shù)學(xué)能力、學(xué)生證、聽課大學(xué)生生活生活在有公共洗漱間的大學(xué)生與其他人有較多的接觸，潛移默化地改變了他們內(nèi)向的性格，培養(yǎng)了他們的社交能力。?生活、洗漱間、大學(xué)生、接觸、改變、內(nèi)向、性格、培養(yǎng)、社交能力大學(xué)生就業(yè)面試時(shí)應(yīng)該避開哪些“坑”？如何給面試官留下好印象，拿到心儀的offer？面試、避開、坑、面試官、印象、offer3.2實(shí)驗(yàn)評(píng)價(jià)標(biāo)準(zhǔn)由于支持向量機(jī)(SVM)在文本分類領(lǐng)域的優(yōu)良表現(xiàn)，本文使用SVM分類器對(duì)基于多種模型的高校大學(xué)生微博話題識(shí)別方法進(jìn)行分類試驗(yàn)。本次實(shí)驗(yàn)采用標(biāo)準(zhǔn)分類任務(wù)評(píng)價(jià)指標(biāo)來衡量模型的效果。評(píng)價(jià)標(biāo)準(zhǔn)采用三項(xiàng)指標(biāo)來衡量，分別是準(zhǔn)確率(Precision)、召回率(Recall)及調(diào)和平均值(F-Measure)，計(jì)算公式如下：(4)(5)(6)其中，指所屬類別和預(yù)測(cè)類別一致的文本數(shù)量；指將本不屬于該類的文本預(yù)測(cè)為所屬文本的數(shù)量；表示將原本屬于該類別的文本預(yù)測(cè)為不屬于該類別的數(shù)量。4.3結(jié)果及分析本次實(shí)驗(yàn)選擇四種單一模型與本文模型進(jìn)行對(duì)比試驗(yàn)。算法1：基于VSM的模型；算法2：基于LDA主題模型；算法3：基于BTM主題模型；算法4：本文算法。由于BTM主題模型與LDA主題模型類似，為了使詞-主題向量更具代表性，在訓(xùn)練前都需要對(duì)主題數(shù)K進(jìn)行調(diào)參。調(diào)參過程選擇全部文本數(shù)據(jù)集，參考試驗(yàn)結(jié)果的準(zhǔn)確率，準(zhǔn)確率結(jié)果如圖5所示。圖3不同候選集主題下的準(zhǔn)確率圖5的折線圖清晰的反映了隨著主題數(shù)的增加計(jì)算準(zhǔn)確率的變化，而當(dāng)主題數(shù)設(shè)置為5時(shí)，準(zhǔn)確率最高。所以在接下來的試驗(yàn)中，設(shè)置主題K的輸入值為5。首先測(cè)試本文方法在各個(gè)主題下的問題分類效果，評(píng)價(jià)其準(zhǔn)確率、召回率及F值；在此之后，對(duì)比其他三種單一模型，評(píng)價(jià)其平均準(zhǔn)確率、召回率及F值。實(shí)驗(yàn)結(jié)果如表2、表3所示。表2本文算法在各個(gè)類別的分類效果類別準(zhǔn)確率召回率F值大學(xué)生教學(xué)0.85670.90730.8330大學(xué)生生活0.83730.90850.8418大學(xué)生思想教育0.84440.88390.8729大學(xué)生就業(yè)0.88730.78150.8872大學(xué)生管理工作0.85170.82480.8536大學(xué)生黨建0.81050.84970.8894表3不同分類算法的分類效果對(duì)比分類方法準(zhǔn)確率召回率F值VSM0.67640.69470.7096LDA0.73460.75650.7745BTM0.76620.79280.8065本文算法0.84790.82750.8365通過分析表2數(shù)據(jù)，基于多種模型的高校大學(xué)生微博話題識(shí)別方法在設(shè)置的六個(gè)主題下的問題語料中均有不錯(cuò)的分類表現(xiàn)。從表3中觀察得到，基于多種模型的微博話題識(shí)別效果明顯優(yōu)于單一模型，而相比基于LDA模型和基于VSM模型，基于BTM主題模型的優(yōu)越性也很明顯。因?yàn)橄蛄靠臻g模型的傳統(tǒng)詞袋法無法良好的表示微博文本，而基于LDA的主題模型對(duì)于較為稀疏的微博短文本效果不佳。圖4不同分類算法的F值對(duì)比由圖6可以看出，本文利用連續(xù)詞袋模型及BTM主題模型訓(xùn)練微博數(shù)據(jù)集，使微博短文本得到有效的擴(kuò)充，從而提高分類效果，在F值的方面也有不錯(cuò)的表現(xiàn)。通過上述實(shí)驗(yàn)結(jié)果分析表明，改進(jìn)的微博短文本模型能有效的識(shí)別微博話題，高校教育者要充分利用這些微文化媒介加強(qiáng)大學(xué)生的素質(zhì)教育。1.有針對(duì)性的提高大學(xué)生思政教育工作者的互聯(lián)網(wǎng)素養(yǎng)，使教育者有能力利用微博或其他互聯(lián)網(wǎng)平臺(tái)與學(xué)生進(jìn)行溝通、交流，實(shí)時(shí)把握學(xué)生動(dòng)態(tài)。2.進(jìn)一步加強(qiáng)網(wǎng)絡(luò)道德教育，讓大學(xué)生指導(dǎo)網(wǎng)絡(luò)道德的重要性，制造和傳播謠言的行為不可取。3.大力開展新媒體實(shí)踐活動(dòng)，讓網(wǎng)絡(luò)新媒體的聲音活躍在校園。4結(jié)束語本文提出一種基于多種模型的高校大學(xué)生微博話題識(shí)別方法，利用連續(xù)詞袋模型對(duì)大學(xué)生微博文本進(jìn)行向量建模，同時(shí)對(duì)大規(guī)模微博語料進(jìn)行BTM主題建模來擴(kuò)充文本特征，能有效的解決問題文本的稀疏性的問題。通過多項(xiàng)實(shí)驗(yàn)驗(yàn)證表明，本文提出的方法在準(zhǔn)確率、召回率及F值上均有良好的效果。本次研究中仍存在不足，比如未將轉(zhuǎn)發(fā)量、評(píng)論次數(shù)等數(shù)據(jù)納入權(quán)重的考量范圍；未對(duì)熱門微博進(jìn)行追蹤；未對(duì)微博話題的傳播模型進(jìn)行本質(zhì)的探索。在后期的研究中，應(yīng)該從以上幾點(diǎn)入手，更加深入透徹進(jìn)行算法研究工作。參考文獻(xiàn)[1]代明竹,高嵩峰.聚類算法在高校學(xué)生微博的應(yīng)用研究[J].現(xiàn)代電子技術(shù),2019,42(07):177-180.[2]尹坤.基于語義信息的問題分類研究[D].西南交通大學(xué),2014.(YinKun.Researchontheclassificationofproblemsbasedonsemanticinformation[D].SouthwestJiaoTongUniversity,2014.)[3]黃暢,郭文忠,郭昆.基于雙向量模型的自適應(yīng)微博話題追蹤方法[J].小型微型計(jì)算機(jī)系統(tǒng),2019,40(06):1203-1209.[4]安璐,梁艷平.突發(fā)公共衛(wèi)生事件微博話題與用戶行為選擇研究[J].數(shù)據(jù)分析與知識(shí)發(fā)現(xiàn),2019,3(04):33-41.[5]李慧,王麗婷.基于話題標(biāo)簽的微博熱點(diǎn)話題演化研究[J].情報(bào)科學(xué),2019,37(01):30-36.[6]YaminW,YueH.HotspotDetectioninMicroblogPublicOpinionBasedonBitermTopicModel[J].JournalofIntelligence,2016,35(11):119-124.[7]XingweiHe,HuaXu,JiaLi,LiuHe,LinlinYu.FastBTM:Reducingthesamplingtimeforbitermtopicmodel[J].Knowledge-BasedSystems,2017,132:11-20.[8]黃暢,郭文忠,郭昆.面向微博熱點(diǎn)話題發(fā)現(xiàn)的改進(jìn)BBTM模型研究[J].計(jì)算機(jī)科學(xué)與探索,2019,13(07):1102-1113.[9]陳鳳,蒙祖強(qiáng).基于BTM和加權(quán)K-Means的微博話題發(fā)現(xiàn)[J].廣西師范大學(xué)學(xué)報(bào)(自然科學(xué)版),2019,37(03):71-78.[10]劉良選,黃夢(mèng)醒.融合詞向量特征的雙詞主題模型[J].計(jì)算機(jī)應(yīng)用研究,2017,34(7):2055-2058.(LiuLiangxuan,HuangMengxing.Thetwowordthememodeloffusionwordvectorfeature[J].computerapplicationresearch,2017,34(7):2055-2058.)[11]QuocLe,TomasMikolov,etal.DistributedRepresentationsofSentencesandDocuments[C]//InternationalConferenceonMachineLearning.2014:2931-2939.[12]MikolovT,CorradoG,ChenK,etal.EfficientEstimationofWordRepresentationsinVectorSpace[C]//InternationalConferenceonLearningRepre