2020年論文：大數(shù)據(jù)在高校中的應(yīng)用研究.doc

論文：大數(shù)據(jù)在高校中的應(yīng)用研究 高校大數(shù)據(jù)及其處理架構(gòu) 高校中匯聚著大量的信息，從學(xué)生角度來(lái)看，包括聯(lián)系方式等基本信息，食堂消費(fèi)、住宿晚歸等生活信息，選課、課后作業(yè)、借閱圖書(shū)、成績(jī)等學(xué)習(xí)信息，參與的社團(tuán)、競(jìng)賽、講座等第二課堂信息;從教師角度來(lái)看，包含教學(xué)任務(wù)、課件等教學(xué)信息，論文著作、科學(xué)研究數(shù)據(jù)等科研信息;從管理者的角度來(lái)看，包含學(xué)校的資產(chǎn)信息、師資信息、招生就業(yè)信息等。同時(shí)隨著移動(dòng)互聯(lián)網(wǎng)以及物聯(lián)網(wǎng)等新技術(shù)的興起，學(xué)校師生主動(dòng)產(chǎn)生和由設(shè)備自動(dòng)收集的信息越來(lái)越多，如微博、微信等社交信息，各類搜索點(diǎn)擊記錄信息等。上述信息存在著數(shù)據(jù)量大、結(jié)構(gòu)復(fù)雜、產(chǎn)生頻率快的特點(diǎn)。這導(dǎo)致利用常用軟件工具捕獲、管理和處理此類數(shù)據(jù)所耗費(fèi)時(shí)問(wèn)超過(guò)了可容忍的時(shí)問(wèn)。 大數(shù)據(jù)的處理流程與一般數(shù)據(jù)的處理過(guò)程類似，可以定義為在合適工具的輔助下對(duì)廣泛異構(gòu)的數(shù)據(jù)源進(jìn)行抽取和集成，將結(jié)果按照一定的標(biāo)準(zhǔn)統(tǒng)一存儲(chǔ)，利用合適的數(shù)據(jù)分析技術(shù)對(duì)存儲(chǔ)的數(shù)據(jù)進(jìn)行分析從中提取有益的知識(shí)，并利用恰當(dāng)?shù)姆绞綄⒔Y(jié)果展現(xiàn)給終端用戶。具體來(lái)說(shuō)可以分為數(shù)據(jù)抽取與集成、數(shù)據(jù)分析和數(shù)據(jù)展示。 數(shù)據(jù)抽取與集成 大數(shù)據(jù)的數(shù)據(jù)非常廣泛，既包括傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(kù)，也包括半結(jié)構(gòu)化數(shù)據(jù)，以及以視頻、音頻、文本和其他形式存在的非結(jié)構(gòu)化數(shù)據(jù)。數(shù)據(jù)抽取和集成要解決的主要問(wèn)題就是收集各種碎片化的數(shù)據(jù)，對(duì)數(shù)據(jù)進(jìn)行清洗，保證數(shù)據(jù)質(zhì)量，同時(shí)根據(jù)時(shí)問(wèn)演進(jìn)小斷更新數(shù)據(jù)模式，確定數(shù)據(jù)實(shí)體及其之問(wèn)的關(guān)系，最終將數(shù)據(jù)按照統(tǒng)一的格式進(jìn)行存儲(chǔ)，以便提供給上層用來(lái)進(jìn)行數(shù)據(jù)分析。 目前高校已經(jīng)基本建立了完備的管理信息系統(tǒng)、學(xué)習(xí)管理系統(tǒng)等，在統(tǒng)一數(shù)據(jù)中心中積累了大量的結(jié)構(gòu)化數(shù)據(jù);同時(shí)各類系統(tǒng)中還散布著大量的半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)。半結(jié)構(gòu)化和非結(jié)構(gòu)化的數(shù)據(jù)經(jīng)過(guò)一定處理后，可以轉(zhuǎn)化為更容易分析使用的結(jié)構(gòu)化數(shù)據(jù)。 數(shù)據(jù)分析 經(jīng)過(guò)抽取和集成得到的數(shù)據(jù)，需要經(jīng)過(guò)分析挖掘其潛在的價(jià)值。傳統(tǒng)的數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)、統(tǒng)計(jì)分析等方法仍然可以用來(lái)對(duì)數(shù)據(jù)進(jìn)行分析，只是需要根據(jù)大數(shù)據(jù)的特征進(jìn)行調(diào)整。首先，為了實(shí)現(xiàn)對(duì)海量數(shù)據(jù)的分析，需要依據(jù)模型，將數(shù)據(jù)拆分處理，然后再將結(jié)果匯總，一個(gè)完整的分析可能會(huì)經(jīng)過(guò)多層類似的處理過(guò)程;其次，大數(shù)據(jù)的應(yīng)用通常具有實(shí)時(shí)性的特點(diǎn)，數(shù)據(jù)的價(jià)值會(huì)隨著時(shí)問(wèn)的流逝而遞減，因此分析方法需要平衡處理的效率和準(zhǔn)確率;最后，大數(shù)據(jù)一般構(gòu)建在云計(jì)算平臺(tái)之上，分析方法需要考慮與云計(jì)算平臺(tái)的集成或做為一種云服務(wù)。 數(shù)據(jù)展示 數(shù)據(jù)分析得到的分析結(jié)果，需要以直觀可理解的方式呈獻(xiàn)給最終用戶，在大數(shù)據(jù)時(shí)代，數(shù)據(jù)分析產(chǎn)生的結(jié)果有可能也是非常大量的，且結(jié)果之問(wèn)的關(guān)聯(lián)關(guān)系復(fù)雜、數(shù)據(jù)維度更多，數(shù)據(jù)可視化技術(shù)通過(guò)更加適合人類思維的圖形化的方式展示數(shù)據(jù)分析結(jié)果，已經(jīng)被證明是展示數(shù)據(jù)分析結(jié)果非常有效的方法。常見(jiàn)的可視化方法有:多維疊加式數(shù)據(jù)可視化、數(shù)據(jù)在空問(wèn)、時(shí)問(wèn)坐標(biāo)中的變化和對(duì)比等，當(dāng)然要將枯燥的信息轉(zhuǎn)換為美麗的、令人印象深刻的圖形，需要較高的技術(shù)素養(yǎng)和藝術(shù)素養(yǎng)。 大數(shù)據(jù)在高校中的典型應(yīng)用 很多高校正在使用大數(shù)據(jù)分析技術(shù)解決遇到的實(shí)際問(wèn)題，如美國(guó)德克薩斯大學(xué)利用大數(shù)據(jù)技術(shù)分析學(xué)校用戶使用行為產(chǎn)生的數(shù)據(jù)，確定用戶行為異常，審計(jì)基礎(chǔ)環(huán)境，制定安全防護(hù)措施。其他的一些應(yīng)用場(chǎng)景包括分析學(xué)生參與網(wǎng)絡(luò)課堂產(chǎn)生的數(shù)據(jù)，進(jìn)而確定如何改進(jìn)課程講述方式，達(dá)到因材施教的教育目標(biāo)。 高?？梢栽诰蜆I(yè)情況分析、學(xué)習(xí)行為分析、學(xué)科規(guī)劃、心理咨詢、校友聯(lián)絡(luò)等方面借助大數(shù)據(jù)分析技術(shù)，挖掘數(shù)據(jù)中潛在的價(jià)值。 就業(yè)情況分析 當(dāng)前市場(chǎng)經(jīng)濟(jì)高速發(fā)展、高校小斷擴(kuò)招、就業(yè)制度改革小斷深化和畢業(yè)生數(shù)量逐年增加、社會(huì)整體就業(yè)形勢(shì)日益嚴(yán)峻，大學(xué)生就業(yè)問(wèn)題己經(jīng)越來(lái)越成為目前大家共同關(guān)心的話題，研究大學(xué)生就業(yè)問(wèn)題具有緊迫性和重要性。本文提出在大數(shù)據(jù)分析框架下的就業(yè)問(wèn)題分析思路。 1.數(shù)據(jù) 傳統(tǒng)的就業(yè)分析一般從就業(yè)單位、就業(yè)地區(qū)、所在院系專業(yè)、性別、簽約類別、就業(yè)年份等維度來(lái)分析，得到的只是一般意義上的統(tǒng)計(jì)結(jié)果，對(duì)于指導(dǎo)單個(gè)學(xué)生的就業(yè)以及預(yù)測(cè)未來(lái)的就業(yè)情況發(fā)揮的作用比較有限。應(yīng)用大數(shù)據(jù)分析技術(shù)，就可以將學(xué)生就業(yè)模型涉及到的學(xué)習(xí)情況、社團(tuán)信息、生活信息、校外實(shí)習(xí)、參加的競(jìng)賽及獲獎(jiǎng)情況、所投公司當(dāng)年的招聘計(jì)劃、歷屆學(xué)生在所投公司的表現(xiàn)等眾多的信息進(jìn)行收集。以上海財(cái)經(jīng)大學(xué)為例，可以從各類系統(tǒng)中抽取學(xué)生的各類信息，構(gòu)成就業(yè)分析模型所需的各類數(shù)據(jù)。 2.數(shù)據(jù)抽取與存儲(chǔ) 針對(duì)數(shù)據(jù)的小同，我們采取小同的數(shù)據(jù)抽取方式，對(duì)于結(jié)構(gòu)良好的各信息系統(tǒng)的數(shù)據(jù)，我們采用ETI工具如Kettle將數(shù)據(jù)抽取到數(shù)據(jù)庫(kù)中;對(duì)于Web網(wǎng)頁(yè)這類非結(jié)構(gòu)化數(shù)據(jù)，通過(guò)進(jìn)行抓取，對(duì)數(shù)據(jù)進(jìn)行索引后存儲(chǔ)到數(shù)據(jù)庫(kù)中。數(shù)據(jù)庫(kù)是一個(gè)開(kāi)源的高可靠性、高性能、可伸縮、并非建立在關(guān)系模型基礎(chǔ)上的分布式數(shù)據(jù)庫(kù)，用以存儲(chǔ)大規(guī)模結(jié)構(gòu)化數(shù)據(jù)。 3.數(shù)據(jù)分析 將就業(yè)分析模型所需的數(shù)據(jù)存儲(chǔ)在數(shù)據(jù)庫(kù)后，可以利用數(shù)據(jù)進(jìn)行查詢和分析。提供了一種簡(jiǎn)單的類SQI查詢語(yǔ)言，適合數(shù)據(jù)倉(cāng)庫(kù)的統(tǒng)計(jì)分析。通過(guò)我們可以實(shí)現(xiàn)傳統(tǒng)數(shù)據(jù)倉(cāng)庫(kù)所實(shí)現(xiàn)的對(duì)就業(yè)數(shù)據(jù)的匯總統(tǒng)計(jì)分析，而且可以容易的擴(kuò)展其存儲(chǔ)能力和計(jì)算能力。 除了數(shù)據(jù)統(tǒng)計(jì)分析之外，我們還可以利用About這個(gè)機(jī)器學(xué)習(xí)工具對(duì)數(shù)據(jù)進(jìn)行監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)。監(jiān)督學(xué)習(xí)使用先驗(yàn)知識(shí)對(duì)數(shù)據(jù)進(jìn)行分類;無(wú)監(jiān)督學(xué)習(xí)則由計(jì)算機(jī)自己學(xué)習(xí)處理數(shù)據(jù)，并在做出判斷后給予一定的激勵(lì)或懲罰。在進(jìn)行就業(yè)分析時(shí)，我們可以使用About已經(jīng)實(shí)現(xiàn)的具體方法。首先是協(xié)作篩選，通過(guò)分析已就業(yè)學(xué)生的成績(jī)、參加的社團(tuán)活動(dòng)、關(guān)注的行業(yè)、性格特點(diǎn)、就業(yè)單位、就業(yè)崗位等，計(jì)算學(xué)生之問(wèn)的相似度，為即將畢業(yè)的學(xué)生推薦適合的就業(yè)單位和崗位，提供個(gè)性化的服務(wù);其次是聚類，這是一種無(wú)監(jiān)督的機(jī)器學(xué)習(xí)方法，我們可以通過(guò)小同的維度將未能及時(shí)就業(yè)的學(xué)生進(jìn)行分析，從中找出其共同的特點(diǎn)，再通過(guò)比較在校學(xué)生的相關(guān)屬性，及時(shí)對(duì)學(xué)生給出預(yù)警，以便其在后續(xù)的學(xué)習(xí)和生活中加以改進(jìn)。 4.數(shù)據(jù)展示 在數(shù)據(jù)展示層，我們可以使用軟件將分析的結(jié)果進(jìn)行可視化的展示，將數(shù)據(jù)與美觀的圖表完美地結(jié)合在一起，它包含非常多的預(yù)定義的圖表格式，同時(shí)還可以將時(shí)問(wèn)、地圖等多種維度在單一的圖表中進(jìn)行展示。 學(xué)習(xí)行為分析 為了支持學(xué)生的自主學(xué)習(xí)，高校一般都有自己的學(xué)習(xí)管理系統(tǒng)等。這些學(xué)習(xí)管理系統(tǒng)為學(xué)生、教師提供了課程學(xué)習(xí)和交流的空問(wèn)。美國(guó)教育部教育技術(shù)辦公室認(rèn)為教育數(shù)據(jù)分為鍵擊層、回答層、學(xué)期層、學(xué)生層、教室層、教師層和學(xué)校層，數(shù)據(jù)就寓居在這些小同的層之中。一般高校每年的開(kāi)課數(shù)在數(shù)千門，學(xué)生數(shù)在數(shù)萬(wàn)人，產(chǎn)生的數(shù)據(jù)量非常大。應(yīng)用大數(shù)據(jù)分析技術(shù)使得監(jiān)控學(xué)生的每一個(gè)學(xué)習(xí)行為變?yōu)榱丝赡?，學(xué)生在回答一個(gè)問(wèn)題時(shí)用了多長(zhǎng)時(shí)問(wèn)，哪些問(wèn)題被跳過(guò)了，為了回答問(wèn)題而作的研究工作等都可以獲得，用這些學(xué)生學(xué)習(xí)的行為檔案創(chuàng)造適應(yīng)性的學(xué)習(xí)系統(tǒng)能夠提高學(xué)生的學(xué)習(xí)效果。 學(xué)科規(guī)劃 促進(jìn)學(xué)科交叉融合發(fā)展，構(gòu)筑有生命力的學(xué)科生態(tài)，打造突顯核心競(jìng)爭(zhēng)力的高水平學(xué)科是學(xué)校學(xué)科規(guī)劃的重要任務(wù)。借助大數(shù)據(jù)分析技術(shù)，充分收集各學(xué)科的教學(xué)狀態(tài)數(shù)據(jù)、科研項(xiàng)目數(shù)據(jù)、前沿發(fā)展動(dòng)態(tài)等信息，從而分析學(xué)科建設(shè)存在的小足，確定學(xué)科未來(lái)發(fā)展的方向，發(fā)掘出潛在的具有國(guó)際視野的學(xué)科帶頭人。 自理咨詢 論壇、微博等平臺(tái)上每天都會(huì)產(chǎn)生由評(píng)論、帖子、留言等數(shù)據(jù)，這些數(shù)據(jù)集反映了師生的思想情況、情感走向和行為動(dòng)態(tài)，對(duì)這些數(shù)據(jù)進(jìn)行科學(xué)的存儲(chǔ)、管理并使用大數(shù)據(jù)技術(shù)進(jìn)行有效的分析利用，建立師生思想情感模型，對(duì)掌握師生心理健康程度，有針對(duì)性地加強(qiáng)對(duì)師生的心理輔導(dǎo)有著重要的意義。 校友聯(lián)絡(luò) 校友資源猶如一座座寶藏，對(duì)高校的發(fā)展建設(shè)有著小可替代的重要作用，是高校工作的重要組成部分。有效地把校友聯(lián)絡(luò)起來(lái)、團(tuán)結(jié)起來(lái)，對(duì)學(xué)校的建設(shè)和發(fā)展具有重要意義。利用傳統(tǒng)的管理方法，僅校友信息收集就要耗費(fèi)大量的時(shí)問(wèn)和精力。利用大數(shù)據(jù)技術(shù)，收集各類社交網(wǎng)站上的非結(jié)構(gòu)化數(shù)據(jù)，通過(guò)分類、聚類等數(shù)據(jù)挖掘方法，確定校友身份并收集其聯(lián)系方式、參加的活動(dòng)信息等，可以大大提高校友數(shù)據(jù)收集的效率，為以后利用校友資源提供良好的基礎(chǔ)。 應(yīng)用難點(diǎn)與對(duì)策 大數(shù)據(jù)在高校應(yīng)用的美好前景令人神往，但目前大數(shù)據(jù)的應(yīng)用還存在很多應(yīng)用難點(diǎn)，主要有數(shù)據(jù)集成困難、數(shù)據(jù)分析方法有待改進(jìn)和數(shù)據(jù)隱私問(wèn)題。 數(shù)據(jù)集成 在很多高校中，因?yàn)楣芾硇畔⑾到y(tǒng)設(shè)計(jì)時(shí)未考慮到對(duì)一些過(guò)程數(shù)據(jù)的收集，導(dǎo)致在分析時(shí)缺乏必要的數(shù)據(jù)，需要對(duì)應(yīng)用系統(tǒng)進(jìn)行擴(kuò)展;同時(shí)對(duì)于定義良好的結(jié)構(gòu)化數(shù)據(jù)很多高校也尚未很好的集成。在大數(shù)據(jù)時(shí)代，異構(gòu)的數(shù)據(jù)類型、廣泛存在的數(shù)據(jù)、參差小齊的數(shù)據(jù)質(zhì)量給數(shù)據(jù)集成帶來(lái)了新的挑戰(zhàn)。高校應(yīng)該探索融合結(jié)構(gòu)化、半結(jié)構(gòu)化、非結(jié)構(gòu)化數(shù)據(jù)的統(tǒng)一模型，同時(shí)提高數(shù)據(jù)采集的質(zhì)量，強(qiáng)化數(shù)據(jù)文化。 數(shù)據(jù)分析方法 半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的迅猛增長(zhǎng)，給傳統(tǒng)的聚類、關(guān)聯(lián)分析等數(shù)據(jù)挖掘技術(shù)帶來(lái)了巨大的沖擊和挑戰(zhàn)。一方面，很多應(yīng)用場(chǎng)景要求數(shù)據(jù)的實(shí)時(shí)分析;另一方面缺乏對(duì)半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的先驗(yàn)知識(shí)，難以構(gòu)建其問(wèn)的關(guān)聯(lián)關(guān)系。高校需要緊密跟蹤業(yè)界對(duì)大數(shù)據(jù)分析方法的研究動(dòng)態(tài)，同時(shí)通過(guò)高校問(wèn)的協(xié)作溝通探索新型的數(shù)據(jù)分析方法。 數(shù)據(jù)隱私 大數(shù)據(jù)分析的數(shù)據(jù)基礎(chǔ)必然建立在獲取更多個(gè)人信息之上，而且通過(guò)分析還可以使數(shù)據(jù)之問(wèn)產(chǎn)生關(guān)聯(lián)關(guān)系，進(jìn)而揭示更多的個(gè)人隱私。然而為了保護(hù)隱私就將所有數(shù)據(jù)加以隱藏，那么數(shù)據(jù)的價(jià)值就無(wú)法體現(xiàn)。這種矛盾在相當(dāng)長(zhǎng)的時(shí)問(wèn)內(nèi)必將一直存在，需要通過(guò)技術(shù)和制度的完善逐步解決。 移動(dòng)互聯(lián)等技術(shù)的小斷興起給高校的發(fā)展帶來(lái)了極大的挑戰(zhàn)，為了應(yīng)對(duì)這種