數(shù)據(jù)挖掘 第12章--離群點檢測：離群點和離群點分析

1、數(shù)據(jù)挖掘與商務(wù)智能范勤勤范勤勤物流研究中心物流研究中心1 離群點和離群點分析8什么是離群點？什么是離群點？ 假定使用一個給定的統(tǒng)計過程來產(chǎn)生數(shù)據(jù)對象集，離群點是一個數(shù)據(jù)對象，它顯著不同于其他數(shù)據(jù)對象，好像它是被不同的機制產(chǎn)生的一樣。離群點特點 離群點不同于噪聲數(shù)據(jù)（噪聲在數(shù)據(jù)分析中不是令人感興趣的）。 離群點是有趣的，因為懷疑產(chǎn)生它們的機制不同于產(chǎn)生其他數(shù)據(jù)的機制 離群點檢測還與演變數(shù)據(jù)集上的新穎性檢測（novelty detection）相關(guān)3離群點8離群點的類型全局離群點（也稱點異常） 定義：在給定的數(shù)據(jù)集中，顯著地偏離數(shù)據(jù)集中的其余對象 為了檢測它，關(guān)鍵問題是針對所考慮到應(yīng)用，找到一個合

2、適的偏離度量 在許多應(yīng)用中，全局離群點檢測都是重要的4全局離群點8離群點的類型情境（或條件）離群點 定義：在給定的數(shù)據(jù)集中，關(guān)于對象的特定情境，它顯著地偏離其他對象 示例：“今天的溫度為280C。這是一個異常（離群點）嗎？”如果是多倫多的冬天，則這是一個離群點；如果是多倫多的夏天，則這是正常的 一般地，在情境離群點檢測中，所考慮數(shù)據(jù)對象的屬性劃分為兩組： 情境屬性：數(shù)據(jù)對象的情境屬性定義對象的情境 行為屬性：定義對象的特征，并用來評估對象關(guān)于它所處的情境是否是離群點 全局離群點檢測可以看做情境離群點檢測到特例，其中情境屬性集為空58離群點的類型集體離群點 定義：在給定的數(shù)據(jù)中，這些對象作為整體顯著偏離整個數(shù)據(jù)集 與全局或情境離群點檢測不同，在集體離群點檢測中，不僅必須考慮個體對象的行為，而且要考慮對象組群的行為，比如短期內(nèi)，一小群當(dāng)事人的股票交易。6集體離群點8離群點檢測的挑戰(zhàn)正常對象和離群點的有效建模 離群點檢測的質(zhì)量高度依賴于正常（非離群點）對象和離群點的建模 正常數(shù)據(jù)與異常數(shù)據(jù)（離群點）之間的邊界通常并不清晰在離群點檢測中處理噪聲 低質(zhì)量的數(shù)據(jù)和噪聲的存在給離群點檢測帶來了巨大的挑戰(zhàn)針對應(yīng)用的離群點檢測 離群點檢測高度依賴于應(yīng)用類型，使得不可能開發(fā)通用的離群點檢測方法可理解性 在許多應(yīng)用中，用戶可能不僅要檢測離群點，而且要知道被檢測到的點為何是離群點。78離群點檢測方法