信息檢索論文

論搜索引擎中文自動分詞技術(shù)【摘要】搜索引擎是應用在web上的軟件系統(tǒng)，它以一定的策略搜集和發(fā)現(xiàn)信息，再對信息進行處理和組織后為用戶提供web信息查詢服務。搜索引擎分三個大模塊：網(wǎng)頁搜集，預處理和查詢服務。其中對搜索信息的預處理階段的關(guān)鍵技術(shù)是中文分詞和建立倒排文件，本文主要論述搜索引擎工作過程中的中文自動分詞技術(shù)?！娟P(guān)鍵字】：搜索引擎，中文分詞，分詞方法，分詞難題【正文】信息的飛速增長，使搜索引擎成為人們查找信息的首選工具，Google、百度等大型搜索引擎一直是人們討論的話題。目前在中文搜索引擎領(lǐng)域，國內(nèi)的搜索引擎已經(jīng)和國外的搜索引擎效果上相差不遠。之所以能形成這樣的局面，有一個重要的原因就在于中文和英文兩種語言自身的書寫方式不同，這其中對于計算機涉及的技術(shù)就是中文分詞。為什么要進行分詞？漢語是世界上最古老和最豐富的語言之一，但是漢語語法才有將近一百年的歷史，而且現(xiàn)代漢語白話文的形成歷史也比較短，加上漢語自身的特點，因此它的形式化研究更加困難。對英文而言,是以詞為單位,詞與詞之間有空格隔開,而中文是以字為單位,多個字連在一起才能構(gòu)成一個表達具體含義的詞,詞與詞之間沒有分割,因此,對于支持自然語言檢索的工具,從語句中劃分出具有獨立意義的詞的過程即進行中文分詞必不可少。什么是中文分詞？中文分詞技術(shù)就是搜索引擎針對用戶提交查詢的關(guān)鍵串進行的查詢處理后，根據(jù)用戶的關(guān)鍵詞串用各種匹配方法進行的一種技術(shù)。中文分還可以將上述各種方法相互組合，例如，可以將正向最大匹配方法和逆向最大匹配方法結(jié)合起來構(gòu)成雙向匹配法。由于漢語單字成詞的特點，正向最小匹配和逆向最小匹配一般很少使用。一般說來，逆向匹配的切分精度略高于正向匹配，遇到的歧義現(xiàn)象也較少。統(tǒng)計結(jié)果表明，單純使用正向最大匹配的錯誤率為1/169，單純使用逆向最大匹配的錯誤率為1/245。但這種精度還遠遠不能滿足實際的需要。實際使用的分詞系統(tǒng)，都是把機械分詞作為一種初分手段，還需通過利用各種其它的語言信息來進一步提高切分的準確率。一種方法是改進掃描方式，稱為特征掃描或標志切分，優(yōu)先在待分析字符串中識別和切分出一些帶有明顯特征的詞，以這些詞作為斷點，可將原字符串分為較小的串再來進機械分詞，從而減少匹配的錯誤率。另一種方法是將分詞和詞類標注結(jié)合起來，利用豐富的詞類信息對分詞決策提供幫助，并且在標注過程中又反過來對分詞結(jié)果進行檢驗、調(diào)整，從而極大地提高切分的準確率。（二）

全切分和基于詞的頻度統(tǒng)計的分詞方法基于詞的頻度統(tǒng)計的分詞方法是一種全切分方法。在討論這個方法之前我們先要明白有關(guān)全切分的相關(guān)內(nèi)容。（1）全切分全切分要求獲得輸入序列的所有可接受的切分形式，而部分切分只取得一種或幾種可接受的切分形式，由于部分切分忽略了可能的其他切分形式，所以建立在部分切分基礎(chǔ)上的分詞方法不管采取何種歧義糾正策略，都可能會遺漏正確的切分，造成分詞錯誤或失敗。而建立在全切分基礎(chǔ)上的分詞方法，由于全切分取得了所有可能的切分形式，因而從根本上避免了可能切分形式的遺漏，克服了部分切分方法的缺陷。全切分算法能取得所有可能的切分形式，它的句子覆蓋率和分詞覆蓋率均為100%，但全切分分詞并沒有在文本處理中廣泛地采用。（2）基于詞的頻度統(tǒng)計的分詞方法：這是一種全切分方法。它不依靠詞典,而是將文章中任意兩個字同時出現(xiàn)的頻率進行統(tǒng)計,次數(shù)越高的就可能是一個詞。它首先切分出與詞表匹配的所有可能的詞,運用統(tǒng)計語言模型和決策算法決定最優(yōu)的切分結(jié)果。它的優(yōu)點在于可以發(fā)現(xiàn)所有的切分歧義并且容易將新詞提取出來。（三）基于知識理解的分詞方法該方法主要基于句法、語法分析，并結(jié)合語義分析，通過對上下文內(nèi)容所提供信息的分析對詞進行定界，它通常包括三個部分：分詞子系統(tǒng)、句法語義子系統(tǒng)、總控部分。在總控部分的協(xié)調(diào)下，分詞子系統(tǒng)可以獲得有關(guān)詞、句子等的句法和語義信息來對分詞歧義進行判斷。這類方法試圖讓機器具有人類的理解能力，需要使用大量的語言知識和信息。由于漢語語言知識的籠統(tǒng)、復雜性，難以將各種語言信息組織成機器可直接讀取的形式。因此目前基于知識的分詞系統(tǒng)還處在試驗階段。（四）一種新的分詞方法并行分詞方法：這種分詞方法借助于一個含有分詞詞庫的管道進行

,比較匹配過程是分步進行的

,每一步可以對進入管道中的詞同時與詞庫中相應的詞進行比較

,由于同時有多個詞進行比較匹配

,因而分詞速度可以大幅度提高。這種方法涉及到多級內(nèi)碼理論和管道的詞典數(shù)據(jù)結(jié)構(gòu)。到底哪種分詞算法的準確度更高，目前并無定論。對于任何一個成熟的分詞系統(tǒng)來說，不可能單獨依靠某一種算法來實現(xiàn)，都需要綜合不同的算法。筆者了解，海量科技的分詞算法就采用“復方分詞法”，所謂復方，相當于用中藥中的復方概念，即用不同的藥才綜合起來去醫(yī)治疾病，同樣，對于中文詞的識別，需要多種算法來處理不同的問題。分詞中的難題有了成熟的分詞算法，是否就能容易的解決中文分詞的問題呢？事實遠非如此。中文是一種十分復雜的語言，讓計算機理解中文語言更是困難。在中文分詞過程中，有兩大難題一直沒有完全突破。（一）切分歧義就人對漢語的理解而言，漢語的分詞是一個理解的過程，這個過程綜合了詞法、語法、語義等各種信息。因此，一個理想的分詞系統(tǒng)也應綜合運用這些信息，而在計算機處理中這些信息的提取又是以分詞為前提的。所以，分詞與這些信息的運用是既相聯(lián)系又相制約的一種相輔相成的關(guān)系，而純粹的機械切分必然會帶來切分歧義。歧義是指同樣的一句話，可能有兩種或者更多的切分方法。例如：學歷史知識，因為“學歷”和“歷史”都是詞，那么這個短語就可以分成“學歷”和“歷史”。這種稱為交叉歧義。像這種交叉歧義十分常見由于沒有人的知識去理解，計算機很難知道到底哪個方案正確。交叉歧義相對組合歧義來說是還算比較容易處理，組合歧義就必需根據(jù)整個句子來判斷了。例如，在句子“這個門把手壞了”中，“把手”是個詞，但在句子“請把手拿開”中，“把手”就不是一個詞；在句子“將軍任命了一名中將”中，“中將”是個詞，但在句子“產(chǎn)量三年中將增長兩倍”中，“中將”就不再是詞。這些詞計算機又如何去識別?如果交叉歧義和組合歧義計算機都能解決的話，在歧義中還有一個難題，是真歧義。真歧義意思是給出一句話，由人去判斷也不知道哪個應該是詞，哪個應該不是詞。例如：“乒乓球拍賣完了”，可以切分成“乒乓球拍賣完了”、也可切分成“乒乓球拍賣完了”，如果沒有上下文其他的句子，恐怕誰也不知道“拍賣”在這里算不算一個詞。（二）新詞專業(yè)術(shù)語稱為未登錄詞。也就是那些在字典中都沒有收錄過，但又確實能稱為詞的那些詞。最典型的是人名，人可以很容易理解句子“張三虎是山東人”中，“張三虎”是個詞，因為是一個人的名字，但要是讓計算機去識別就困難了。如果把“張三虎”做為一個詞收錄到字典中去，全世界有那么多名字，而且每時每刻都有新增的人名，收錄這些人名本身就是一項巨大的工程。即使這項工作可以完成，還是會存在問題，例如：在句子“張三虎頭虎腦的”中，“張三虎”還能不能算詞？新詞中除了人名以外，還有機構(gòu)名、地名、產(chǎn)品名、商標名、簡稱、省略語等，還有目前網(wǎng)絡流行語詞，如“有沒有”、“傷不起”“神馬浮云”、“童鞋們”、“蘿莉”等等都是很難處理的問題，而且這些又正好是人們經(jīng)常使用的詞，因此對于搜索引擎來說，分詞系統(tǒng)中的新詞識別十分重要。目前新詞識別準確率已經(jīng)成為評價一個分詞系統(tǒng)好壞的重要標志之一。判斷一個系統(tǒng)的中文分詞功能好壞,主要在于消歧功能和對未登錄詞識別功能。并且優(yōu)秀的分詞策略應該是盡量不拆分,需要拆分時,先把長的拆成