Google反作弊不如百度

1、特別推薦閱讀-劉建國：Google反作弊不如百度這里給大家轉(zhuǎn)載一篇采訪文章，從這篇文章里seo可以提取的信息有很多。尤其請注意文章中大紅顏色文字部分。原文如下：對百度，CTO劉建國的采訪過程就是一個擠牙膏的過程，他永遠不會借題發(fā)揮，對采訪者的問題，回復得簡練而專注。這位與李彥宏一起創(chuàng)立百度的“技術(shù)新官僚”，對搜索引擎技術(shù)運用的思考，在一定程度上體現(xiàn)了這個新上市公司的商業(yè)方向及這個團隊的技術(shù)想象力。采訪中，劉建國不斷接到要求解封的“作弊網(wǎng)站”的電話，大多是熟人才會直接將電話打到他這里，或是打給李彥宏。采訪由此而展開。反作弊是我們的技術(shù)21世紀:李彥宏選擇搜索引擎作為百度的主業(yè)，當時是怎么確定的?

2、劉建國:2000年之前，中國有許多搜索引擎公司，Goyoyo是香港一個公司做的;科學院有一個網(wǎng)站，還有北大天網(wǎng)。當時創(chuàng)立公司時搜索引擎已經(jīng)很多 了。我們機會在哪里?在當時我和李彥宏的通信中，他說要做就做最好的。當時已有的搜索引擎速度慢，索引小，用戶體驗很差。我們都認為做一個中文搜索引擎有 很大前景，所以我就從北大出來，跟李彥宏一起創(chuàng)業(yè)了。21世紀:現(xiàn)在來看，當時搜索的核心技術(shù)是什么?劉建國:分成好幾塊，一塊是網(wǎng)頁抓取，由蜘蛛程序選擇、抓取互聯(lián)網(wǎng)中的網(wǎng)頁，還要持續(xù)不斷地更新網(wǎng)頁，將過期的網(wǎng)頁剔除掉;二是超鏈分析和內(nèi)容分析;三是針對用戶的搜索服務(wù):如何處理海量數(shù)據(jù)和大規(guī)模的用戶訪問?如何提供穩(wěn)定的

3、服務(wù)?有很多技術(shù)問題需要解決。21世紀:你們是一幫人在做?劉建國:好多個組，重點是相關(guān)性的評價。哪些網(wǎng)頁是用戶想要的?后面就有好多技術(shù);比如超鏈分析;這里有李彥宏的專利。超鏈在Infoseek之前就有成熟的技術(shù)，李彥宏在那兒工作時就研究得很細，但我們沒有僅用這套方法，而是根據(jù)當時搜索引擎全球的發(fā)展做了改進。21世紀:百度在相關(guān)性方面有什么特色?劉建國:有兩個基本方面:超鏈分析和內(nèi)容分析。我們這幫技術(shù)人員，包括李彥宏，根據(jù)搜索引擎當時的技術(shù)發(fā)展，做出了一套百度自己的超鏈分析系統(tǒng)。另外還得分析網(wǎng)頁內(nèi)容，比如中文處理就很重要，要理解中文的語法和特定文字意義，因為中文與英文還是不一樣的，只有判斷文字是

4、什么意思，才能給用戶提供搜索結(jié)果。21世紀:“欺騙搜索”是什么意思?你們有什么獨特的技術(shù)來對付它?劉建國:就是所謂的網(wǎng)絡(luò)優(yōu)化，比如SEO之類，鏈接一些域名，好象鏈接很多，但實際上是人為做 出來的。還有一些鏈接，就是專門幫別人做鏈接，這也是超鏈分析。你不是鏈接分析嗎?專門針對你。還有一些網(wǎng)站，專門給別人做，相關(guān)度也高，我們必須發(fā)現(xiàn)哪 些是LINKFORM，然后分析出來。21世紀:這如何看得出來?有簡單工具嗎?劉建國:我們已經(jīng)可以通過技術(shù)手段及時發(fā)現(xiàn)這種欺騙或者叫作弊。是否作弊，有一個很簡單的標 準:用戶看到的內(nèi)容和搜索引擎看到的內(nèi)容是否一致?前一段搜索“芙蓉姐姐”，進去之后很多是買手機的，買其他

5、信息，這就是作弊。我們就分析，他們是通過什 么方法來“欺騙搜索”。比如LINKFARM，我們靠技術(shù)發(fā)現(xiàn)出來，它已經(jīng)“堆砌關(guān)鍵詞”了，我們看出它是作弊的，我就不要它。這就是為何后來反彈這么 大，有了“反百度聯(lián)盟”的原因。有“反百度聯(lián)盟”成員說，你為什么屏蔽我?前一段搜狐網(wǎng)的一個峰會，一個醫(yī)藥網(wǎng)的說我們很好啊，你為什么把我給封了?它的 “堆砌”是作弊的，如果我們把它放開，對用戶是一種欺騙。21世紀:比如在百度搜“芙蓉姐姐”，你們把有些“芙蓉姐姐”鏈接給屏蔽了，那就不能給用戶提供更多的結(jié)果了?劉建國:是更準確，比如用戶到這里來搜，得到的是真正的“芙蓉姐姐”而不是手機鈴聲。這樣做的目的是給用戶很好的用

6、戶體驗。21世紀:在反作弊技術(shù)里，有什么可以明確識別作弊?劉建國:比如，來回互相鏈接、堆砌關(guān)鍵詞等。還有前景色和背景色完全一致，在HTML里面，用戶看不見，可以騙搜索引擎，就這樣騙用戶。21世紀:僅僅背景色也可以用來作弊?劉建國:背景是黑色的，搜索看見的僅僅是內(nèi)容，是看不到背景的。前景與后景一樣，機器看不著，人能看出來，景色也是識別的因素。其中的文字就是有些網(wǎng)站想欺騙的東西。有很多方法作弊，層出不窮的。搜索與作弊網(wǎng)站是永遠不會結(jié)束的戰(zhàn)爭。21世紀:有沒有可以“招安”的作弊網(wǎng)站?劉建國:不會的。他們的利益很大，騙一點是一點，不會到這里來做。21世紀:有多少這樣的網(wǎng)站?劉建國:每天碰到成千這樣的網(wǎng)

7、站。21世紀:他們到哪里拉客戶?劉建國:不一定拉客戶，他們可以自己做鈴聲、短信，SEO會拉企業(yè)，給錢，我給你排位。另一個“敵人”是Google嗎?21世紀:與Google的反作弊比，你們有什么優(yōu)勢?劉建國:說Google的技術(shù)比我們好，我不認同，他們主要是不夠集中。比如反作弊的， Google中文就做不過我們，這有技術(shù)問題，還有人力，要知道作弊慣用的手法，而Google不知道。這個模式我們比Google發(fā)展得更快，我們更接 近用戶。我們中文的理解做得比他們好，比如像分詞、切詞，中文是一個一個字，放一塊兒，那些字和詞是不一樣的。我做得比Google好。他們沒有專門研究 中文。21世紀:你們是用自

8、己的技術(shù)?劉建國:是的。我們中文分詞，這個技術(shù)里面沒有英文，中文本身的處理我們已經(jīng)到位，還有語法的應(yīng)用，我們做得很好。語法是主謂賓，如何用，老外不理解。21世紀:你們用以前的文字識別技術(shù)嗎?劉建國:對中文我們有一套獨特的做法，現(xiàn)在成熟的技術(shù)都不太適合我們。21世紀:有沒有用哪個平臺?比如大的軟件?劉建國:這個軟件是我們自己做的。21世紀:是應(yīng)用軟件?劉建國:不是一套。我們直接用自己的東西。比如說詞典、分詞、詞匯。這不是釋義的詞典，可能有很多資源。比如我們用人民日報的語料庫，我們購買這樣的資 料。更多的平臺是我們自己的搜索引擎。我們有日志，總結(jié)新的詞匯。我們對10億計的網(wǎng)頁也能分析。這是Goog

9、le中文做不到的。至少沒有聚焦。另外從中 文用戶體驗來說，我們也做得比他們好，比如用戶體驗是什么、習慣是什么。比如相關(guān)搜索，在中文里面，用戶心里想的一個事情，比如“軟件”這個詞，用戶心里 想的是軟件下載，但搜索的是“軟件”這個詞，他輸入“軟件”，與搜索不符。百度會提示得更加精細化，到底是軟件下載還是加密，全自動服務(wù)，這樣用戶會覺得 很好。類似的工作我們下了很多功夫。其他像拼音檢索，錯別字糾正，我們也能正確提示。現(xiàn)在有些搜索正在抄我們。我認為不能崇洋。從競價排名平衡用戶體驗21世紀:從用戶體驗來看，曾經(jīng)一度Google要比你們好些，比如競價排名不是他們主要標準，信息的直接有效很重要。劉建國:這是

10、另外一個誤區(qū)。搜索結(jié)果的首頁我們有多少競價排名呢?沒多少，最多不超過20%，我們的原則是用戶體驗是第一位的，而且是真正相關(guān)的。現(xiàn)在20%是被人定制的，其他是免費體現(xiàn)的，是有用的。實際上，20%的競價排名也是在嚴格的人工審核下去通過的。21世紀:人工審核能不能有一個例子?劉建國:我們有一個30人的組，比如用戶提一個詞，看是不是真正跟商品有關(guān)的。第二，鏈接的這個網(wǎng)站，是不是做商品的。即使是客戶定制的競價，競的是某個關(guān)鍵詞，我們也要看是不是商品、是不是服務(wù)。21世紀:如何決定?劉建國:人工能查出來，當然也有很多調(diào)整。比如IBM，我們考慮把IBM放在最前，后來還是把IBM中國放在前面。雖然阿里商城(I

11、T銷售商)交錢了，但第一個仍是IBM中國，我們也是考慮到用戶的體驗。21世紀:就是說要在用戶與客戶之間平衡?在網(wǎng)頁上還有哪些直接體現(xiàn)?劉建國:收費的內(nèi)容均有標志，比如“百度快照”不是收費的。21世紀:你們賣得最好的關(guān)鍵詞是哪些?劉建國:比如“鮮花”，就有很多人買。第一條是買的，是實時變化的，誰的價高就買到最前面去了。百度不再用“插件”營銷21世紀:你們的營銷方式曾經(jīng)是以“一個插件”(業(yè)界通稱為“流氓軟件”)來解決?劉建國:這不是最關(guān)鍵的。當時主要是與3721打，競爭太激烈了，這是環(huán)境所致的。21世紀:現(xiàn)在“插件”還用嗎?劉建國:我們插件裝得挺少的。與有的搜索比，百度這種“流氓軟件”最少，插件不

12、是主流的，現(xiàn)在都已經(jīng)走向正規(guī)了。插件只是推廣手段，今后變成用戶自己主 動。百度的插件是可以卸掉的，比如搜霸。但有些搜索，沒有點就生成了，這種推廣手段我們以前做過，但后來停了。如果用戶要覺得好，可以自主選擇，我們可以 保證，用戶不會被動選擇、不遵從他的意愿被動強制性的。21世紀:你們?nèi)サ袅四男安寮蹦?劉建國:我們的不會自動彈出來，也不會誤裝。21世紀:我們可不可以說，百度以前用過“插件”，現(xiàn)在不用了?劉建國:現(xiàn)在都不用了。我們就是一個搜霸，百度聯(lián)盟，而且推廣方式不是強制性的。搜霸確實也有好處，節(jié)省了用戶時間，一步到位。我們不會用以前的推廣方 式。但有些網(wǎng)站點進去就是網(wǎng)絡(luò)實名，就是靠彈出，非意

13、愿的。我們原來也用得很少，也是百度聯(lián)盟成員自己用的因為裝上后有收益?，F(xiàn)在誰利用這種方式裝，就不 讓加入聯(lián)盟了。21世紀:有多少個聯(lián)盟成員?劉建國:現(xiàn)在有好幾萬。如何管理這些聯(lián)盟也是一個大問題。技術(shù)與人工、誰排第一?21世紀:剛才提到相關(guān)性、超鏈分析、反作弊，結(jié)合起來形成了你們的核心價值嗎?劉建國:是。但如何調(diào)節(jié)這些東西，各家都不一樣。超鏈分析是共用的。大家都在用。沒有一個公司去公布搜索技術(shù)，因為這是一個商業(yè)秘密。我們是經(jīng)過5年多積累才出來這樣好的結(jié)果。這些都是核心技術(shù)，一定得積累。21世紀:共享的經(jīng)驗有哪些?劉建國:各個公司不一樣，不能公布細節(jié)。21世紀:你們重要在分析用戶還是客戶?劉建國:重

14、要的是分析網(wǎng)頁，網(wǎng)頁與網(wǎng)頁之間的分析。WEB的方式，是由HTML組成的。網(wǎng)頁與 網(wǎng)頁之間的是URL，最大好處是網(wǎng)頁與網(wǎng)頁之間可以用超鏈來指，叫HYPERLINK，指向另外一個網(wǎng)頁是做什么的。比如“中國人民銀行”會指向很多東 西，每個都是鏈。他們指向他，LINK有一個叫評價，U1對U2的評價。第一是指向，第二是評價。這是一個網(wǎng)頁，“中國人民銀行”就是超鏈，他指向另外一 個有說明中國銀行是做什么的，指向后，另一個是指向的U2，另外還有U3。很相關(guān)的排前面，找到最權(quán)威的。最后綜合加權(quán)，中國人民銀行大，其他商業(yè)銀 行小，那么就加權(quán)，算出來結(jié)果誰排前面。21世紀:你們做這些，有沒有編輯?劉建國:有的網(wǎng)站

15、有，我們沒有，但我們有人工。網(wǎng)站不需要編輯，我們是靠技術(shù)，要把這些東西都拿過來。剛才說的抓取、分析是否相關(guān)，生成抓取的排名。抓取要分析，之后建立索引，把內(nèi)容到URL的一個檢索，之后提供服務(wù)。抓取，分析、檢索、服務(wù)四個環(huán)節(jié)。21世紀:你們的技術(shù)部門是按四個環(huán)節(jié)來分的?劉建國:我們有很多組，做不同工作。21世紀:你們的生產(chǎn)環(huán)節(jié)與通常的產(chǎn)品定義不一樣。劉建國:是有些怪。比如說我們是如何攻關(guān):要分析、提出問題，每個部門都提，李彥宏也會參與。21世紀:你們最近提過什么問題?劉建國:我還不想透露太多的細節(jié)，比如抓取。我最近要提出一個問題:網(wǎng)站的覆蓋率。要研究中國所有的網(wǎng)站。我們平常與Google比較，我們

16、來看交集，相 同的內(nèi)容是多少?各自抓多少?我們發(fā)現(xiàn)交集不多，我們獨自的較多，這是所有搜索的共性。我提出說，要去調(diào)研，為什么會有這種差距，這種差別是如何產(chǎn)生的， 沒抓的是什么特性?Google抓的是什么特性?Google是海外的嗎?這都是一種猜想。我們要去調(diào)查，然后去做方案，方案再討論是不是可行。這樣持續(xù) 不斷地做，技術(shù)的含量很高。效果都是很客觀的，都是真刀真槍的。21世紀:技術(shù)隊伍如何分工?劉建國:除了研發(fā)還有測試的，另外還有運營的，給我們提供服務(wù)是在中國電信或網(wǎng)通，另外要管機器，硬盤壞了，負責換，系統(tǒng)要上線，數(shù)據(jù)有哪些問題，都得分 析。研發(fā)、運營、測試還有客服(有面向用戶及企業(yè)的)。有問題可

17、以直接發(fā)到電子郵件，我們暫時沒有呼叫中心。為用戶解決問題，先整理一些問題，再傳到其他 部門。21世紀:你們的產(chǎn)品，是以什么形態(tài)呈現(xiàn)出來的?劉建國:網(wǎng)頁、MP3、“知道”等等，每個頻道都是一個產(chǎn)品。21世紀:光靠技術(shù)行不行?還是需要編輯?劉建國:主要靠技術(shù)，這么大量信息處理，靠人工不行。有人工，也是IT輔助下的人工。21世紀:專業(yè)性的頻道，比如百度傳情、影視頻道，百度“知道”，也是技術(shù)生產(chǎn)出來的?劉建國:這是搜索“人腦”，技術(shù)生成就行了。21世紀:你們作為純技術(shù)派的人，認為百度在技術(shù)上與微軟、Google競爭，真得那么輕松嗎?劉建國:我認為百度這么多年為何能成功一個主要的原因，就是我們的專注，只

18、做搜索，中文搜索。對于要趕超的人，第一是專注，要超越自我。我們在不同的場合 說過，我們的對手是我們自己，不是其他的人。我們能否保持旺盛的斗志，我們在艱難歲月里保持的那些東西能否保留下來，我們每個人是不是都很進取、協(xié)作。這 是決定我們最關(guān)鍵的東西。此外還要繼續(xù)招優(yōu)秀的人?！爸馈?、貼吧核心解密21世紀:搜索技術(shù)會有大的變化嗎?劉建國:有可能要變化，一句說不清楚。我覺得要保持創(chuàng)新，要監(jiān)控業(yè)界的變化，要跟得上變化。以后的方向很多，比如說個性化需求，不同的人查到不同的結(jié)果，也許真有不同的發(fā)展。21世紀:解決個性化需求依靠什么技術(shù)?劉建國:了解這個人的個性，知道這個人的背景、身份、年齡和習慣，這樣來調(diào)整

19、搜索;另外無線搜索也是新市場。通過手機搜索及其他智能終端，針對不同的需求，專門建立無線搜索頻道;其他的應(yīng)用，比如地圖搜索，現(xiàn)在Google正在做，百度是否要做，現(xiàn)在還沒有完成研發(fā)。21世紀:讓我們來說說“知道”，它的哪一點技術(shù)比較關(guān)鍵?劉建國:“百度知道”是用來找知識的。沒有所謂核心技術(shù)，它是一個平臺，讓問的人和回答的人都能在這里自動滾動，提問和回答都很方便。平臺的界面和流程都要建得好，另外評價的系統(tǒng)很好，加權(quán)平均的系統(tǒng)，沒有一個核心的技術(shù)。21世紀:你們對客戶進行管理用什么系統(tǒng)?劉建國:競價的用戶，一個是客戶(企業(yè))，一個是用戶(網(wǎng)民)，我們不需要管理，我們只需要服務(wù)就行了。比如對客戶，主要是提升服務(wù)效果，對生意有幫助。