探索百度搜索引擎算法技巧分析系列之一

發(fā)布時(shí)間: 2012/9/5 11:41:27

回顧過(guò)去，展望未來(lái)，未來(lái)成了搜索引擎的天下，個(gè)人、企業(yè)都瘋狂的關(guān)注著搜索引擎的變化。作為企業(yè)，會(huì)根據(jù)搜索引擎的知名度以及日流量來(lái)選擇是否要投放廣告等；作為普通網(wǎng)民，會(huì)根據(jù)搜索引擎的性能和技術(shù)來(lái)選擇自己喜歡的引擎查找資料；作為技術(shù)人員，會(huì)把有代表性的搜索引擎作為研究對(duì)象……一時(shí)成了搜索經(jīng)濟(jì)時(shí)代。搜索成了網(wǎng)絡(luò)的重中之重。對(duì)從事網(wǎng)絡(luò)的朋友來(lái)說(shuō)，了解一個(gè)好的搜索引擎，知道它的優(yōu)勢(shì)所在，掌握它的規(guī)律是很有必要的。

如何設(shè)計(jì)一個(gè)高效的搜索引擎？我們可以以百度所采取的技術(shù)手段來(lái)探討如何設(shè)計(jì)一個(gè)實(shí)用的搜索引擎。搜索引擎涉及到許多技術(shù)點(diǎn)，比如查詢(xún)處理，排序算法，頁(yè)面抓取算法，CACHE機(jī)制，ANTI-SPAM等等。這些技術(shù)細(xì)節(jié)，作為商業(yè)公司的搜索引擎服務(wù)提供商比如百度，GOOGLE等是不會(huì)公之于眾的。我們可以將現(xiàn)有的搜索引擎看作一個(gè)黑盒，通過(guò)向黑盒提交輸入，判斷黑盒返回的輸出大致判斷黑盒里面不為人知的技術(shù)細(xì)節(jié)。

查詢(xún)處理與分詞是一個(gè)中文搜索引擎必不可少的工作，而百度作為一個(gè)典型的中文搜索引擎一直強(qiáng)調(diào)其“中文處理”方面具有其它搜索引擎所不具有的關(guān)鍵技術(shù)和優(yōu)勢(shì)。那么我們就來(lái)看看百度到底采用了哪些所謂的核心技術(shù)。我們分兩個(gè)部分來(lái)講述：查詢(xún)處理和中文分詞。

先來(lái)談系列一：查詢(xún)處理

用戶(hù)向搜索引擎提交查詢(xún)，搜索引擎一般在接受到用戶(hù)查詢(xún)后要做一些處理，然后在索引數(shù)據(jù)庫(kù)里面提取相關(guān)的信息。那么百度在接受到用戶(hù)查詢(xún)后做了些什么工作呢？

1、假設(shè)用戶(hù)提交了不只一個(gè)查詢(xún)串，比如“信息檢索理論工具”。
那么搜索引擎首先做的是根據(jù)分隔符比如空格，標(biāo)點(diǎn)符號(hào)，將查詢(xún)串分割成若干子查詢(xún)串，比如上面的查詢(xún)就會(huì)被解析為：<信息檢索，理論，工具>三個(gè)子字符串；這個(gè)道理簡(jiǎn)單，我們接著往下看。

2、假設(shè)提交的查詢(xún)有重復(fù)的內(nèi)容，搜索引擎怎么處理呢？比如查詢(xún)“理論工具理論”，百度是將重復(fù)的字符串當(dāng)作只出現(xiàn)過(guò)一次，也就是處理成等價(jià)的“理論工具”，而GOOGLE顯然是沒(méi)有進(jìn)行歸并，而是將重復(fù)查詢(xún)子串的權(quán)重增大進(jìn)行處理。那么是如何得出這個(gè)結(jié)論的呢？我們可以將“理論工具”提交給百度，再返回文檔，大致看看第一頁(yè)的返回內(nèi)容。接著繼續(xù)，我們提交查詢(xún)“理論工具理論”，在看看返回結(jié)果，仍然是那么多返回文檔，當(dāng)然這個(gè)不能說(shuō)明太多問(wèn)題，那看看第一頁(yè)返回結(jié)果的排序，看出來(lái)了嗎？順序完全沒(méi)有變化，而 GOOGLE 則排序有些變動(dòng)，這說(shuō)明百度是將重復(fù)的查詢(xún)歸并成一個(gè)處理的，而且字符串之間的先后出現(xiàn)順序基本不予考慮（GOOGLE是考慮了這個(gè)順序關(guān)系的）。

3、假設(shè)提交的中文查詢(xún)包含英文單詞，搜索引擎是怎么處理的？比如查詢(xún)”電影BT下載”，百度的方法是將中文字符串中的英文當(dāng)作一個(gè)整體保留，并以此為斷點(diǎn)將中文切分開(kāi)，這樣上述的查詢(xún)就切為<電影，BT，下載>，不論中間的英文是否一個(gè)字典里能查到的單詞也好，還是隨機(jī)的字符也好，都會(huì)當(dāng)作一個(gè)整體來(lái)對(duì)待。至于為什么，你用查詢(xún)“電影dfdfdf下載”看看結(jié)果就知道了。當(dāng)然如果查詢(xún)中包含數(shù)字，也是如此辦理。

到目前為止，看似都很簡(jiǎn)單，也很清楚，百度怎么處理用戶(hù)查詢(xún)的呢？歸納如下：首先根據(jù)分割符號(hào)將查詢(xún)分開(kāi)，然后看看是否有重復(fù)的字符串，如果有，就拋棄多余的，只保留一個(gè)，接著判斷是否有英文或者數(shù)字，如果有的話(huà)，把英文或者數(shù)字當(dāng)作一個(gè)整體保留并把前后的中文切開(kāi)。

暫時(shí)先談到這里，接下來(lái)我們會(huì)談及中文分詞技術(shù)，請(qǐng)繼續(xù)關(guān)注我們第一頁(yè)！

本文出自：億恩科技【www.allwellnessguide.com】

服務(wù)器租用/服務(wù)器托管中國(guó)五強(qiáng)！虛擬主機(jī)域名注冊(cè)頂級(jí)提供商！15年品質(zhì)保障！--億恩科技[ENKJ.COM]