搜索引擎的蜘蛛是如何爬的，如何吸引蜘蛛來(lái)抓取頁(yè)面
搜索引擎的工作過(guò)程大體可以分成三個(gè)階段：
(1)爬行和抓取：搜索引擎蜘蛛通過(guò)跟蹤鏈接發(fā)現(xiàn)和訪問(wèn)頁(yè)面，讀取頁(yè)面HTML代碼，存到數(shù)據(jù)庫(kù)。
(2)預(yù)處理：索引程序?qū)ψト?lái)的頁(yè)面數(shù)據(jù)進(jìn)行文字提取、中文分詞、索引、倒排索引等處理，以備排名程序調(diào)用。
(3)排名：用戶輸入查詢?cè)~(關(guān)鍵詞)后，排名程序調(diào)用索引數(shù)據(jù)，計(jì)算相關(guān)性，然后按一定格式生成搜索結(jié)果頁(yè)面。
搜索引擎的工作原理
爬行和抓取是搜索引擎工作的第一步，完成數(shù)據(jù)收集的任務(wù)。搜索引擎用來(lái)抓取頁(yè)面的程序被稱為蜘蛛(spider)
一個(gè)合格的SEOer，要想讓自己的更多頁(yè)面被收錄，就要想法設(shè)法吸引蜘蛛來(lái)抓取。
蜘蛛抓取頁(yè)面有幾方面因素：
(1)網(wǎng)站和頁(yè)面的權(quán)重，質(zhì)量高、時(shí)間長(zhǎng)的網(wǎng)站一般被認(rèn)為權(quán)重比較高，爬行深度也會(huì)比較高，被收錄的頁(yè)面也會(huì)更多。
(2)頁(yè)面的更新頻率，蜘蛛每次爬行都會(huì)把頁(yè)面數(shù)據(jù)儲(chǔ)存起來(lái)，如果第二次，第三次的抓取和第一次的一樣，說(shuō)明沒(méi)有更新，久而久之，蜘蛛也就沒(méi)有必要經(jīng)常抓取你的頁(yè)面啦。如果內(nèi)容經(jīng)常更新，蜘蛛就會(huì)頻繁訪問(wèn)頁(yè)面，來(lái)抓取新的頁(yè)面。
(3)導(dǎo)入鏈接，不管是內(nèi)部鏈接還是外部鏈接，要想被蜘蛛抓取，就必須有導(dǎo)入鏈接進(jìn)入頁(yè)面，否則蜘蛛就不會(huì)知道頁(yè)面的存在。
(4)與首頁(yè)的點(diǎn)擊距離，一般網(wǎng)站上權(quán)重最高的是首頁(yè)，大部分外部鏈接都會(huì)指向首頁(yè)，那么蜘蛛訪問(wèn)最頻繁的頁(yè)面就是首頁(yè)，離首頁(yè)點(diǎn)擊距離越近，頁(yè)面權(quán)重越高，被爬行的機(jī)會(huì)越大。
吸引百度蜘蛛
如何吸引蜘蛛來(lái)抓取我們的頁(yè)面?
堅(jiān)持有頻率的更新網(wǎng)站內(nèi)容，最好是高質(zhì)量的原創(chuàng)內(nèi)容。
主動(dòng)向搜索引擎提供我們的新頁(yè)面，讓蜘蛛更快的發(fā)現(xiàn)，如百度的鏈接提交、抓取診斷等。
搭建外部鏈接，可以和相關(guān)的網(wǎng)站做友情鏈接交換，可以去別的平臺(tái)發(fā)布高質(zhì)量的文章指向自己的頁(yè)面，內(nèi)容要相關(guān)。
制作網(wǎng)站地圖，每個(gè)網(wǎng)站都應(yīng)該有一個(gè)sitemap，網(wǎng)站所有的頁(yè)面都在sitemap中，方便蜘蛛抓取。
