裝修預算軟件seo優(yōu)化教程_爬行和抓取_蜘蛛（一）

申請免費試用、咨詢電話：400-8352-114

爬行和抓取_蜘蛛（一）

    爬行和抓取是搜索引擎工作的第一步，完成數據收集的任務。
   搜索引擎用來爬行和訪問頁面的程序被稱為蜘蛛( spider)，也稱為機器人(bot)。搜索引擎蜘蛛訪問網站頁面時類似于普通用戶使用的瀏覽器。蜘蛛程序發(fā)出頁面訪問請求后，服務器返回HTML代碼，蜘蛛程序把收到的代碼存入原始頁面數據庫。搜索引擎為了提高爬行和抓取速度，都使用多個蜘蛛并發(fā)分布爬行。
   蜘蛛訪問任何一個網站時，都會先訪問網站根目錄下的robots．Txt文件。如果robots．Txt文件禁止搜索引擎抓取某些文件或目錄，蜘蛛將遵守協議，不抓取被禁止的網址。
   和瀏覽器一樣，搜索引擎蜘蛛也有標明白己身份的代理名稱，站長可以在日志文件中看到搜索引擎的特定代理名稱，從而辨識搜索引擎蜘蛛。下面列出常見的搜索引擎蜘蛛名稱：
   ]Baiduspider+(+http://www.baidu.com/search/spider.htm)百度蜘蛛
   Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cnthelp.html)雅虎中國蜘蛛
   Mozilla/5.0 (compatible; Yahoo! Slurp/3.0; http://help.yahoo.comthelp/us/ysearch/slurp)英文雅虎蜘蛛
 Moz111a/5.0 (compatible; Googlebot/2.l; +http://www.google.com/bot.html) Google蜘蛛
 Msnbot/l.l (+http://search.msn.com/msnbot.htm)  微軟Bing蜘蛛
 Sogou+web+robot+(+http://www.sogou.com/docs/help/webmasters.htm#0’/)搜狗蜘蛛
 Sosospider+(+http://help.soso.com/webspider.htm)搜搜蜘蛛
 Mozilla/5.0 (compatible; YodaoBot/l.0; http://www.yodao.com/help/webmaster/spider/; )有道蜘蛛

延伸閱讀：

裝修公司商業(yè)系統建設_營銷信息_信息收集
裝修公司商業(yè)系統建設_營銷信息_信息管理
裝修公司商業(yè)系統建設_營銷信息_信息傳遞與應用
QQ：2558628650      442699841