一、搜索引擎蜘蛛
搜索引擎蜘蛛又称网页爬虫。目的:抓取高质量的网页内容。下面讲几个常见的搜索引擎蜘蛛分类:
1.1 Baiduspider(百度蜘蛛)
百度公司还有其它几个蜘蛛:Baiduspider-news(新闻)、Baiduspider-mobile(wap)、Baiduspider-image(图片)、Baiduspider-video(视频),站长经常见到的是Baiduspider和Baiduspider-image。
1.2 Googlebot(谷歌蜘蛛)
还发现一个Googlebot-Mobile,看名字应该是抓取wap内容的。
1.3 360Spider(360蜘蛛)
它是一个很“勤奋抓爬”的蜘蛛。
1.4 Sogou News Spider(搜狗蜘蛛)
还包括如下这些:Sogou web spider、Sogou inst spider、Sogou spider2、Sogou blog、Sogou News Spider、Sogou Orion spider,看权威的百度的robots.txt http://www.baidu.com/robots.txt 就为Sogou搜狗蜘蛛费了不少字节,占了一大块领地。
其它还有很多蜘蛛就不过多介绍,SEO优化主要针对这四个就可以,有兴趣可阅读搜索引擎蜘蛛大全这篇文章。如果你有需要欢迎来电咨询:010-57466733,也可以扫描下面的二维码,添加我们项目经理**,您会得到更多这方面的知识。