Baiduspider - 百度蜘蛛

Baiduspider - 百度蜘蛛

 

Baiduspider - 百度蜘蛛：

我们平时经常遇到百度为什么不收录我的网站，百度快照为什么不更新了等问题，这些问题其实都和我们今天所讲的有关，这个就是Baiduspider - 百度蜘蛛。

百度蜘蛛其实是一个程序，夜以继日得在互联网上找寻新的URL，接着抓取URL上的内容，返回到百度的网页暂存数据库。

百度用来抓取网页内容的程序，叫做Baiduspider，抓取其他内容的蜘蛛，则是新的名字：

产品名称                 对应user-agent

网页搜索                Baiduspider（最常见）
无线搜索                Baiduspider-mobile
图片搜索                Baiduspider-image
视频搜索                Baiduspider-video
新闻搜索                Baiduspider-news
百度搜藏                Baiduspider-favo
百度联盟                Baiduspider-cpro

很多网站优化人员会在自己的网站日志里看到这个蜘蛛Baiduspider-cpro，现在我们明白它是百度联盟蜘蛛，用以百度联盟程序匹配相应的广告。

其他搜索引擎的蜘蛛：Robot是什么？