【baiduspider】百度蜘蛛叫Baiduspider不是baidubot

百度SEO 2018-07-16 17:17105网络整理采集侠

  【baiduspider】百度蜘蛛叫Baiduspider不是baidubot

  今天又遇到有同学问我关于ROBOTS该如何去写的问题,这里整理下给大家,其实也都是来源于网路上,注意百度的蜘蛛叫做Baiduspider而不是baidubot,谷歌的叫做googlebot。


  1、禁止所有搜索引擎访问网站的任何部分


  User-agent:*


  Disallow:/


  2、允许所有的robot访问(或者也可以建一个空文件"/robots.txt")


  User-agent:*


  Allow:/


  另一种写法是


  User-agent:*


  Disallow:


  3、仅禁止Baiduspider访问您的网站


  User-agent:Baiduspider


  Disallow:/


  4、仅允许Baiduspider访问您的网站


  User-agent:Baiduspider


  Allow:/


  5、禁止spider访问特定目录


  在这个例子中,该网站有三个目录对搜索引擎的访问做了限制,即robot不会访问这三个目录。需要注意的是对每一个目录必须


  分开声明,而不能写成"Disallow:/cgi-bin//tmp/"。


  User-agent:*


  Disallow:/cgi-bin/


  Disallow:/tmp/


  Disallow:/~joe/


  6、允许访问特定目录中的部分url


  User-agent:*


  Allow:/cgi-bin/see


  Allow:/tmp/hi


  Allow:/~joe/look


  7、使用"*"限制访问url


  禁止访问/cgi-bin/目录下的所有以".htm"为后缀的URL(包含子目录)。


  User-agent:*


  Disallow:/cgi-bin/*.htm


  8、使用"$"限制访问url


  仅允许访问以".htm"为后缀的URL。


  User-agent:*


  Allow:/.htm$


  9、禁止访问网站中所有的动态页面


  User-agent:*


  Disallow:/*?*


  10、禁止Baiduspider抓取网站上所有图片


  仅允许抓取网页,禁止抓取任何图片。


  User-agent:Baiduspider


  Disallow:/*.jpg$


  Disallow:/*.jpeg$


  Disallow:/*.gif$


  Disallow:/*.png$


  Disallow:/*.bmp$


  11、仅允许Baiduspider抓取网页和gif格式图片


  允许抓取网页和gif格式图片,不允许抓取其他格式图片


  User-agent:Baiduspider


  Allow:.gif$


  Disallow:/.jpg$


  Disallow:/.jpeg$


  Disallow:/.png$


  Disallow:/.bmp$


  12、仅禁止Baiduspider抓取jpg格式图片


  User-agent:Baiduspider


  Disallow:/.jpg$

百度SEO优化「SEO十年实战SEO经验-任何词均可做到首页」-topSEO  备案号:

联系QQ: 邮箱地址:

客户QQ服务热线:

QQ:1251192082

QQ:3185893314

QQ:40467028

在线客服

长按微信号复制

15361814538

打开微信