Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: Baiduspider	开始配置：Baiduspider
Allow: /	允许Baiduspider访问网站的任何部分
Disallow: /source/	禁止Baiduspider访问/source目录
User-agent: Googlebot	开始配置：Googlebot
Allow: /	允许Googlebot访问网站的任何部分
Disallow: /source/	禁止Googlebot访问/source目录
User-agent: Mediapartners-Google	开始配置：Mediapartners-Google
Allow: /	允许Mediapartners-Google访问网站的任何部分
Disallow: /source/	禁止Mediapartners-Google访问/source目录
User-agent: bingbot	开始配置：bingbot
Allow: /	允许bingbot访问网站的任何部分
Disallow: /source/	禁止bingbot访问/source目录
User-agent: Sogou web spider	开始配置：Sogou web spider
Allow: /	允许Sogou web spider访问网站的任何部分
Disallow: /source/	禁止Sogou web spider访问/source目录
User-agent: Yahoo! Slurp	开始配置：Yahoo! Slurp
Allow: /	允许Yahoo! Slurp访问网站的任何部分
Disallow: /source/	禁止Yahoo! Slurp访问/source目录
User-agent: Sosospider	开始配置：Sosospider
Allow: /	允许Sosospider访问网站的任何部分
Disallow: /source/	禁止Sosospider访问/source目录
User-agent: 360Spider	开始配置：360Spider
Allow: /	允许360Spider访问网站的任何部分
Disallow: /source/	禁止360Spider访问/source目录
User-agent: YisouSpider	开始配置：YisouSpider
Allow: /	允许YisouSpider访问网站的任何部分
Disallow: /source/	禁止YisouSpider访问/source目录
User-agent: *	开始配置：所有搜索引擎
Disallow: /	禁止所有搜索引擎访问网站的任何部分

活动推荐

Robots检测