Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: *	开始配置：所有搜索引擎
Disallow: /login/	禁止所有搜索引擎访问/login目录
Disallow: /article/phone	禁止所有搜索引擎访问/article/phone目录（包括子目录）
Disallow: /sou/	禁止所有搜索引擎访问/sou目录
Disallow: /ajax/	禁止所有搜索引擎访问/ajax目录
Disallow: /?	禁止所有搜索引擎访问任何带参数的页面
User-agent: Bytespider	开始配置：Bytespider
Allow: /	允许Bytespider访问网站的任何部分
User-agent: Baiduspider	开始配置：Baiduspider
Disallow: /login/	禁止Baiduspider访问/login目录
Disallow: //lb-/	禁止Baiduspider访问/目录下以lb-*开头的目录
Disallow: /ajax/	禁止Baiduspider访问/ajax目录
Disallow: /?	禁止Baiduspider访问任何带参数的页面
Disallow: /sou/	禁止Baiduspider访问/sou目录
Disallow: /article/phone	禁止Baiduspider访问/article/phone目录（包括子目录）