Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: *	开始配置：所有搜索引擎
Disallow: /ceo/	禁止所有搜索引擎访问/ceo目录
Disallow: /fanwen/	禁止所有搜索引擎访问/fanwen目录
Disallow: /key/%	禁止所有搜索引擎访问/key/%目录（包括子目录）
Disallow: /search.html	禁止所有搜索引擎访问根目录下的search.html文件
Disallow: /pic.php?*	禁止所有搜索引擎访问pic.php带任何参数的页面
Disallow: /down/?*	禁止所有搜索引擎访问任何带参数的页面
Disallow: /user/?*	禁止所有搜索引擎访问任何带参数的页面
User-agent: SemrushBot	开始配置：SemrushBot
Disallow: /	禁止SemrushBot访问网站的任何部分
User-agent: SemrushBot-SA	开始配置：SemrushBot-SA
Disallow: /	禁止SemrushBot-SA访问网站的任何部分
User-agent: Yisouspider	开始配置：Yisouspider
Disallow: /	禁止Yisouspider访问网站的任何部分