Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-Agent: *	开始配置：所有搜索引擎
Disallow: /ca*/	禁止所有搜索引擎访问根目录下以ca开头的目录
Disallow: /ci*/	禁止所有搜索引擎访问根目录下以ci开头的目录
Disallow: /co*/	禁止所有搜索引擎访问根目录下以co开头的目录
Disallow: /cr*/	禁止所有搜索引擎访问根目录下以cr开头的目录
Disallow: /k*/	禁止所有搜索引擎访问根目录下以k开头的目录
Disallow: /m*/	禁止所有搜索引擎访问根目录下以m开头的目录
Disallow: /s*/	禁止所有搜索引擎访问根目录下以s开头的目录
Disallow: /t*/	禁止所有搜索引擎访问根目录下以t开头的目录
Disallow: /w*/	禁止所有搜索引擎访问根目录下以w开头的目录
Disallow: /*/jielong_result.php	禁止所有搜索引擎访问/目录下的jielong_result.php*文件
Disallow: /*/results.php	禁止所有搜索引擎访问/目录下的results.php*文件
Disallow: /*/god.php	禁止所有搜索引擎访问/目录下的god.php*文件
Disallow: /*/sc.php	禁止所有搜索引擎访问/目录下的sc.php*文件
Disallow: /*/s.php	禁止所有搜索引擎访问/目录下的s.php*文件
Disallow: /*/space.php	禁止所有搜索引擎访问/目录下的space.php*文件
Allow: /	允许所有搜索引擎访问网站的任何部分
User-agent: MSNBot	开始配置：MSNBot
Crawl-delay: 5	允许MSNBot访问5目录（包括子目录）