Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: AhrefsBot	开始配置：AhrefsBot
Disallow: /	禁止AhrefsBot访问网站的任何部分
User-agent: MJ12bot	开始配置：MJ12bot
Disallow: /	禁止MJ12bot访问网站的任何部分
User-agent: exabot	开始配置：exabot
Disallow: /	禁止exabot访问网站的任何部分
User-agent: dotbot	开始配置：dotbot
Disallow: /	禁止dotbot访问网站的任何部分
User-agent: MegaIndex.ru	开始配置：MegaIndex.ru
Disallow: /	禁止MegaIndex.ru访问网站的任何部分
User-agent: SemrushBot	开始配置：SemrushBot
Disallow: /	禁止SemrushBot访问网站的任何部分
User-agent: TinyTestBot	开始配置：TinyTestBot
Disallow: /	禁止TinyTestBot访问网站的任何部分
User-agent: CCBot	开始配置：CCBot
Disallow: /	禁止CCBot访问网站的任何部分
User-agent: *	开始配置：所有搜索引擎
Disallow: /admin/	禁止所有搜索引擎访问/admin目录
Disallow: /api/	禁止所有搜索引擎访问/api目录
Disallow: /js/	禁止所有搜索引擎访问/js目录
Disallow: /css/	禁止所有搜索引擎访问/css目录
Disallow: /login.php	禁止所有搜索引擎访问根目录下的login.php文件
Disallow: /click.php	禁止所有搜索引擎访问根目录下的click.php文件
Disallow: /Data/	禁止所有搜索引擎访问/Data目录
Disallow: /data/	禁止所有搜索引擎访问/data目录