Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: *	开始配置：所有搜索引擎
Allow: /	允许所有搜索引擎访问网站的任何部分
Disallow: /api/*	禁止所有搜索引擎访问/api下的所有文件
Disallow: /?*	禁止所有搜索引擎访问任何带参数的页面
User-agent: SemrushBot	开始配置：SemrushBot
Disallow: /	禁止SemrushBot访问网站的任何部分
User-agent: YisouSpider	开始配置：YisouSpider
Disallow: /	禁止YisouSpider访问网站的任何部分
Disallow: /.JS$	禁止YisouSpider访问所有以.JS结尾的文件
Disallow: /.css$	禁止YisouSpider访问所有以.css结尾的文件
Disallow: /*.PHP$	禁止YisouSpider访问所有以*.PHP结尾的文件
User-agent: MJ12bot	开始配置：MJ12bot
Disallow: /	禁止MJ12bot访问网站的任何部分
User-agent: Indy Library	开始配置：Indy Library
Disallow: /	禁止Indy Library访问网站的任何部分