Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: *	开始配置：所有搜索引擎
Disallow: /app/	禁止所有搜索引擎访问/app目录
Disallow: /cache/	禁止所有搜索引擎访问/cache目录
Disallow: /install/	禁止所有搜索引擎访问/install目录
Disallow: /models/	禁止所有搜索引擎访问/models目录
Disallow: /system/	禁止所有搜索引擎访问/system目录
Disallow: /tmp/	禁止所有搜索引擎访问/tmp目录
Disallow: /views/	禁止所有搜索引擎访问/views目录
Disallow: /static/	禁止所有搜索引擎访问/static目录
Disallow: /?/admin/	禁止所有搜索引擎访问/?/admin目录
User-agent: Baiduspider	开始配置：Baiduspider
Disallow: /p/	禁止Baiduspider访问/p目录
User-agent: AhrefsBot	开始配置：AhrefsBot
Disallow: /	禁止AhrefsBot访问网站的任何部分
User-agent: ExtLinksBot	开始配置：ExtLinksBot
Disallow: /	禁止ExtLinksBot访问网站的任何部分
User-agent: MJ12bot	开始配置：MJ12bot
Disallow: /	禁止MJ12bot访问网站的任何部分
User-agent: Cliqzbot	开始配置：Cliqzbot
Disallow: /	禁止Cliqzbot访问网站的任何部分
User-agent: Pinterestbot	开始配置：Pinterestbot
Disallow: /	禁止Pinterestbot访问网站的任何部分
User-agent: SemrushBot	开始配置：SemrushBot
Disallow: /	禁止SemrushBot访问网站的任何部分
User-agent: YandexBot	开始配置：YandexBot
Disallow: /	禁止YandexBot访问网站的任何部分
User-agent:ToutiaoSpider	开始配置：ToutiaoSpider
Disallow:/question/	禁止ToutiaoSpider访问/question目录

活动推荐

Robots检测