Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: Adidxbot	开始配置：Adidxbot
Disallow: /	禁止Adidxbot访问网站的任何部分
User-agent: SemrushBot	开始配置：SemrushBot
Disallow: /	禁止SemrushBot访问网站的任何部分
User-agent: SemrushBot-SA	开始配置：SemrushBot-SA
Disallow: /	禁止SemrushBot-SA访问网站的任何部分
User-agent: googlebot-image	开始配置：googlebot-image
Disallow: /	禁止googlebot-image访问网站的任何部分
User-agent: yahoo-mmcrawler	开始配置：yahoo-mmcrawler
Disallow: /	禁止yahoo-mmcrawler访问网站的任何部分
User-agent: yahoo-blogs/v3.9	开始配置：yahoo-blogs/v3.9
Disallow: /	禁止yahoo-blogs/v3.9访问网站的任何部分
User-agent: psbot	开始配置：psbot
Disallow: /	禁止psbot访问网站的任何部分
User-agent: *	开始配置：所有搜索引擎
Disallow: /sell/	禁止所有搜索引擎访问/sell目录
Disallow: /?	禁止所有搜索引擎访问任何带参数的页面
Disallow: /member/	禁止所有搜索引擎访问/member目录
Disallow: /m/	禁止所有搜索引擎访问/m目录
Disallow: /comment.php?	禁止所有搜索引擎访问comment.php,参数为的页面
Disallow: /javascript.php?	禁止所有搜索引擎访问javascript.php,参数为的页面