Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: *	开始配置：所有搜索引擎
Disallow: /d/	禁止所有搜索引擎访问/d目录
Disallow: /e/class/	禁止所有搜索引擎访问/e/class目录
Disallow: /e/config/	禁止所有搜索引擎访问/e/config目录
Disallow: /e/data/	禁止所有搜索引擎访问/e/data目录
Disallow: /e/enews/	禁止所有搜索引擎访问/e/enews目录
Disallow: /e/update/	禁止所有搜索引擎访问/e/update目录
User-agent: amazonbot	开始配置：amazonbot
Disallow: /	禁止amazonbot访问网站的任何部分
User-agent: SemrushBot	开始配置：SemrushBot
Disallow: /	禁止SemrushBot访问网站的任何部分
User-agent: DotBot	开始配置：DotBot
Disallow: /	禁止DotBot访问网站的任何部分
User-agent: MJ12bot	开始配置：MJ12bot
Disallow: /	禁止MJ12bot访问网站的任何部分
User-agent: AhrefsBot	开始配置：AhrefsBot
Disallow: /	禁止AhrefsBot访问网站的任何部分
User-agent: MauiBot	开始配置：MauiBot
Disallow: /	禁止MauiBot访问网站的任何部分
User-agent: MegaIndex.ru	开始配置：MegaIndex.ru
Disallow: /	禁止MegaIndex.ru访问网站的任何部分
User-agent: BLEXBot	开始配置：BLEXBot
Disallow: /	禁止BLEXBot访问网站的任何部分
User-agent: ZoominfoBot	开始配置：ZoominfoBot
Disallow: /	禁止ZoominfoBot访问网站的任何部分
User-agent: ExtLinksBot	开始配置：ExtLinksBot
Disallow: /	禁止ExtLinksBot访问网站的任何部分
User-agent: hubspot	开始配置：hubspot
Disallow: /	禁止hubspot访问网站的任何部分
User-agent: leiki	开始配置：leiki
Disallow: /	禁止leiki访问网站的任何部分
User-agent: webmeup	开始配置：webmeup
Disallow: /	禁止webmeup访问网站的任何部分
User-agent: yahoo-mmcrawler	开始配置：yahoo-mmcrawler
Disallow: /	禁止yahoo-mmcrawler访问网站的任何部分
User-agent: yahoo-blogs/v3.9	开始配置：yahoo-blogs/v3.9
Disallow: /	禁止yahoo-blogs/v3.9访问网站的任何部分
User-agent: Slurp	开始配置：Slurp
Disallow: /	禁止Slurp访问网站的任何部分
User-agent: twiceler	开始配置：twiceler
Disallow: /	禁止twiceler访问网站的任何部分
User-agent: AhrefsBot	开始配置：AhrefsBot
Disallow: /	禁止AhrefsBot访问网站的任何部分
User-agent: psbot	开始配置：psbot
Disallow: /	禁止psbot访问网站的任何部分
User-agent: SemrushBot	开始配置：SemrushBot
Disallow: /	禁止SemrushBot访问网站的任何部分
User-agent: Amazonbot	开始配置：Amazonbot
Disallow: /	禁止Amazonbot访问网站的任何部分

活动推荐

Robots检测