Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: Googlebot	开始配置：Googlebot
Disallow:	允许Googlebot访问网站的任何部分
User-agent: googlebot-image	开始配置：googlebot-image
Disallow:	允许googlebot-image访问网站的任何部分
User-agent: googlebot-mobile	开始配置：googlebot-mobile
Disallow:	允许googlebot-mobile访问网站的任何部分
User-agent: MSNBot	开始配置：MSNBot
Disallow:	允许MSNBot访问网站的任何部分
User-agent: Slurp	开始配置：Slurp
Disallow:	允许Slurp访问网站的任何部分
User-agent: Teoma	开始配置：Teoma
Disallow:	允许Teoma访问网站的任何部分
User-agent: twiceler	开始配置：twiceler
Disallow:	允许twiceler访问网站的任何部分
User-agent: Gigabot	开始配置：Gigabot
Disallow:	允许Gigabot访问网站的任何部分
User-agent: Scrubby	开始配置：Scrubby
Disallow:	允许Scrubby访问网站的任何部分
User-agent: Robozilla	开始配置：Robozilla
Disallow:	允许Robozilla访问网站的任何部分
User-agent: Nutch	开始配置：Nutch
Disallow:	允许Nutch访问网站的任何部分
User-agent: ia_archiver	开始配置：ia_archiver
Disallow:	允许ia_archiver访问网站的任何部分
User-agent: baiduspider	开始配置：baiduspider
Disallow:	允许baiduspider访问网站的任何部分
User-agent: naverbot	开始配置：naverbot
Disallow:	允许naverbot访问网站的任何部分
User-agent: yeti	开始配置：yeti
Disallow:	允许yeti访问网站的任何部分
User-agent: yahoo-mmcrawler	开始配置：yahoo-mmcrawler
Disallow:	允许yahoo-mmcrawler访问网站的任何部分
User-agent: psbot	开始配置：psbot
Disallow:	允许psbot访问网站的任何部分
User-agent: asterias	开始配置：asterias
Disallow:	允许asterias访问网站的任何部分

活动推荐

Robots检测