Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: Slurp	开始配置：Slurp
Disallow: /	禁止Slurp访问网站的任何部分
User-agent: Teoma	开始配置：Teoma
Disallow: /	禁止Teoma访问网站的任何部分
User-agent: ia_archiver	开始配置：ia_archiver
Disallow: /	禁止ia_archiver访问网站的任何部分
User-agent: twiceler	开始配置：twiceler
Disallow: /	禁止twiceler访问网站的任何部分
User-agent: MSNBot	开始配置：MSNBot
Disallow: /	禁止MSNBot访问网站的任何部分
User-agent: Scrubby	开始配置：Scrubby
Disallow: /	禁止Scrubby访问网站的任何部分
User-agent: Robozilla	开始配置：Robozilla
Disallow: /	禁止Robozilla访问网站的任何部分
User-agent: googlebot-image	开始配置：googlebot-image
Disallow: /	禁止googlebot-image访问网站的任何部分
User-agent: googlebot-mobile	开始配置：googlebot-mobile
Disallow: /	禁止googlebot-mobile访问网站的任何部分
User-agent: yahoo-mmcrawler	开始配置：yahoo-mmcrawler
Disallow: /	禁止yahoo-mmcrawler访问网站的任何部分
User-agent: yahoo-blogs/v3.9	开始配置：yahoo-blogs/v3.9
Disallow: /	禁止yahoo-blogs/v3.9访问网站的任何部分
User-agent: psbot	开始配置：psbot
Disallow: /	禁止psbot访问网站的任何部分
User-agent: AhrefsBot	开始配置：AhrefsBot
Disallow: /	禁止AhrefsBot访问网站的任何部分
User-agent: SemrushBot	开始配置：SemrushBot
Disallow: /	禁止SemrushBot访问网站的任何部分
User-agent: dotbot	开始配置：dotbot
Disallow: /	禁止dotbot访问网站的任何部分
User-agent: MJ12bot	开始配置：MJ12bot
Disallow: /	禁止MJ12bot访问网站的任何部分
User-agent: DeuSu	开始配置：DeuSu
Disallow: /	禁止DeuSu访问网站的任何部分
User-agent: *	开始配置：所有搜索引擎
Allow: /	允许所有搜索引擎访问网站的任何部分
Crawl-delay: 60	允许所有搜索引擎访问60目录（包括子目录）
Disallow: /?	禁止所有搜索引擎访问任何带参数的页面
Disallow: /image	禁止所有搜索引擎访问/image目录（包括子目录）
Disallow: /shen	禁止所有搜索引擎访问/shen目录（包括子目录）
Disallow: /wangzhitu	禁止所有搜索引擎访问/wangzhitu目录（包括子目录）
Disallow: /themes/default/skin	禁止所有搜索引擎访问/themes/default/skin目录（包括子目录）
Disallow: /upload	禁止所有搜索引擎访问/upload目录（包括子目录）

活动推荐

Robots检测