Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: TurnitinBot	开始配置：TurnitinBot
Disallow: /	禁止TurnitinBot访问网站的任何部分
User-agent: archive.org_bot	开始配置：archive.org_bot
Disallow: /	禁止archive.org_bot访问网站的任何部分
User-agent: AhrefsBot	开始配置：AhrefsBot
Disallow: /	禁止AhrefsBot访问网站的任何部分
User-agent: Ezooms	开始配置：Ezooms
Disallow: /	禁止Ezooms访问网站的任何部分
User-agent: SolomonoBot	开始配置：SolomonoBot
Disallow: /	禁止SolomonoBot访问网站的任何部分
User-agent: MJ12bot	开始配置：MJ12bot
Disallow: /	禁止MJ12bot访问网站的任何部分
User-agent: googlebot-image	开始配置：googlebot-image
Disallow: /	禁止googlebot-image访问网站的任何部分
User-agent: twiceler	开始配置：twiceler
Disallow: /	禁止twiceler访问网站的任何部分
User-agent: Gigabot	开始配置：Gigabot
Disallow: /	禁止Gigabot访问网站的任何部分
User-agent: Scrubby	开始配置：Scrubby
Disallow: /	禁止Scrubby访问网站的任何部分
User-agent: Robozilla	开始配置：Robozilla
Disallow: /	禁止Robozilla访问网站的任何部分
User-agent: Nutch	开始配置：Nutch
Disallow: /	禁止Nutch访问网站的任何部分
User-agent: naverbot	开始配置：naverbot
Disallow: /	禁止naverbot访问网站的任何部分
User-agent: yeti	开始配置：yeti
Disallow: /	禁止yeti访问网站的任何部分
User-agent: asterias	开始配置：asterias
Disallow: /	禁止asterias访问网站的任何部分
User-agent: bytespider	开始配置：bytespider
Disallow: /	禁止bytespider访问网站的任何部分
User-agent: PetalBot	开始配置：PetalBot
Disallow: /	禁止PetalBot访问网站的任何部分
User-agent: *	开始配置：所有搜索引擎
Disallow:	允许所有搜索引擎访问网站的任何部分
Crawl-delay: 300	允许所有搜索引擎访问300目录（包括子目录）
Disallow: /usercenter/	禁止所有搜索引擎访问/usercenter目录
Disallow: /js/	禁止所有搜索引擎访问/js目录
Disallow: /css/	禁止所有搜索引擎访问/css目录
Disallow: /admin*	禁止所有搜索引擎访问根目录下以admin开头的目录（包括子目录）
Sitemap: http://www.yaolutong.com/sitemap/	Sitemap地址： http://www.yaolutong.com/sitemap/

活动推荐

Robots检测