Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: Baiduspider	开始配置：Baiduspider
Allow: /	允许Baiduspider访问网站的任何部分
User-agent: Sogou spider	开始配置：Sogou spider
Allow: /	允许Sogou spider访问网站的任何部分
User-agent: 360Spider	开始配置：360Spider
Disallow: /	禁止360Spider访问网站的任何部分
User-agent: Googlebot	开始配置：Googlebot
Disallow: /	禁止Googlebot访问网站的任何部分
User-agent: Googlebot-Mobile	开始配置：Googlebot-Mobile
Disallow: /	禁止Googlebot-Mobile访问网站的任何部分
User-agent: Googlebot-Image	开始配置：Googlebot-Image
Disallow: /	禁止Googlebot-Image访问网站的任何部分
User-agent: Mediapartners-��Google	开始配置：Mediapartners-��Google
Disallow: /	禁止Mediapartners-��Google访问网站的任何部分
User-agent: Adsbot-Google	开始配置：Adsbot-Google
Disallow: /	禁止Adsbot-Google访问网站的任何部分
User-agent:Feedfetcher-Google	开始配置：Feedfetcher-Google
Disallow: /	禁止Feedfetcher-Google访问网站的任何部分
User-agent: Yahoo! Slurp	开始配置：Yahoo! Slurp
Disallow: /	禁止Yahoo! Slurp访问网站的任何部分
User-agent: Yahoo! Slurp China	开始配置：Yahoo! Slurp China
Disallow: /	禁止Yahoo! Slurp China访问网站的任何部分
User-agent: Yahoo!-AdCrawler	开始配置：Yahoo!-AdCrawler
Disallow: /	禁止Yahoo!-AdCrawler访问网站的任何部分
User-agent: Yahoo Slurp	开始配置：Yahoo Slurp
Disallow: /	禁止Yahoo Slurp访问网站的任何部分
User-agent: YoudaoBot	开始配置：YoudaoBot
Disallow: /	禁止YoudaoBot访问网站的任何部分
User-agent: Sosospider	开始配置：Sosospider
Disallow: /	禁止Sosospider访问网站的任何部分
User-agent: MSNBot	开始配置：MSNBot
Disallow: /	禁止MSNBot访问网站的任何部分
User-agent: Scooter	开始配置：Scooter
Disallow: /	禁止Scooter访问网站的任何部分
User-agent: Lycos_Spider_(T-Rex)	开始配置：Lycos_Spider_(T-Rex)
Disallow: /	禁止Lycos_Spider_(T-Rex)访问网站的任何部分
User-agent: FAST-WebCrawler	开始配置：FAST-WebCrawler
Disallow: /	禁止FAST-WebCrawler访问网站的任何部分
User-agent: Slurp	开始配置：Slurp
Disallow: /	禁止Slurp访问网站的任何部分
User-agent: ia_archiver	开始配置：ia_archiver
Disallow: /	禁止ia_archiver访问网站的任何部分
User-agent: Tomato Bot	开始配置：Tomato Bot
Disallow: /	禁止Tomato Bot访问网站的任何部分
User-agent: *	开始配置：所有搜索引擎
Disallow: /	禁止所有搜索引擎访问网站的任何部分

活动推荐

Robots检测