Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: Baiduspider	开始配置：Baiduspider
Disallow:	允许Baiduspider访问网站的任何部分
User-agent: Sosospider	开始配置：Sosospider
Disallow:	允许Sosospider访问网站的任何部分
User-agent: sogou spider	开始配置：sogou spider
Disallow:	允许sogou spider访问网站的任何部分
User-agent: YodaoBot	开始配置：YodaoBot
Disallow:	允许YodaoBot访问网站的任何部分
User-agent: Googlebot	开始配置：Googlebot
Disallow:	允许Googlebot访问网站的任何部分
User-agent: Bingbot	开始配置：Bingbot
Disallow:	允许Bingbot访问网站的任何部分
User-agent: Slurp	开始配置：Slurp
Disallow:	允许Slurp访问网站的任何部分
User-agent: *	开始配置：所有搜索引擎
Disallow:	允许所有搜索引擎访问网站的任何部分
Disallow: /bin/	禁止所有搜索引擎访问/bin目录
Disallow: /http://www.college-china.com/?	禁止所有搜索引擎访问/http目录（包括子目录）
Sitemap: http://www.college-china.com/sitemap.xml	Sitemap地址： http://www.college-china.com/sitemap.xml