Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: *	开始配置：所有搜索引擎
Disallow: /admin	禁止所有搜索引擎访问/admin目录（包括子目录）
User-agent: dotbot	开始配置：dotbot
Disallow: *	禁止dotbot访问网站的任何部分
User-agent: Adsbot	开始配置：Adsbot
Disallow: *	禁止Adsbot访问网站的任何部分
User-agent: SemrushBot	开始配置：SemrushBot
Disallow: *	禁止SemrushBot访问网站的任何部分
User-agent: AhrefsBot	开始配置：AhrefsBot
Disallow: *	禁止AhrefsBot访问网站的任何部分
User-agent: MJ12bot	开始配置：MJ12bot
Disallow: *	禁止MJ12bot访问网站的任何部分
User-agent: Baiduspider	开始配置：Baiduspider
Allow: /	允许Baiduspider访问网站的任何部分
Disallow: /admin	禁止Baiduspider访问/admin目录（包括子目录）
User-agent: Googlebot	开始配置：Googlebot
Allow: /	允许Googlebot访问网站的任何部分
User-agent: Googlebot-Mobile	开始配置：Googlebot-Mobile
Allow: /	允许Googlebot-Mobile访问网站的任何部分
User-agent: MSNBot	开始配置：MSNBot
Allow: /	允许MSNBot访问网站的任何部分
User-agent: Baiduspider-image	开始配置：Baiduspider-image
Allow: /	允许Baiduspider-image访问网站的任何部分
User-agent: YoudaoBot	开始配置：YoudaoBot
Allow: /	允许YoudaoBot访问网站的任何部分
User-agent: Sogou web spider	开始配置：Sogou web spider
Allow: /	允许Sogou web spider访问网站的任何部分
User-agent: Sogou inst spider	开始配置：Sogou inst spider
Allow: /	允许Sogou inst spider访问网站的任何部分
User-agent: Sogou spider2	开始配置：Sogou spider2
Allow: /	允许Sogou spider2访问网站的任何部分
User-agent: Sogou blog	开始配置：Sogou blog
Allow: /	允许Sogou blog访问网站的任何部分
User-agent: Sogou News Spider	开始配置：Sogou News Spider
Allow: /	允许Sogou News Spider访问网站的任何部分
User-agent: Sogou Orion spider	开始配置：Sogou Orion spider
Allow: /	允许Sogou Orion spider访问网站的任何部分
User-agent: ChinasoSpider	开始配置：ChinasoSpider
Allow: /	允许ChinasoSpider访问网站的任何部分
User-agent: Sosospider	开始配置：Sosospider
Allow: /	允许Sosospider访问网站的任何部分
User-agent: YYspider	开始配置：YYspider
Allow: /	允许YYspider访问网站的任何部分
User-agent: yisouspider	开始配置：yisouspider
Allow: /	允许yisouspider访问网站的任何部分
User-agent: EasouSpider	开始配置：EasouSpider
Allow: /	允许EasouSpider访问网站的任何部分
User-agent: ToutiaoSpider	开始配置：ToutiaoSpider
Allow: /	允许ToutiaoSpider访问网站的任何部分

活动推荐

Robots检测