Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: Baiduspider	开始配置：Baiduspider
Disallow: /q/	禁止Baiduspider访问/q目录
User-agent: YodaoBot	开始配置：YodaoBot
Disallow: /	禁止YodaoBot访问网站的任何部分
User-agent: Bingbot	开始配置：Bingbot
Disallow: /	禁止Bingbot访问网站的任何部分
User-agent: Slurp	开始配置：Slurp
Disallow: /	禁止Slurp访问网站的任何部分
User-agent: Teoma	开始配置：Teoma
Disallow: /	禁止Teoma访问网站的任何部分
User-agent: twiceler	开始配置：twiceler
Disallow: /	禁止twiceler访问网站的任何部分
User-agent: MSNBot	开始配置：MSNBot
Disallow: /	禁止MSNBot访问网站的任何部分
User-agent: Scrubby	开始配置：Scrubby
Disallow: /	禁止Scrubby访问网站的任何部分
User-agent: yahoo-mmcrawler	开始配置：yahoo-mmcrawler
Disallow: /	禁止yahoo-mmcrawler访问网站的任何部分
User-agent: yahoo-blogs/v3.9	开始配置：yahoo-blogs/v3.9
Disallow: /	禁止yahoo-blogs/v3.9访问网站的任何部分
User-agent: psbot	开始配置：psbot
Disallow: /	禁止psbot访问网站的任何部分
User-agent: Sogou web spider	开始配置：Sogou web spider
Disallow: /	禁止Sogou web spider访问网站的任何部分
User-agent: Sogou inst spider	开始配置：Sogou inst spider
Disallow: /	禁止Sogou inst spider访问网站的任何部分
User-agent: Sogou spider2	开始配置：Sogou spider2
Disallow: /	禁止Sogou spider2访问网站的任何部分
User-agent: Sogou blog	开始配置：Sogou blog
Disallow: /	禁止Sogou blog访问网站的任何部分
User-agent: Sogou News Spider	开始配置：Sogou News Spider
Disallow: /	禁止Sogou News Spider访问网站的任何部分
User-agent: Sogou Orion spider	开始配置：Sogou Orion spider
Disallow: /	禁止Sogou Orion spider访问网站的任何部分
User-agent: ChinasoSpider	开始配置：ChinasoSpider
Disallow: /	禁止ChinasoSpider访问网站的任何部分
User-agent: Sosospider	开始配置：Sosospider
Disallow: /	禁止Sosospider访问网站的任何部分
User-agent: *	开始配置：所有搜索引擎
Disallow:	允许所有搜索引擎访问网站的任何部分
Disallow: /	禁止所有搜索引擎访问网站的任何部分

活动推荐

Robots检测