Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: Baiduspider	开始配置：Baiduspider
Allow: /	允许Baiduspider访问网站的任何部分
User-agent: Sosospider	开始配置：Sosospider
Allow: /	允许Sosospider访问网站的任何部分
User-agent: sogou spider	开始配置：sogou spider
Allow: /	允许sogou spider访问网站的任何部分
User-agent: YodaoBot	开始配置：YodaoBot
Allow: /	允许YodaoBot访问网站的任何部分
User-agent: Googlebot	开始配置：Googlebot
Allow: /	允许Googlebot访问网站的任何部分
User-agent: Bingbot	开始配置：Bingbot
Allow: /	允许Bingbot访问网站的任何部分
User-agent: Bytespider	开始配置：Bytespider
Allow: /	允许Bytespider访问网站的任何部分
User-agent: YisouSpider	开始配置：YisouSpider
Allow: /	允许YisouSpider访问网站的任何部分
User-agent: 360Spider	开始配置：360Spider
Allow: /	允许360Spider访问网站的任何部分
User-agent: Slurp	开始配置：Slurp
Allow: /	允许Slurp访问网站的任何部分
User-agent: Teoma	开始配置：Teoma
Disallow: /	禁止Teoma访问网站的任何部分
User-agent: ia_archiver	开始配置：ia_archiver
Allow: /	允许ia_archiver访问网站的任何部分
User-agent: twiceler	开始配置：twiceler
Disallow: /	禁止twiceler访问网站的任何部分
User-agent: MSNBot	开始配置：MSNBot
Disallow: /	禁止MSNBot访问网站的任何部分
User-agent: Scrubby	开始配置：Scrubby
Allow: /	允许Scrubby访问网站的任何部分
User-agent: Robozilla	开始配置：Robozilla
Allow: /	允许Robozilla访问网站的任何部分
User-agent: Gigabot	开始配置：Gigabot
Disallow: /	禁止Gigabot访问网站的任何部分
User-agent: googlebot-image	开始配置：googlebot-image
Disallow: /	禁止googlebot-image访问网站的任何部分
User-agent: googlebot-mobile	开始配置：googlebot-mobile
Allow: /	允许googlebot-mobile访问网站的任何部分
User-agent: yahoo-mmcrawler	开始配置：yahoo-mmcrawler
Disallow: /	禁止yahoo-mmcrawler访问网站的任何部分
User-agent: yahoo-blogs/v3.9	开始配置：yahoo-blogs/v3.9
Disallow: /	禁止yahoo-blogs/v3.9访问网站的任何部分
User-agent: psbot	开始配置：psbot
Disallow: /	禁止psbot访问网站的任何部分
User-agent: *	开始配置：所有搜索引擎
Disallow: /	禁止所有搜索引擎访问网站的任何部分
Disallow: /templets	禁止所有搜索引擎访问/templets目录（包括子目录）
Allow: /sitemap.xml	允许所有搜索引擎访问根目录下的sitemap.xml文件
Sitemap: http://www.dyhj58.com/sitemap.xml	Sitemap地址： http://www.dyhj58.com/sitemap.xml

活动推荐

Robots检测