Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: Googlebot	开始配置：Googlebot
User-agent: Bingbot	开始配置：Bingbot
User-agent: DuckDuckBot	开始配置：DuckDuckBot
User-agent: Baiduspider	开始配置：Baiduspider
User-agent: 360Spider	开始配置：360Spider
User-agent: Sogouspider	开始配置：Sogouspider
User-agent: Yisouspider	开始配置：Yisouspider
User-agent: ByteSpider	开始配置：ByteSpider
User-agent: ToutiaoSpider	开始配置：ToutiaoSpider
User-agent: Sogou web spider	开始配置：Sogou web spider
User-agent: Sogou wap spider	开始配置：Sogou wap spider
User-agent: Sogou inst spider	开始配置：Sogou inst spider
User-agent: Sogou blog	开始配置：Sogou blog
User-agent: Sogou News Spider	开始配置：Sogou News Spider
User-agent: Sogou Orion Spider	开始配置：Sogou Orion Spider
User-agent: Sosospider	开始配置：Sosospider
User-agent: Sogou spider2	开始配置：Sogou spider2
User-agent: HaosouSpider	开始配置：HaosouSpider
User-agent: HaosoSpider	开始配置：HaosoSpider
Disallow: /Json/	禁止HaosoSpider访问/Json目录
Disallow: /json/	禁止HaosoSpider访问/json目录
Disallow: /WebControls/	禁止HaosoSpider访问/WebControls目录
Disallow: /shop/yqlink.aspx?p_UserID=*	禁止HaosoSpider访问yqlink.aspx,参数为p_UserID=*的页面
Disallow: /JDZJStyle/zxnews/css/ico.png	禁止HaosoSpider访问/JDZJStyle/zxnews/css目录下的ico.png文件
Disallow: /?	禁止HaosoSpider访问任何带参数的页面
Disallow: /search.html*	禁止HaosoSpider访问根目录下的search.html*文件
Disallow: /?from=*	禁止HaosoSpider访问,参数为from=*的页面
Disallow: /*.do$	禁止HaosoSpider访问所有以*.do结尾的文件
Disallow: /xunjia_.html	禁止HaosoSpider访问根目录下的*xunjia_.html*文件
Disallow: /hots__.html	禁止HaosoSpider访问根目录下的*hots__.html*文件
User-agent: *	开始配置：所有搜索引擎
Disallow: /	禁止所有搜索引擎访问网站的任何部分

活动推荐

Robots检测