Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: Teoma	开始配置：Teoma
Disallow: /	禁止Teoma访问网站的任何部分
User-agent: twiceler	开始配置：twiceler
Disallow: /	禁止twiceler访问网站的任何部分
User-agent: MSNBot	开始配置：MSNBot
Disallow: /	禁止MSNBot访问网站的任何部分
User-agent: Scrubby	开始配置：Scrubby
Disallow: /	禁止Scrubby访问网站的任何部分
User-agent: Robozilla	开始配置：Robozilla
Disallow: /	禁止Robozilla访问网站的任何部分
User-agent: Gigabot	开始配置：Gigabot
Disallow: /	禁止Gigabot访问网站的任何部分
User-agent: SemrushBot	开始配置：SemrushBot
Disallow: /	禁止SemrushBot访问网站的任何部分
User-agent: SemrushBot-SA	开始配置：SemrushBot-SA
Disallow: /	禁止SemrushBot-SA访问网站的任何部分
User-agent: BLEXBot	开始配置：BLEXBot
Disallow: /	禁止BLEXBot访问网站的任何部分
User-agent: AhrefsBot	开始配置：AhrefsBot
Disallow: /	禁止AhrefsBot访问网站的任何部分
User-agent: *	开始配置：所有搜索引擎
Disallow:	允许所有搜索引擎访问网站的任何部分
Disallow: /bin/	禁止所有搜索引擎访问/bin目录
Disallow: /view/	禁止所有搜索引擎访问/view目录
Disallow: /dist/	禁止所有搜索引擎访问/dist目录
User-agent: MJ12bot	开始配置：MJ12bot
Disallow: /	禁止MJ12bot访问网站的任何部分
Sitemap: https://www.sd235.net/sitemap.xml	Sitemap地址： https://www.sd235.net/sitemap.xml