Robots检测工具

Robots检测

异地排名页面相似度网站PK Robots检测 Robots生成死链检测 HTTPS检测 Meta标签生成网站日志分析

文件状态良好，请查看下面具体的报告。

规则	解释	有效
User-agent: *	开始配置：所有搜索引擎
Allow: /wp-/uploads/	允许所有搜索引擎访问*/wp-/uploads**下的所有文件
Allow: /wp-/themes/	允许所有搜索引擎访问*/wp-/themes**下的所有文件
Allow: /archives/user/1	允许所有搜索引擎访问/archives/user/1目录（包括子目录）
Disallow: /trackback	禁止所有搜索引擎访问/trackback目录（包括子目录）
Disallow: /wp-*	禁止所有搜索引擎访问根目录下以wp-开头的目录（包括子目录）
Disallow: //attachment/	禁止所有搜索引擎访问*//attachment**下的所有文件
Disallow: /?post_type=post&s=*	禁止所有搜索引擎访问,参数为post_type=post&s=*的页面
Disallow: /*?post_type=post	禁止所有搜索引擎访问所有带参数为post_type=post的页面
Disallow: /*?post_type=download	禁止所有搜索引擎访问所有带参数为post_type=download的页面
Disallow: /*?post_type=product	禁止所有搜索引擎访问所有带参数为post_type=product的页面
Disallow: /*?post_type=video	禁止所有搜索引擎访问所有带参数为post_type=video的页面
Disallow: /*?post_type=moment	禁止所有搜索引擎访问所有带参数为post_type=moment的页面
Disallow: /*?post_type=topic	禁止所有搜索引擎访问所有带参数为post_type=topic的页面
Disallow: /archives/user/*	禁止所有搜索引擎访问/archives/user下的所有文件
Sitemap: https://www.landiannews.com/sitemap.xml	Sitemap地址： https://www.landiannews.com/sitemap.xml
User-agent: MJ12bot	开始配置：MJ12bot
Disallow: /	禁止MJ12bot访问网站的任何部分
User-agent: istellabot	开始配置：istellabot
Disallow: /	禁止istellabot访问网站的任何部分
User-agent: SemrushBot	开始配置：SemrushBot
Disallow: /	禁止SemrushBot访问网站的任何部分
User-agent: SemrushBot-SA	开始配置：SemrushBot-SA
Disallow: /	禁止SemrushBot-SA访问网站的任何部分
User-agent: Dotbot	开始配置：Dotbot
Disallow: /	禁止Dotbot访问网站的任何部分
User-agent: AhrefsBot	开始配置：AhrefsBot
Disallow: /	禁止AhrefsBot访问网站的任何部分

活动推荐

Robots检测