← 所有免费工具

Robots.txt 与 AI 爬虫访问测试

检查 Googlebot、Bingbot 与 AI 爬虫的访问规则,查看允许或阻止某个路径的具体规则,并生成 robots.txt。

免费 · 无需注册

Robots.txt 与 AI 爬虫访问测试

处理结果

结果预览和下载将在这里显示。

使用方法

  1. 读取公开 HTTPS 网站的 robots.txt,或粘贴规则在本地测试。
  2. 选择爬虫与路径,查看匹配规则组、最具体的规则及行号。
  3. 生成新文件草稿,先测试重要网页和资源,再自行发布。

范围与隐私

允许访问不代表已索引、排名、AI 训练或引用。不同提供商行为可能不同;本工具不计算 crawl-delay 等非标准指令。文件不存在与抓取失败会分开显示。

官方参考资料 ↗

常见问题

允许 GPTBot 就会出现在 AI 回答中吗?

不会。本工具只检查访问权限。训练爬虫、搜索爬虫与用户触发的抓取用途不同;实际 AI 可见度需要另外测量。

把结果用于实际工作

继续使用 Omni SEO & GEO持续跟踪技术修复、搜索表现和 AI 可见度。