检查于 2026/9/4 · https://www.nytimes.com/
对 AI 可发现性存在 2 个严重障碍 — 请先修复它们。
AI 爬虫矩阵
对每个机器人:你的 robots.txt 允许什么 — 以及你的服务器实际向该机器人的用户代理返回什么。以红色标出的行:robots 允许,但服务器拦截(通常是 WAF 或防机器人规则)。
| 机器人 | 运营方 | robots.txt | 服务器响应 |
|---|---|---|---|
| GPTBot | OpenAI | 拦截 | 拦截(403 / WAF) |
| OAI-SearchBot | OpenAI | 拦截 | 拦截(403 / WAF) |
| ChatGPT-User | OpenAI | 拦截 | 拦截(403 / WAF) |
| ClaudeBot | Anthropic | 拦截 | 拦截(403 / WAF) |
| Claude-SearchBot | Anthropic | 拦截 | 拦截(403 / WAF) |
| Claude-User | Anthropic | 拦截 | 拦截(403 / WAF) |
| PerplexityBot | Perplexity | 拦截 | 拦截(403 / WAF) |
| Perplexity-User | Perplexity | 拦截 | 拦截(403 / WAF) |
| Google-Extended | Google (Gemini-Training) | 拦截 | — |
| Googlebot | Google (KI-Übersichten) | 允许 | 200 + 内容 |
| CCBot | Common Crawl (Trainingsdaten vieler LLMs) | 拦截 | 拦截(403 / WAF) |
| Bytespider | ByteDance (Doubao) | 拦截 | 拦截(403 / WAF) |
| Amazonbot | Amazon (Alexa/Rufus) | 允许 | 拦截(403 / WAF) |
| Applebot-Extended | Apple (Intelligence-Training) | 拦截 | — |
| Meta-ExternalAgent | Meta (Llama/Meta AI) | 拦截 | 拦截(403 / WAF) |
分数是如何得出的?
| 重要的 AI 爬虫在 robots.txt 中被拦截 | -32 |
| 尽管 robots.txt 允许,服务器仍拦截机器人 | -6 |
| 页面标题过短或过长 | -6 |
| 没有 llms.txt | -5 |
| 没有 Organization 架构 | -4 |
| 没有作者或署名信号 | -4 |
| 没有可见或已标记的日期 | -3 |
| 没有 FAQ 或 HowTo 标记 | -2 |
| 结果 | 38 / 100 |
AI 爬虫的访问
重要的 AI 爬虫在 robots.txt 中被拦截
你的 robots.txt 禁止 5 个核心 AI 爬虫访问:GPTBot, OAI-SearchBot, ClaudeBot, PerplexityBot, Google-Extended。这些系统于是无法加载你的内容,也无法将其作为来源使用。
你应当做的: 逐个机器人检查拦截是否有意为之。为了 AI 可见性,至少应允许 GPTBot、OAI-SearchBot、ClaudeBot、PerplexityBot 和 Google-Extended。
User-agent: GPTBot Allow: / User-agent: PerplexityBot Allow: /
尽管 robots.txt 允许,服务器仍拦截机器人
对来自 Amazon (Alexa/Rufus) 的 1 个机器人,robots.txt 说「允许」,但服务器以 403 或防机器人页面响应。通常是 WAF、防火墙或 CDN 规则绕过 robots.txt 将爬虫挡在外面。
你应当做的: 把所需 AI 爬虫的用户代理和/或 IP 段加入你的 WAF / Cloudflare / 防火墙的允许列表。通过反向 DNS 验证,而不仅依据用户代理字符串。
结构与机器可理解性
页面标题过短或过长
<title> 长 66 个字符。大约 30–60 个字符较合理:足够描述以指明主题,足够简短以不被截断。
你应当做的: 写一个简洁的标题,包含主题以及在需要时包含品牌。
没有 llms.txt
/llms.txt 处没有文件。llms.txt 是你核心内容的一份简短 Markdown 概览,一些 AI 系统用它来定位。
你应当做的: 创建 /llms.txt:一个含名称的 H1、一段关于产品的简短说明,以及指向核心页面的链接列表。
# 你的公司 > 一句话描述。 ## 重要页面 - [产品](https://你的域名.cn/product):… - [价格](https://你的域名.cn/pricing):… - [关于我们](https://你的域名.cn/about):…
没有 Organization 架构
存在 JSON-LD,但没有「Organization」条目。AI 系统于是较难把你的品牌定位为独立实体,也较难将其与外部来源关联。
你应当做的: 添加一个含 name、url、logo 和 sameAs(指向你官方资料页的链接)的「Organization」架构。
没有 FAQ 或 HowTo 标记
没有 FAQPage 或 HowTo 标记时,问答式和分步式内容对 AI 系统而言更难被识别为可直接引用的答案。
你应当做的: 在页面回答真实问题或给出操作说明的地方,将其标记为 FAQPage 或 HowTo(没有可见对应内容则不要加标记)。
信任与实体信号(E-E-A-T)
没有作者或署名信号
无法识别作者(既无 meta 标签,也无 rel=author,也无 JSON-LD Person)。在 E-E-A-T 意义上的「经验」和「专业」需要具名且可追溯的署名。
你应当做的: 对编辑类内容,具名标注作者并链接作者页面;同时将其标记为 JSON-LD「Person」。
没有可见或已标记的日期
无法识别发布或修改日期(既无 <time>,也无 article:published_time,也无 JSON-LD 中的 datePublished)。对许多问题,AI 系统偏好较新的来源。
你应当做的: 对与时间相关的内容,醒目地显示日期,并在 JSON-LD 中标记 datePublished / dateModified。
正常(7)
- 主要内容在不含 JavaScript 的 HTML 中。
- 存在结构化数据(JSON-LD)。 — WebSite, NewsMediaOrganization
- 恰好一个 H1 标题。
- 已设置 canonical URL。
- 站点地图可访问。
- 服务器响应时间快。
- 没有 noindex — 页面可被索引。
下一步
- 重要的 AI 爬虫在 robots.txt 中被拦截. 逐个机器人检查拦截是否有意为之。为了 AI 可见性,至少应允许 GPTBot、OAI-SearchBot、ClaudeBot、PerplexityBot 和 Google-Extended。
- 尽管 robots.txt 允许,服务器仍拦截机器人. 把所需 AI 爬虫的用户代理和/或 IP 段加入你的 WAF / Cloudflare / 防火墙的允许列表。通过反向 DNS 验证,而不仅依据用户代理字符串。
- 页面标题过短或过长. 写一个简洁的标题,包含主题以及在需要时包含品牌。
每次变更都带电子邮件提醒的每周重扫。筹备中 — 请输入你的地址。
方法与局限
检查于 2026/9/4。citeglass 通过 HTTP 抓取 nytimes.com 及其相关文件(robots.txt、llms.txt、sitemap.xml)— 一次作为普通浏览器,一次针对每个 AI 爬虫用户代理。不执行 JavaScript。 首字节时间:235 毫秒。
它不是什么: 不追踪排名或引用,不就模型是否真的点名你作出任何声明,也不检查通过 JavaScript 加载的内容。这是从单个服务器 IP 视角的一次快照。