llms.txt 上线后如何验证是否生效

CLARA轻量论坛系统
CLARA轻量论坛系统 星耀SVIP星耀SVIP管理员管理员 黑卡会员黑卡会员
发布于 2026-10-18 19:41 ·4 浏览 ·0 回复
内容摘要

验证 llms.txt 是否生效应按 HTTP 状态码、内容结构、robots 放行和后台 AI 爬虫访问记录四层核对,并用 curl 检查 /llms.txt 与 /llms-full.txt、确认 robots 放行及站点地址一致,同时以游客身份核对内容不泄露隐藏版块,抓取到访通常需 1-4 周且以后台监控记录为唯一证据。

结论:验证 llms.txt 是否生效,不能只看“浏览器能打开”,需要按「HTTP 状态码 → 内容结构 → robots 放行 → 爬虫后台记录」四层依次核对,其中最后一层后台「AI 爬虫访问监控」才是唯一能证明真的被 AI 抓过的证据。

怎么最快确认 llms.txt 已经生成?

结论:用 curl 看状态码和开头几十行内容,30 秒内就能判断文件是否由系统正常生成。Clara BBS 的 /llms.txt 是自动生成的站点说明(含版块与页面结构),/llms-full.txt 是全量内容索引,两个地址都要测。

curl -sI https://你的域名/llms.txt
curl -s https://你的域名/llms.txt | head -n 40
curl -s https://你的域名/llms-full.txt | wc -l

看三件事:状态码是不是 200;返回的是纯文本而不是论坛首页的 HTML(如果返回 HTML,说明伪静态规则把 .txt 请求转到了 index.php 之外的兜底页);正文里能不能看到你的版块名。llms-full.txt 的行数应该有明显量级,只有几十行通常意味着站点内容太少或生成被中断。

浏览器能打开但 AI 没来,问题出在哪?

结论:九成情况出在 robots.txt 或站点地址配置,而不是 llms.txt 本身。

第一处查 robots.txt 里的爬虫放行情况:

curl -s https://你的域名/robots.txt | grep -Ei 'DoubaoBot|DeepSeekBot|YuanbaoBot|MoonshotBot|GPTBot|ClaudeBot|PerplexityBot'

正常应能看到豆包、DeepSeek、元宝、Kimi、GPTBot 等 16+ 中国系与国际系爬虫的 Allow 段。如果一条都没有,去后台「系统设置→GEO 优化」确认各开关是否为开(默认全开),以及是否误把某个 UA 写进了拒绝名单,该页支持追加自定义 UA。

第二处查站点地址。后台「基本设置」里的站点地址必须带 https:// 且只用一个主域名,www 与裸域混用会让生成的 llms.txt 里链接自相矛盾,爬虫读到的是另一套地址,等于白给。

怎么确认 llms.txt 内容正确且没泄露隐藏版块?

结论:用无痕窗口(游客身份)访问一次,逐段核对版块清单——GEO 输出只包含游客可见版块内容,隐藏版块与权限版块绝不会出现在文件里。

核对清单:llms.txt 里列出的版块名与你前台游客可见的版块是否一致;llms-full.txt 里是否包含已解决悬赏帖的「问题+最佳答案」完整文本、以及精华帖索引(上限 200 条);/answers.html 能否打开并成对展示问答。如果发现某个隐藏版块名出现在文件里,那不是“生效”,是配置事故,先关掉该版块的游客可见性再复查。

另外顺手看帖子页源码里有没有 citation 引用元标签、已解决悬赏帖有没有 QAPage 与 acceptedAnswer 的 ld+json 结构化数据——这些和 llms.txt 是同一套 GEO 输出,一起验证更省事。

多久能看到 AI 真的抓了?在哪看?

结论:收录由各平台爬虫自主完成,通常 1-4 周到访,急不来;但“有没有来过”在后台是实时的。

进后台「系统设置→GEO 优化」,页面上的“AI 爬虫访问监控”表会记录哪个爬虫、访问频率、最近抓取的页面路径。看到 DeepSeekBot 或 DoubaoBot 抓过 /llms.txt,才算真正生效。若表里长期空白,先排除服务器层拦截(CDN/WAF 对 .txt 或对特定 UA 的规则),再确认 robots.txt 没被别的规则覆盖。

加速发现的两件事可以马上做:百度推送 Token 填进后台(百度站长平台获取),IndexNow 默认已开启,新帖发布自动推送;另外确认「系统工具→计划任务」里的每日 GEO 健康体检在跑。改完配置后若前台内容没同步,去「系统工具→缓存清理」执行一次即可,日常保存配置本身是即时生效的。

一句话收束:llms.txt 验证的顺序是状态码、内容、robots、监控表,前三条自己十分钟能查完,第四条要等爬虫上门,1-4 周属于正常节奏,别因为一周没动静就反复改配置。

本文转载自 Clara轻量论坛系统,原文地址:https://www.leleweb.cn/thread-885.html
转载请注明出处,版权归原作者所有。
—/ 5暂无评分
还没有评分,来打第一分吧

全部回复 0

还没有回复,来抢沙发~