先给有条件的结论:当批量页面只有一部分被发现时,划分对照组最稳的做法是按“同模板、同层级、同发布时间、仅一个变量不同”来配对,而不是把已发现页面和未发现页面直接分成两组比较。因为直接分组会把模板差异、链接深度差异、内容类型差异全部混在一起,后面无论查什么指标都无法归因。只有当你确认两组页面在模板、目录层级、内链位置、发布时间四个维度上几乎一致时,直接分组才成立。
批量页面只被部分发现,最容易被误读成“内容质量差异”。但实际更常见的原因是抓取预算和链接结构的差异。假设同一批上线的商品页,A组在列表页第一页有入口,B组只在分页第三页之后有入口。此时A组被发现比例高,可能只是因为入口更浅,而不是内容更好。若把两组直接对比,你会把“链接深度”误判成“内容质量”,下一步的优化动作就会做错方向。
会让这个结论失效的一个反例是:如果两组页面确实来自同一模板、同一目录、同一时间上线,且内链入口数量相同,那么直接分组就是合理的。此时差异更可能来自页面自身的可抓取内容或状态码,而不是结构位置。
更可靠的做法是先固定三个不变量,再让一个变量变化:
这样配对后,如果A组被发现、B组未被发现,你才能把差异指向那一个变量。否则你得到的只是相关性,不能当作原因。
查询工具返回的“未收录”可能包含几种不同状态:从未被抓取、被抓取但未索引、被robots.txt限制抓取、或被抓取后因状态码被丢弃。这几种状态的下一步动作完全不同。robots.txt的抓取限制不等于可靠的索引移除,它只阻止抓取,不保证页面从索引中消失;站点地图也不保证收录,它只是提交线索。所以第一步不是改内容,而是用日志或抓取诊断区分:页面到底有没有被请求过。
如果日志显示从未被抓取,对照组应围绕“入口和链接”设计;如果日志显示被抓取但未索引,对照组应围绕“页面可见内容和状态码”设计。把这两种情况混在同一组里比较,会得出互相矛盾的结论。
假设某站有200个新页面,其中80个被发现、120个未被发现。不要直接比较这80和120。改为:从已发现页面中挑20个,从未发现页面中挑20个,要求它们同模板、同目录、同一天上线,唯一差异是内链入口数量(已发现组平均有3个内链,未发现组平均有1个)。此时你可以先给未发现组各增加2个内链入口,观察下一轮抓取请求是否增加。如果请求增加但索引仍未增加,说明瓶颈不在入口,下一步应转向页面可见内容或状态码检查;如果请求没有增加,说明入口仍是主要限制。
具体动作是:从批量页面中抽出两组各10–20个URL,记录它们的模板、层级、上线时间、内链入口数、日志中的抓取次数。只改变一个变量,等待一轮抓取周期后,用网站收录查询工具和日志对照两组的被抓取比例和被发现比例。若两组差异明显且方向一致,再扩大到全量;若差异不明显,说明你选的变量不是主因,应换另一个变量重新配对。这样每一步都有依据,不会把结构问题误判成内容问题。