结论先行:先判断“页数”和“对象数”是不是同一个计数口径。多数关键词研究工具的报告页数按行或按分页块统计,而实际对象数按唯一词条统计;当同一词条因地区、设备、匹配方式、时间窗口或来源而被拆成多行时,页数会大于对象数。去重的第一步不是删行,而是确定唯一对象由哪些字段共同定义。
把报告导出为可处理的文本或表格后,逐列检查哪些字段在变化。常见情况是:同一个词条出现多次,但每次的地区、语言、设备、时间范围或数据来源不同。此时它们不是重复对象,而是同一对象的不同观测。若把这些行直接合并,后续按地区或设备做决策时就会丢失条件。
可区分的证据是:如果两行除“页码”或“抓取批次”外完全相同,才属于可安全合并的重复;如果任一条件字段不同,应保留为独立观测,只在统计唯一对象时按主键计数。这个判断动作会直接影响下一步:保留观测行用于分析,另建一张唯一对象表用于规模估算,两者不要混用。
去重前先写清主键。假设主键是“词条+地区+语言”,那么同一词条在三个地区出现就计为三个对象;假设主键只有“词条”,这三个地区行就应折叠为一个对象。两种口径都成立,但适用条件不同:前者适合按市场分配执行任务,后者适合估算总词量或做主题覆盖盘点。
实际操作时,先在样本中标记主键组合,再统计唯一组合数。若唯一组合数明显小于总行数,说明报告页数确实被条件字段放大;若两者接近,则页数虚高可能来自分页头、空行或汇总行,而不是真实重复。这个结果决定下一步是调整主键,还是清理非数据行。
假设小样本中每个词条只出现一次,于是你按“词条”去重,结果正常。但规模化后,工具开始对同一词条返回不同来源或不同匹配类型的行,此时继续按“词条”去重,就会把本来有区分度的观测压成一条,导致后续按来源评估时无数据可用。
这个反例说明:去重规则必须随数据规模和数据来源变化重新验证。边界在于,当报告中新增了样本阶段没有出现的条件字段时,旧主键就失效。此时不能照搬小样本的去重逻辑,而应先把新增字段纳入主键候选,再比较唯一对象数的变化。
具体动作可以这样安排:
唯一组合数统计对象数,与报告页数对比。这个动作的结果会直接影响下一步:唯一对象表用于确定任务规模和覆盖范围,观测附表用于分析条件差异。若两者混在一起,后续按地区或来源执行时就会重复或漏项。
当报告用于跨地区、跨设备或跨来源的对比时,不能直接按词条去重。只有当所有条件字段都相同,且差异仅来自分页或抓取批次时,才适合合并。若无法确认字段含义,应先核对工具文档或导出说明,具体字段定义需要以实际工具为准。
去重不是把页数压到最小,而是让计数口径和决策口径一致。先定义唯一对象,再决定保留哪些观测,最后用两张表分别支撑规模估算和条件分析,这样页数与对象数的差异才会变成可解释的信息,而不是需要掩盖的错误。