先把结论拆成“在什么条件下、对哪一类样本、观察到什么方向”三部分,再决定保留、改写还是退出。无法复现不等于原结论全部作废,但也不能把个别样本成立的结果直接当作可推广规律。下面给出一个可操作的判断流程。
复现失败通常来自三类原因,处理方式完全不同。
判断顺序建议是:先查记录是否完整,再查条件是否漂移,最后才考虑样本偏差。顺序颠倒容易把记录问题误判为结论失效。
保留适用于条件漂移类失败。前提是你能指出原结论依赖的具体条件,并且这些条件在新环境中仍有出现。例如原实验在特定时段、特定账户结构下观察到某类词的表现差异,如果新环境中仍能找到同类条件,结论可以作为“条件性成立”保留,但必须同时写明它不适用于哪些情况。
改写适用于样本偏差类失败。前提是你能拿到规模化后的例外样本,并找出例外与原始样本的可区分特征。改写的动作是把原结论从“普遍成立”调整为“在某类样本上成立”,并列出例外样本的共同点。改写的结论比保留更弱,但比直接退出更有信息量。
退出适用于记录缺失且无法补做对照的情况。前提是你既无法重建原条件,也无法获得新的对照数据。此时继续保留结论会误导后续决策,退出是更稳妥的选择。退出不等于删除历史记录,而是把该结论标记为“证据不足,暂停使用”。
假设某次小范围尝试中,一组长尾词在特定落地页结构下获得了较好的转化表现,于是被写成“这类词适合批量投放”。当把同一批词扩展到更多账户后,部分账户表现明显低于预期。
此时可先核对两点:扩展后的账户在落地页结构、投放时段、预算分配上是否与原实验一致;表现低于预期的账户是否集中在某一类词或某一类页面。如果差异集中在页面结构,原结论应改写为“该类词在原落地页结构下表现较好,换结构后不成立”。如果差异分散且无共同特征,原结论只能退回到“个别样本观察”,不宜作为批量决策依据。
这个例子的关键动作是:先做一次条件对照,再根据对照结果决定保留范围。对照做不出来,就按记录缺失处理。
有限结论要能被后来的人判断是否仍然适用,建议按固定字段记录:
这样记录的结论不会因为一次复现失败就被全盘推翻,也不会被误当成通用规律。复查触发条件尤其重要,它把“什么时候该重新看”提前写清楚,减少后续反复争论。
如果出现以下情况,优先考虑降级或退出,而不是继续修补结论:例外样本持续增加且找不到共同特征;原实验依赖的关键条件已经无法重建;记录中缺少对照设置,无法判断差异来源。这些信号说明继续保留结论的成本已经高于它的参考价值。
反过来,如果例外样本能被归类,且原条件在新环境中仍可复现,保留并补充边界说明是更合理的选择。判断标准不是结论“对不对”,而是它还能不能在明确条件下指导下一步动作。