反证问题的构造目标不是证明假设正确,而是先找出“如果这个假设成立,哪一项证据应当出现、哪一项证据不应当出现”。在用户行为分析里,一个假设通常能同时解释多个现象,所以要先写下竞争解释,再为每种解释设计可区分、可推翻的观察点;如果观察结果只支持其中一种解释,下一步才值得投入更细的拆分。
假设某电商站点在一次改版后,商品详情页的加购率下降。团队最初假设是“页面加载变慢导致用户放弃”。这个判断听起来合理,但至少还有三种解释:入口流量结构变化、加购按钮位置或视觉权重变化、以及商品供给或价格竞争力变化。它们都能解释“加购率下降”,所以不能直接拿一个指标当证据。
做法是把假设改写成竞争解释清单:
清单写完后,不要急着找支持H1的数据。先问:如果H1为真,哪些现象必须同时出现?如果H1为假,哪些现象又难以解释?这一步决定后面看什么数据。
反证问题的核心是“排他性”:一个观察结果应当只与部分解释相容。可以按下面的顺序构造。
这里要特别注意口径问题:第三方估算流量、搜索引擎报告与站内统计对同一批访问的归因和去重方式不同,不能把三套数字直接相减当作因果证据。站内统计能记录加购事件,但未必能解释用户为什么没加购;第三方估算能看到来源变化,但未必能还原站内模块调整。反证问题要尽量落在同一口径、同一时间窗、同一用户分组内。
下面情境是假设的,用于说明比较方法,不代表任何真实项目结果。假设某内容站发现注册转化率下降,团队提出“新注册弹窗打扰了用户”这一解释。为了构造反证问题,可以先定义变化前后两种决策条件。
变化前:弹窗只对未登录用户展示,且展示频率较低。此时如果注册转化率下降,弹窗解释的说服力较弱,更应先查流量来源和落地页匹配。
变化后:弹窗改为每次访问都展示,且关闭按钮不明显。此时如果注册转化率下降,弹窗解释的说服力增强,但仍需排除来源结构变化和内容更新。
可以设计三个反证问题:
实际动作可以是:先按来源和页面主题交叉分组,观察注册转化率降幅是否集中。如果降幅集中在“弹窗高频展示且关闭率高的分组”,下一步优先做弹窗频率的对照测试;如果降幅集中在“某来源占比上升”的分组,下一步先查渠道质量和落地页匹配,而不是改弹窗。这个动作的结果会直接决定后续排查方向,避免在错误前提上继续投入。
反证问题不是为了得出一个漂亮的结论,而是为了决定下一步做什么。可以用下面的判断规则:
把反证问题写下来还有一个好处:它迫使团队提前说明“什么结果会让我改变判断”。当观察结果出现时,决策不再依赖谁的声音更大,而是依赖哪条证据链更能排除竞争解释。对已有实际业务的团队来说,这比继续增加仪表盘更有用,因为它直接回答了“接下来该查什么、该停什么”。