多轮比较与置信区间

什么时候两轮结果可以比较,以及如何读“无法区分”。

本页内容

优化之后,最常见的问题是“数字变了,是真的变了吗?”。AI 的回答本身有波动,测量范围也可能在两轮之间发生变化。PeakGEO 比较两轮结果时,只拿条件一致的回答做对比,并用置信区间判断差异是否超出了正常波动。本页说明比较的规则和结果的读法。

什么样的结果可以比较

比较的最小单位是一个可比单元:同一个问题、同一个模型、同一种问题类型、同样的采样条件(如地区、采集方式)。只有这些都一致,前后两轮的回答才放在一起比较。

以下情况会让单元变得不可比:

  • 问题文本改过,或换成了问题库里的新版本;
  • 前后使用的模型不同,或某个模型是第一次采样;
  • 采样条件不同;
  • 某一轮这个单元没有拿到有效回答(失败、超时或空回答)。

配对单元

在可比单元中,只有前后每一轮都有有效结果的单元才进入比较,称为配对单元。这样可以避免“这一轮多问了几个容易被提到的问题”造成的假变化。

  • 复测对比和监测的轮间对比中,配对单元内的重复采样全部计入样本。
  • 可见度面板的“效果对比”还会平衡前后两侧的重复采样数量,使两侧的有效回答数相同。

控制台会同时显示纳入和排除的数量,例如“3 组可比条件 · 前后各 12 条有效回答”和“未进入对比:优化前 2 条,优化后 4 条”。如果只有部分单元可比,看到的变化只代表这些单元,不能把“换了样本范围”解读为优化效果。

如何判断变化

每一侧的比率都按配对后的回答重新计算,并附带 95% 置信区间(见指标口径)。然后按以下顺序得出结论:

结果条件
暂时没法对比任一侧没有可比的有效回答
持平两侧的比率完全相同
抽样误差内,无法区分比率不同,但两侧的置信区间重叠
改善两侧区间不重叠,且朝更好的方向变化
恶化两侧区间不重叠,且朝更差的方向变化

“更好的方向”取决于指标:提及率、推荐率升高是改善;已核实事实错误比例这类指标则是降低才算改善。

示例

某个模型上,优化前 20 条可比回答中 3 条推荐了本品牌(15%),优化后 20 条中 8 条推荐(40%):

  • 优化前的区间约为 5.2%–36.0%,优化后约为 21.9%–61.3%;
  • 两段区间重叠,因此结果是 抽样误差内,无法区分,尽管点估计相差 25 个百分点。

如果两侧各有 40 条回答,比率分别为 30%(12 条)和 70%(28 条),区间约为 18.1%–45.4% 和 54.6%–81.9%,不再重叠,结果为 改善。

想让差异更容易被区分,可以在监测计划中提高“每题重复采样”的次数,或扩大问题范围,见监测、复测与告警。

在哪里做比较

  • 可见度面板 › 效果对比:可以按“两次测量”“两个时间段”或“优化事件”比较,并按模型、主题拆开查看变化来自哪里,逐题对比时可分别打开前后的回答。
  • 监控与复测 › 复测对比:把首次诊断与每次复测并列展示,每项指标标注改善、恶化、持平、无法区分或暂时没法对比,并给出整体判断:有改善、还没有改善、变化不明显(正常波动)、有升有降、暂时没法下结论。

两边都有数据但问题版本、模型或采样条件不一致时,界面会明确提示无法给出可信变化,而不是硬算一个差值。

发布记录与首次被引用时间

在内容创作中登记发布链接后,或在可见度面板的“记录已发布的优化内容”中手动补充,发布记录会出现在“优化记录与效果”里:

  • 首次被引用/检出:发布之后,第一次有有效回答实际引用这个 URL 的时间。还没有回答引用时显示“尚未检出”,不会用发布时间代替。
  • 文章引用:前 → 后:按具体 URL 统计,不用整个域名代替。
  • 选择“优化事件”比较时,优先使用关联行动的优化前基线,否则观察发布前 14 天;发布后持续观察 14 天,已有结果随时可查。

变化不等于因果

对比展示的是观察到的变化,不能直接认定为某次优化的效果。

即使区间不重叠、结果标为“改善”,也只说明在可比范围内前后出现了超出正常波动的差异。模型自身更新、其他网站内容变化、竞品动作都可能带来变化。同样,某篇文章被检出引用,也不能证明它让推荐率上升。PeakGEO 不承诺任何优化一定带来提升。

相关页面:指标口径 · 监测、复测与告警 · 内容创作

没找到答案?写信给我们: [email protected]