固定问题集月度监测:AI 引用率怎么量化
一、GEO 最容易被糊弄的地方是”效果无法证伪”
GEO 服务里最常见的说法是”AI 现在会提到你们了”。这句话几乎无法反驳——换一个问题、换一个模型、换一天去问,结论就可能相反。它既不能证明有效,也不能证明无效。
问题出在采样方法上:临时想一个问题、问一次、看一眼答案。这种做法的样本量是 1,随机性远大于信号,用单次结果做结论,等于抛一次硬币。
要让它可证伪,需要把四件事固定下来:
| 要素 | 不固定时的后果 | 固定后的效果 |
|---|---|---|
| 问题集 | 每次问的问题都不同,无法比较 | 同一批问题逐月对比,趋势可读 |
| 模型与入口 | 换模型等于换环境,结果不可比 | 同一模型同一入口,变化来自内容 |
| 采样时间窗 | 不同周采样,受行业节奏干扰 | 每月同一周,排除季节性噪声 |
| 账号与状态 | 登录状态、地区不同会影响答案 | 同一账号状态,减少环境变量 |
这套方法的目标不是算出”引用率是 23%”这种精确数字,而是判断方向。月度之间的差值在 5 个百分点以内时,不能当结论用;连续三个月的同向变化,才是信号。这个底线必须先说清楚,否则报告本身会变成另一种糊弄。它只能观测”答案里有没有你”,不能观测”有多少人看到你”——曝光与点击属于另一条链路,要分开测。这套口径是我们在多个客户站上跑出来的,环形山的方法说明里有相关索引。
二、问题集怎么构造:三档,40 条左右
问题集是这套方法的核心资产。它要满足三个条件:问法是真实买家会用的、覆盖从认知到决策的完整路径、成员相对稳定。
我们建议按三档构造,总量控制在 40 条左右:
| 档位 | 问题类型 | 条数 | 示例问法 | 主要看什么 |
|---|---|---|---|---|
| 第一档 | 品牌词问题 | 10–12 条 | 某公司是做什么的、某品牌的产品怎么样 | 品牌是否被模型认识,实体是否清晰 |
| 第二档 | 品类通用问题 | 12–15 条 | 某类设备怎么选、某工艺的公差能做到多少 | 是否进入品类候选池 |
| 第三档 | 采购决策问题 | 12–15 条 | 中国供应商怎么筛、某类产品交期一般多久 | 是否能进入采购环节的答案 |
三档的作用完全不同。第一档看认知,第二档看品类覆盖,第三档看采购环节。只测品牌词会得到虚高的结果——模型可能认识你的名字,但在买家真正做决策的问题里一次都不提你。
问题从哪里来?不要闭门造车,按下面四个来源凑:
| 来源 | 具体取法 | 建议占比 | 价值 |
|---|---|---|---|
| 业务员真实被问过的问题 | 从询盘与聊天记录里提取原话 | 40% | 问法最真实 |
| 站内搜索词 | 后台搜索日志去重后取前 30 个 | 20% | 反映已有访客的意图缺口 |
| AI 里的下拉与相关提问 | 输入品类词看模型补全的提问 | 25% | 反映当前主流问法 |
| 竞品在答案里出现的位置 | 记录竞品被提到的问法与场景 | 15% | 找出竞争空白 |
问题集一旦定下来,就不要轻易改。需要新增时按”替换”而不是”追加”处理:新增 2 条就下掉 2 条,并标记替换时间点。否则三个月后你会面对一份无法纵向对比的清单。
三、采样纪律:五个固定项
方法是靠纪律撑住的。下面五项每次采样都要固定,任何一项变了,当期数据就要单独标注。
| 固定项 | 具体要求 | 违反后的处理 |
|---|---|---|
| 固定模型与入口 | 选定 2–3 个模型,记录具体版本与入口类型 | 换模型后的数据单独列一栏,不与上期直接比 |
| 固定问法 | 逐字使用问题集原文,不改写、不加限定词 | 改写过的结果不计入当期 |
| 固定时间窗 | 每月同一周的周一,上午完成 | 偏差超过 3 天的数据标注异常 |
| 固定账号状态 | 同一账号、同一网络环境、同样是否开启联网 | 状态变化时重新建立基线 |
| 固定留存 | 保存原始提问与完整答案文本,附截图 | 无原始记录的数据视为无效 |
关于问法,有两种选择。原始问法直接输入问题原文,更接近真实使用场景,但答案更随机;加限定问法在问题后加一句”请列出供应商”,更容易触发品牌提及,但结论偏乐观。我们建议以原始问法为主,加限定问法只在判断”品类候选池”时作为补充。两者结果分开记录,不要混算成一个指标。用加限定问法得到的好看数字拿去汇报,等于自己给自己造了一个假基线。
还有一条纪律:单条问题只问一次,不重复问到满意为止。想确认某条答案是否稳定,留到下一期复测。
四、五项可量化指标的口径
指标口径必须先写死,否则每次统计都会换一种算法。下面五项是我们在用的版本。
| 指标 | 口径定义 | 计算方式 | 观察周期 |
|---|---|---|---|
| 提及率 | 答案中出现品牌名的比例 | 提到的问题数 ÷ 总问题数 | 每月 |
| 首位提及率 | 品牌名出现在答案第一个被提对象中的比例 | 首位提及数 ÷ 总问题数 | 每月 |
| 引用来源率 | 答案的引用来源中出现官网的比例 | 引到官网的问题数 ÷ 提到品牌的问题数 | 每月 |
| 答案准确率 | 答案中对你的描述与事实一致的比例 | 描述正确的问题数 ÷ 提到品牌的问题数 | 每月 |
| 竞品对比胜出率 | 与指定竞品同时出现时,描述更有利的比例 | 有利数 ÷ 同现问题数 | 每月 |
三个口径细节要单独说明。提及率的分母是全部问题,统一分母才能跨月比较;引用来源率的分母是提到品牌的问题,否则会被大量未提及的问题稀释;答案准确率必须有人工标准,提前写一份事实核定表,列出产能、认证、起订量、交期等硬事实逐条比对。
五项指标的参考区间如下(以工业品类为例):
| 指标 | 首个季度参考区间 | 半年后参考区间 | 说明 |
|---|---|---|---|
| 提及率 | 5%–15% | 15%–35% | 受品类竞争强度影响大 |
| 首位提及率 | 0%–5% | 5%–15% | 高客单价品类普遍偏低 |
| 引用来源率 | 10%–30% | 30%–60% | 与官网内容结构相关 |
| 答案准确率 | 40%–70% | 70%–90% | 起步期常见描述错误 |
| 竞品对比胜出率 | 20%–40% | 40%–60% | 小样本,看趋势不看绝对值 |
五、判定规则与阈值:含”数据不足以判定”
有了数据,还要有判定规则。没有规则的报告,读的人会各自解读。我们把判定分成四档,其中一档明确叫”数据不足以判定”。
单条问题的判定:
| 状态 | 判定条件 | 记录方式 |
|---|---|---|
| 提及且引用官网 | 答案提到品牌,且引用来源含官网 | 记 3 分 |
| 提及未引用 | 答案提到品牌,但来源里没有官网 | 记 2 分 |
| 未提及 | 答案未出现品牌名 | 记 0 分 |
| 答案有误 | 提到了,但硬事实描述错误 | 单独标记,不参与计分 |
| 无法判定 | 答案是泛泛而谈,或与问题无关 | 标记为无效,当期剔除 |
整体结论的判定:
| 结论 | 条件 | 是否可对外汇报 |
|---|---|---|
| 明确改善 | 提及率环比升幅不低于 5 个百分点,且连续两期同向 | 可以 |
| 可能改善 | 升幅在 5 个百分点以内,或仅一期上升 | 不可以,写”待观察” |
| 无明显变化 | 变动在正负 3 个百分点以内 | 不可以,写”无变化” |
| 数据不足以判定 | 有效样本少于 30 条,或当期更换了模型、问法 | 不可以,写明原因 |
“数据不足以判定”是一份诚实报告的必备项。触发条件通常是三种:当期有效样本低于 30 条、模型版本更新导致答案风格整体变化、或者采样纪律被破坏(问了改写版的问题、换了账号)。这三种情况下,硬给一个结论比不给结论的伤害更大——它会让人按错误的方向调整内容。
还有一个容易忽略的判定原则:答案准确率下降要优先于提及率处理。如果模型大量提到你,但把你描述成另一类供应商,或者写错了产能与认证,那种提及是负资产。这时候第一优先级是纠正事实源,而不是继续提高提及率。
六、从监测到行动的映射
监测的价值在于它指向具体动作。下面是我们在用的映射规则,按现象直接对到动作。
| 现象 | 判断 | 第一优先级动作 | 观察窗口 |
|---|---|---|---|
| 提及率低,准确率正常 | 语料密度不够,模型没素材 | 提高站上事实型内容的密度,补参数、认证、工艺细节 | 8–12 周 |
| 有提及,无引用来源 | 内容可被读到,但结构不可提取 | 补结论段、表格、FAQ,让事实成块 | 4–8 周 |
| 答案准确率低 | 事实源有误或过时 | 修正官网与可公开资料上的错误描述 | 4–8 周 |
| 品牌词问得到,品类词问不到 | 实体清晰但品类覆盖不足 | 补品类层面的选型与对比内容 | 8–12 周 |
| 品类词提到,采购词问不到 | 缺决策环节内容 | 补交期、MOQ、认证、售后等采购关切 | 8–12 周 |
| 竞品被提,你不被提 | 对方在某些问法上有明确内容 | 针对这些具体问法补对应页面 | 8–12 周 |
| 全部指标无变化 | 内容更新停滞,或通道有问题 | 先确认内容有没有更新、爬虫有没有来读 | 4 周 |
这张表的用法是:每月出完报告后,只挑最靠前的一条现象去执行,不要同时改三件事。一次只改一个变量,下个月才知道改的哪一条起了作用。同时改内容结构、更新频率和事实描述,即使数据变好了也无法归因。
配套的内容侧动作主要是五种:把关键事实写成独立段落、每页补 5–8 条 FAQ、补认证与合规说明页、统一品牌表述与实体信息、补多语言版本。见效周期大多在 4–24 周之间,越靠后越慢。
七、报告模板、留存周期与不适用情形
报告要短。一页表加一份归档,足够支撑决策。
| 报告区块 | 内容 | 篇幅 |
|---|---|---|
| 本期结论 | 一行结论,取自四档判定 | 1 行 |
| 五项指标表 | 本期值与上期值对比,标注变动方向 | 1 张表 |
| 异常问题清单 | 答案有误或无法判定的问题,逐条列出 | 3–8 条 |
| 本期动作 | 只写一条,取自行动映射表 | 1 行 |
| 下期验证点 | 用来确认本期动作是否起效的那一个指标 | 1 行 |
原始资料的留存要求:
| 留存内容 | 保留时长 | 用途 |
|---|---|---|
| 原始提问与完整答案文本 | 12 个月 | 复核、追溯口径变化 |
| 答案截图 | 12 个月 | 应对外部质疑 |
| 月度指标表 | 长期 | 看年度趋势 |
| 问题集版本记录与事实核定表 | 长期 | 保证纵向可比、判定准确率 |
留存 12 个月是有原因的:模型版本更新的影响常常滞后显现,半年后回看才发现数据出现台阶。没有原始答案,就无法判断那次变化来自内容还是来自模型。
这套方法有三种情况不适用。一是问题集的语言与目标市场不一致,用英语问题测德语市场没有意义。二是站上可被引用的内容还很初期,测了只能得到一排零,应该先做内容。三是把监测当成验收工具——它不能用来证明某一次交付”提升了多少”,一旦被这么用,采样纪律就会放松,数据也就不再可信。
FAQ 常见问题
写在最后
GEO 之所以容易变成一笔说不清的支出,是因为它没有广告那样的实时数据,也没有排名那样的明确位置。而固定问题集这套方法,本质上是用纪律换可信度——用同一组成员、同一种问法、同一个时间窗,把随机的东西变成可比的。
它给不出精确到小数点的效果承诺,也给不出”提升多少倍”的结论。它只能告诉你三件事:这个月比上个月是好了、差了,还是没变;哪些问题上有你、哪些没有;下一步该改内容、改结构,还是改事实。
能诚实说出”数据不足以判定”,这套方法才算跑通。想先把问题集建起来,可以从站上洞察栏目的选题里挑真实被问到的问题,再照上面的三档结构补齐。需要一起定问题集与指标口径,可以联系我们。
