GEO 实践 进阶

固定问题集月度监测:AI 引用率怎么量化

GEO 最容易被糊弄的地方,是效果无法证伪。要让它能证伪,就得先把口径定死:固定一组成员不轻易变的问题,固定模型与问法,固定每月同一周采样,然后看五项指标。问题集 40 条左右,一次采样 1–2 小时,报告一页。

固定问题集监测闭环:把「效果」变成可证伪的数字Monitoring Loop: turning “results” into falsifiable numbers 先定口径,再看结论 —— 否则每个月的数字都不可比Fix the method first; otherwise no two months are comparable ① 问题集1. Question set · 三档共约 40 条:品牌词 / 品类通用 / 采购决策· 三档共约 40 条:品牌词 / 品类通用 / 采购决策 · 来源:业务员被问到的问题、站内搜索词、AI 联想问· 来源:业务员被问到的问题、站内搜索词、AI 联想问 ② 采样2. Sampling · 固定模型与入口、固定问法、同一时间窗(每月同一周周一)· 固定模型与入口、固定问法、同一时间窗(每月同一周周一) · 留存原始答案文本与截图,可回溯· 留存原始答案文本与截图,可回溯 ③ 判定3. Judgement · 提及率 / 首位提及率 / 引用来源率 / 准确率 / 竞品胜出率· 提及率 / 首位提及率 / 引用来源率 / 准确率 / 竞品胜出率 · 数据不足时写「不足以判定」,不许硬给结论· 数据不足时写「不足以判定」,不许硬给结论 ④ 行动4. Action · 低提及 → 补语料密度;有提及无链接 → 改结构;描述错误 → 纠事实源· 低提及 → 补语料密度;有提及无链接 → 改结构;描述错误 → 纠事实源 · 每条行动都要有责任人与复测时间· 每条行动都要有责任人与复测时间 五项指标、一个时间窗、一份原始归档 —— 这样做出来的趋势才敢对外讲Five metrics, one window, one archive: only then is the trend safe to report 自测和外包的差别不在成本,在于问题集是不是从你客户的真实问法里长出来的。自测和外包的差别不在成本,在于问题集是不是从你客户的真实问法里长出来的。
固定问题集月度监测:AI 引用率怎么量化

固定问题集月度监测:AI 引用率怎么量化

结论先行: GEO 最容易被糊弄的地方是效果无法证伪。要让它能证伪,就得先把口径定死:固定一组成员不轻易变的问题,固定模型与问法,固定每月同一周采样,然后看五项指标。问题集 40 条左右,一次采样 1–2 小时,报告一页。

一、GEO 最容易被糊弄的地方是”效果无法证伪”

GEO 服务里最常见的说法是”AI 现在会提到你们了”。这句话几乎无法反驳——换一个问题、换一个模型、换一天去问,结论就可能相反。它既不能证明有效,也不能证明无效。

问题出在采样方法上:临时想一个问题、问一次、看一眼答案。这种做法的样本量是 1,随机性远大于信号,用单次结果做结论,等于抛一次硬币。

要让它可证伪,需要把四件事固定下来:

要素 不固定时的后果 固定后的效果
问题集 每次问的问题都不同,无法比较 同一批问题逐月对比,趋势可读
模型与入口 换模型等于换环境,结果不可比 同一模型同一入口,变化来自内容
采样时间窗 不同周采样,受行业节奏干扰 每月同一周,排除季节性噪声
账号与状态 登录状态、地区不同会影响答案 同一账号状态,减少环境变量

这套方法的目标不是算出”引用率是 23%”这种精确数字,而是判断方向。月度之间的差值在 5 个百分点以内时,不能当结论用;连续三个月的同向变化,才是信号。这个底线必须先说清楚,否则报告本身会变成另一种糊弄。它只能观测”答案里有没有你”,不能观测”有多少人看到你”——曝光与点击属于另一条链路,要分开测。这套口径是我们在多个客户站上跑出来的,环形山的方法说明里有相关索引。

二、问题集怎么构造:三档,40 条左右

问题集是这套方法的核心资产。它要满足三个条件:问法是真实买家会用的、覆盖从认知到决策的完整路径、成员相对稳定。

我们建议按三档构造,总量控制在 40 条左右:

档位 问题类型 条数 示例问法 主要看什么
第一档 品牌词问题 10–12 条 某公司是做什么的、某品牌的产品怎么样 品牌是否被模型认识,实体是否清晰
第二档 品类通用问题 12–15 条 某类设备怎么选、某工艺的公差能做到多少 是否进入品类候选池
第三档 采购决策问题 12–15 条 中国供应商怎么筛、某类产品交期一般多久 是否能进入采购环节的答案

三档的作用完全不同。第一档看认知,第二档看品类覆盖,第三档看采购环节。只测品牌词会得到虚高的结果——模型可能认识你的名字,但在买家真正做决策的问题里一次都不提你。

问题从哪里来?不要闭门造车,按下面四个来源凑:

来源 具体取法 建议占比 价值
业务员真实被问过的问题 从询盘与聊天记录里提取原话 40% 问法最真实
站内搜索词 后台搜索日志去重后取前 30 个 20% 反映已有访客的意图缺口
AI 里的下拉与相关提问 输入品类词看模型补全的提问 25% 反映当前主流问法
竞品在答案里出现的位置 记录竞品被提到的问法与场景 15% 找出竞争空白

问题集一旦定下来,就不要轻易改。需要新增时按”替换”而不是”追加”处理:新增 2 条就下掉 2 条,并标记替换时间点。否则三个月后你会面对一份无法纵向对比的清单。

三、采样纪律:五个固定项

方法是靠纪律撑住的。下面五项每次采样都要固定,任何一项变了,当期数据就要单独标注。

固定项 具体要求 违反后的处理
固定模型与入口 选定 2–3 个模型,记录具体版本与入口类型 换模型后的数据单独列一栏,不与上期直接比
固定问法 逐字使用问题集原文,不改写、不加限定词 改写过的结果不计入当期
固定时间窗 每月同一周的周一,上午完成 偏差超过 3 天的数据标注异常
固定账号状态 同一账号、同一网络环境、同样是否开启联网 状态变化时重新建立基线
固定留存 保存原始提问与完整答案文本,附截图 无原始记录的数据视为无效

关于问法,有两种选择。原始问法直接输入问题原文,更接近真实使用场景,但答案更随机;加限定问法在问题后加一句”请列出供应商”,更容易触发品牌提及,但结论偏乐观。我们建议以原始问法为主,加限定问法只在判断”品类候选池”时作为补充。两者结果分开记录,不要混算成一个指标。用加限定问法得到的好看数字拿去汇报,等于自己给自己造了一个假基线。

还有一条纪律:单条问题只问一次,不重复问到满意为止。想确认某条答案是否稳定,留到下一期复测。

四、五项可量化指标的口径

指标口径必须先写死,否则每次统计都会换一种算法。下面五项是我们在用的版本。

指标 口径定义 计算方式 观察周期
提及率 答案中出现品牌名的比例 提到的问题数 ÷ 总问题数 每月
首位提及率 品牌名出现在答案第一个被提对象中的比例 首位提及数 ÷ 总问题数 每月
引用来源率 答案的引用来源中出现官网的比例 引到官网的问题数 ÷ 提到品牌的问题数 每月
答案准确率 答案中对你的描述与事实一致的比例 描述正确的问题数 ÷ 提到品牌的问题数 每月
竞品对比胜出率 与指定竞品同时出现时,描述更有利的比例 有利数 ÷ 同现问题数 每月

三个口径细节要单独说明。提及率的分母是全部问题,统一分母才能跨月比较;引用来源率的分母是提到品牌的问题,否则会被大量未提及的问题稀释;答案准确率必须有人工标准,提前写一份事实核定表,列出产能、认证、起订量、交期等硬事实逐条比对。

五项指标的参考区间如下(以工业品类为例):

指标 首个季度参考区间 半年后参考区间 说明
提及率 5%–15% 15%–35% 受品类竞争强度影响大
首位提及率 0%–5% 5%–15% 高客单价品类普遍偏低
引用来源率 10%–30% 30%–60% 与官网内容结构相关
答案准确率 40%–70% 70%–90% 起步期常见描述错误
竞品对比胜出率 20%–40% 40%–60% 小样本,看趋势不看绝对值

五、判定规则与阈值:含”数据不足以判定”

有了数据,还要有判定规则。没有规则的报告,读的人会各自解读。我们把判定分成四档,其中一档明确叫”数据不足以判定”。

单条问题的判定:

状态 判定条件 记录方式
提及且引用官网 答案提到品牌,且引用来源含官网 记 3 分
提及未引用 答案提到品牌,但来源里没有官网 记 2 分
未提及 答案未出现品牌名 记 0 分
答案有误 提到了,但硬事实描述错误 单独标记,不参与计分
无法判定 答案是泛泛而谈,或与问题无关 标记为无效,当期剔除

整体结论的判定:

结论 条件 是否可对外汇报
明确改善 提及率环比升幅不低于 5 个百分点,且连续两期同向 可以
可能改善 升幅在 5 个百分点以内,或仅一期上升 不可以,写”待观察”
无明显变化 变动在正负 3 个百分点以内 不可以,写”无变化”
数据不足以判定 有效样本少于 30 条,或当期更换了模型、问法 不可以,写明原因

“数据不足以判定”是一份诚实报告的必备项。触发条件通常是三种:当期有效样本低于 30 条、模型版本更新导致答案风格整体变化、或者采样纪律被破坏(问了改写版的问题、换了账号)。这三种情况下,硬给一个结论比不给结论的伤害更大——它会让人按错误的方向调整内容。

还有一个容易忽略的判定原则:答案准确率下降要优先于提及率处理。如果模型大量提到你,但把你描述成另一类供应商,或者写错了产能与认证,那种提及是负资产。这时候第一优先级是纠正事实源,而不是继续提高提及率。

六、从监测到行动的映射

监测的价值在于它指向具体动作。下面是我们在用的映射规则,按现象直接对到动作。

现象 判断 第一优先级动作 观察窗口
提及率低,准确率正常 语料密度不够,模型没素材 提高站上事实型内容的密度,补参数、认证、工艺细节 8–12 周
有提及,无引用来源 内容可被读到,但结构不可提取 补结论段、表格、FAQ,让事实成块 4–8 周
答案准确率低 事实源有误或过时 修正官网与可公开资料上的错误描述 4–8 周
品牌词问得到,品类词问不到 实体清晰但品类覆盖不足 补品类层面的选型与对比内容 8–12 周
品类词提到,采购词问不到 缺决策环节内容 补交期、MOQ、认证、售后等采购关切 8–12 周
竞品被提,你不被提 对方在某些问法上有明确内容 针对这些具体问法补对应页面 8–12 周
全部指标无变化 内容更新停滞,或通道有问题 先确认内容有没有更新、爬虫有没有来读 4 周

这张表的用法是:每月出完报告后,只挑最靠前的一条现象去执行,不要同时改三件事。一次只改一个变量,下个月才知道改的哪一条起了作用。同时改内容结构、更新频率和事实描述,即使数据变好了也无法归因。

配套的内容侧动作主要是五种:把关键事实写成独立段落、每页补 5–8 条 FAQ、补认证与合规说明页、统一品牌表述与实体信息、补多语言版本。见效周期大多在 4–24 周之间,越靠后越慢。

七、报告模板、留存周期与不适用情形

报告要短。一页表加一份归档,足够支撑决策。

报告区块 内容 篇幅
本期结论 一行结论,取自四档判定 1 行
五项指标表 本期值与上期值对比,标注变动方向 1 张表
异常问题清单 答案有误或无法判定的问题,逐条列出 3–8 条
本期动作 只写一条,取自行动映射表 1 行
下期验证点 用来确认本期动作是否起效的那一个指标 1 行

原始资料的留存要求:

留存内容 保留时长 用途
原始提问与完整答案文本 12 个月 复核、追溯口径变化
答案截图 12 个月 应对外部质疑
月度指标表 长期 看年度趋势
问题集版本记录与事实核定表 长期 保证纵向可比、判定准确率

留存 12 个月是有原因的:模型版本更新的影响常常滞后显现,半年后回看才发现数据出现台阶。没有原始答案,就无法判断那次变化来自内容还是来自模型。

这套方法有三种情况不适用。一是问题集的语言与目标市场不一致,用英语问题测德语市场没有意义。二是站上可被引用的内容还很初期,测了只能得到一排零,应该先做内容。三是把监测当成验收工具——它不能用来证明某一次交付”提升了多少”,一旦被这么用,采样纪律就会放松,数据也就不再可信。

FAQ 常见问题

问题集多少条够用?
40 条左右是平衡点,单次采样 1–2 小时,可分档解读。15 条以内波动无法解释,只能看有没有提及;20–30 条适合单一品类单市场;60 条以上精度提升有限,除非是多市场多语种。还要守一条纪律:新增问题用替换而不是追加,保持总量稳定,并记录替换时间点,否则跨月无法对比。
多久测一次合适?
每月一次,固定在同一周的周一。频次再高没有必要,因为模型答案本身有随机性,周与周的差值是噪声。再低也不行——一个季度一次,中间发生了什么无法归因。特殊节点可以加测:内容大改后 4 周、模型版本更新后 2 周。加测数据单独列,不并入常规序列。
用哪个模型测?
选 2–3 个你目标市场实际在用的模型,固定下来,不要每次换。依据是目标市场的使用习惯,而不是哪个模型给你的答案好看。必须记录具体版本和入口类型,包括是否开启联网、是否登录。模型更新后答案风格可能整体变化,这时候要重建基线,把变化前后分成两段看,不要直接相减。
大模型答案每次都不一样,怎么处理?
答案有随机性,所以不要用单次结果下结论。应对办法有三个:问题集足够大,用 40 条摊平单条波动;只看连续两到三期的同向变化,5 个百分点以内的差值不当作结论;保留原始答案文本,出现异常时能回溯。如果某条问题连续三期结果差异极大,把它标为不稳定,单独处理。
要不要测客户端的 AI 搜索入口?
要,但作为补充序列,不要和主序列混在一起。客户端入口的答案受地域、账号状态、是否联网影响很大,稳定性低于网页端。建议主序列只用一个固定环境,客户端入口每季度单独测一次,看的是”在真实用户场景下会不会被提到”,结论标注为参考。两套数据一定要分表记录。
这套监测内部做还是外包?
两种都可以,取决于是否有稳定的人和固定的时间。内部做的优势是了解业务、能判断答案准确率;难点是每月固定花 1–2 小时并连续做满 12 个月,人在忙的时候最先被砍掉的就是这件事。外包的优势是纪律稳定,风险是看不懂业务,把错误描述当成正确。折中做法是采样与归档外包,准确率判定由内部出事实核定表。

写在最后

GEO 之所以容易变成一笔说不清的支出,是因为它没有广告那样的实时数据,也没有排名那样的明确位置。而固定问题集这套方法,本质上是用纪律换可信度——用同一组成员、同一种问法、同一个时间窗,把随机的东西变成可比的。

它给不出精确到小数点的效果承诺,也给不出”提升多少倍”的结论。它只能告诉你三件事:这个月比上个月是好了、差了,还是没变;哪些问题上有你、哪些没有;下一步该改内容、改结构,还是改事实。

能诚实说出”数据不足以判定”,这套方法才算跑通。想先把问题集建起来,可以从站上洞察栏目的选题里挑真实被问到的问题,再照上面的三档结构补齐。需要一起定问题集与指标口径,可以联系我们。

环形山
环形山 环形山专家

机构官方 · 环形山 Crater

环形山(Crater)是一家专注 WordPress 独立站开发 + Google SEO + GEO 全域增长的出海服务公司,服务智能硬件、工业装备、SaaS、新能源等赛道。

产品能力方法论白皮书行业报告
965篇分享
78篇知识库