固定した質問セットで月次モニタリング:AI 引用率をどう数値化するか
一、GEO で最もごまかしが効くのは「効果を反証できない」点
GEO サービスで最もよく聞くのは「AI が今、御社に言及しています」という言葉です。この言葉はほぼ反論できません。別の質問に変え、別のモデルに変え、別の日に聞けば、結論は逆になり得ます。有効だとも無効だとも証明できないのです。
問題はサンプリングの方法にあります。その場で質問を一つ思いつき、一度聞き、答えを一目見る。このやり方ではサンプル数が1で、ランダム性がシグナルをはるかに上回ります。単発の結果で結論を出すのは、コインを一度投げるのと同じです。
反証可能にするには、4つのことを固定する必要があります。
| 要素 | 固定しない場合の結果 | 固定した場合の効果 |
|---|---|---|
| 質問セット | 毎回聞く質問が違い、比較できない | 同じ質問群を毎月比較でき、傾向が読める |
| モデルと入口 | モデルを変えると環境が変わり、結果を比較できない | 同じモデル・同じ入口なら、変化はコンテンツから生じる |
| サンプリングの時間枠 | 週が違うと業界のリズムに左右される | 毎月同じ週なら、季節性のノイズを排除できる |
| アカウントと状態 | ログイン状態や地域が違うと回答に影響する | 同じアカウント状態なら、環境変数を減らせる |
この方法の目的は「引用率は23%」のような正確な数字を算出することではなく、方向性を判断することです。月ごとの差が5ポイント以内なら、結論として使えません。3か月連続で同じ方向に変化して、初めてシグナルになります。この線引きは先に明言しておく必要があります。そうでなければ、レポート自体が別のごまかしになってしまいます。観測できるのは「回答に自社が含まれるか」だけで、「何人が自社を見たか」は観測できません。露出とクリックは別の経路なので、分けて測定します。この基準は複数のクライアントサイトで検証してきたもので、环形山の方法説明に関連する索引があります。
二、質問セットの作り方:3段階、40件前後
質問セットはこの方法の中核となる資産です。満たすべき条件は3つあります。実際の買い手が使う聞き方であること、認知から意思決定までの全経路をカバーすること、メンバーが比較的安定していることです。
3段階で構成し、総量は40件前後に抑えることをおすすめします。
| 段階 | 質問の種類 | 本数 | 聞き方の例 | 主に見るもの |
|---|---|---|---|---|
| 第1段階 | ブランド語の質問 | 10〜12件 | 某公司は何をしているのか、某ブランドの製品はどうか | ブランドがモデルに認識されているか、エンティティが明確か |
| 第2層 | カテゴリ一般の質問 | 12〜15件 | ある種類の設備はどう選ぶか、ある工程の公差はどこまで可能か | カテゴリの候補プールに入るか |
| 第3層 | 購買意思決定の質問 | 12〜15件 | 中国のサプライヤーはどう絞り込むか、ある製品の納期は通常どのくらいか | 購買段階の回答に入れるか |
3つの層は役割がまったく異なります。第1層は認知、第2層はカテゴリのカバレッジ、第3層は購買段階を見ます。ブランド名だけで測ると結果が実際より高く出ます——モデルはあなたの名前を知っていても、買い手が実際に意思決定する質問では一度も言及しないかもしれません。
質問はどこから集めるか。独りよがりにならず、次の4つの来源から揃えてください。
| 情報源 | 具体的な取り方 | 推奨比率 | 価値 |
|---|---|---|---|
| 営業が実際に聞かれた質問 | 問い合わせやチャット履歴から原文を抽出 | 40% | 聞き方が最もリアル |
| サイト内検索語 | 管理画面の検索ログを重複排除して上位30件を取得 | 20% | 既存訪問者の意図のギャップを反映 |
| AIのサジェストと関連質問 | カテゴリ語を入力し、モデルが補完する質問を確認 | 25% | 現在の主流の聞き方を反映 |
| 競合が回答内で現れる位置 | 競合が言及される聞き方とシーンを記録 | 15% | 競争の空白を見つける |
質問セットが決まったら、簡単には変えないでください。追加が必要なときは「追加」ではなく「置き換え」で処理します。2件追加したら2件を外し、置き換えた時点を記録します。そうしないと3か月後、縦に比較できないリストを抱えることになります。
三、サンプリングの規律:5つの固定項目
方法は規律で支えられます。次の5項目は毎回のサンプリングで固定し、どれか1つでも変わったらその回のデータは別途注記します。
| 固定項目 | 具体的な要件 | 違反した場合の処理 |
|---|---|---|
| モデルと入口を固定 | 2〜3のモデルを選び、具体的なバージョンと入口の種類を記録 | モデル変更後のデータは別の列に分け、前期と直接比較しない |
| 聞き方を固定 | 質問セットの原文を一字一句そのまま使い、書き換えず限定詞も加えない | 書き換えた結果はその回に含めない |
| 時間枠を固定 | 毎月同じ週の月曜、午前中に完了 | 3日を超えるずれがあるデータは異常として注記 |
| アカウント状態を固定 | 同じアカウント、同じネットワーク環境、ウェブ検索のオン・オフも同じ | 状態が変わったらベースラインを再構築 |
| 保存を固定 | 元の質問と完全な回答テキストを保存し、スクリーンショットを添付 | 元の記録がないデータは無効とみなす |
聞き方には2つの選択肢があります。原文の聞き方は質問の原文をそのまま入力するため実際の利用シーンに近い一方、回答はよりランダムになります。限定付きの聞き方は質問の後に「サプライヤーを挙げてください」と一言加えるため、ブランドの言及が起きやすくなりますが、結論は楽観的に偏ります。私たちは原文の聞き方を主とし、限定付きの聞き方は「カテゴリの候補プール」を判断するときだけ補助として使うことを勧めます。両者の結果は分けて記録し、1つの指標に混ぜて計算しないでください。限定付きの聞き方で得た見栄えのよい数字を報告に使うのは、自分で自分に偽のベースラインを作るのと同じです。
もう一つルールがあります。同じ質問は一度しか投げず、納得するまで繰り返し聞くことはしません。ある回答が安定しているか確かめたいときは、次回の再測定に回します。
四、5つの定量指標の定義
指標の定義は先に固定しておかないと、集計のたびに算出方法が変わってしまいます。以下は私たちが使っている5つの指標です。
| 指標 | 定義 | 算出方法 | 観察期間 |
|---|---|---|---|
| 言及率 | 回答にブランド名が登場した割合 | 言及された質問数 ÷ 全質問数 | 毎月 |
| 首位言及率 | 回答で最初に挙げられた対象にブランド名が入った割合 | 首位言及数 ÷ 全質問数 | 毎月 |
| 引用元率 | 回答の引用元に公式サイトが含まれた割合 | 公式サイトを引用した質問数 ÷ ブランドに言及した質問数 | 毎月 |
| 回答正確率 | 回答内のあなたの説明が事実と一致した割合 | 説明が正しかった質問数 ÷ ブランドに言及した質問数 | 毎月 |
| 競合比較での優位率 | 指定競合と同時に登場したとき、より有利に説明された割合 | 有利だった数 ÷ 同時登場した質問数 | 毎月 |
定義の細かい点を3つ補足します。言及率の分母は全質問です。分母を統一しないと月をまたいで比較できません。引用元率の分母はブランドに言及した質問です。そうしないと、言及されなかった大量の質問で薄まってしまいます。回答正確率には人手による基準が必須です。事前にファクト確認表を作り、生産能力、認証、最小ロット、納期などのハードな事実を項目ごとに照合します。
5指標の参考レンジは次のとおりです(工業系カテゴリの例)。
| 指標 | 最初の四半期の参考レンジ | 半年後の参考レンジ | 説明 |
|---|---|---|---|
| 言及率 | 5%–15% | 15%–35% | カテゴリの競争の激しさに大きく左右される |
| 首位言及率 | 0%–5% | 5%–15% | 高単価カテゴリでは総じて低い |
| 引用元率 | 10%–30% | 30%–60% | 公式サイトのコンテンツ構成に左右される |
| 回答正確率 | 40%–70% | 70%–90% | 立ち上げ期によくある説明ミス |
| 競合比較での優位率 | 20%–40% | 40%–60% | サンプルが少ないため、絶対値ではなく傾向を見る |
五、判定ルールとしきい値:「判定にデータ不足」を含む
データがあっても、判定ルールが必要です。ルールのないレポートは、読む人それぞれが勝手に解釈してしまいます。私たちは判定を4段階に分け、その一つを明確に「判定にデータ不足」と呼んでいます。
単一質問の判定:
| ステータス | 判断条件 | 記録方法 |
|---|---|---|
| 言及かつ公式サイトを引用 | 回答がブランドに言及し、引用元に公式サイトが含まれる | 3点 |
| 言及したが引用なし | 回答がブランドに言及したが、引用元に公式サイトがない | 2点 |
| 言及なし | 回答にブランド名が出ない | 0点 |
| 回答に誤り | 言及はあるが、ハードな事実の説明が誤っている | 別途フラグを立て、採点には含めない |
| 判定不能 | 回答が一般論か、質問と無関係 | 無効としてフラグを立て、その回は除外 |
全体結論の判定:
| 結論 | 条件 | 外部報告の可否 |
|---|---|---|
| 明確な改善 | 言及率の前期比の上昇幅が5ポイント以上、かつ2期連続で同じ方向 | 可能 |
| 改善の可能性あり | 上昇幅が5ポイント以内、または1期だけの上昇 | 不可。「様子見」と記載 |
| 目立った変化なし | 変動がプラスマイナス3ポイント以内 | 不可。「変化なし」と記載 |
| 判定にデータ不足 | 有効サンプルが30件未満、またはその回にモデルや質問文を変更した | 不可。理由を明記 |
「データが不十分で判定できない」は誠実なレポートに欠かせない項目です。判定できないケースは主に3つあります。有効サンプルが30件未満、モデルのバージョン更新で回答の傾向が全体的に変わった、あるいはサンプリングの規律が崩れた(言い換えた質問をした、別アカウントを使った)場合です。この3つでは、無理に結論を出すほうが結論を出さないより有害です。間違った方向にコンテンツを調整させてしまうからです。
もうひとつ見落としがちな判定原則があります。回答の正確率の低下は、言及率よりも優先して対処します。モデルがあなたを多く言及していても、別の種類のサプライヤーとして描写していたり、生産能力や認証を間違えて書いていたりするなら、その言及はマイナス資産です。この場合の最優先は、言及率をさらに上げることではなく、事実のソースを修正することです。
六、モニタリングからアクションへのマッピング
モニタリングの価値は、具体的なアクションを示す点にあります。以下は私たちが使っているマッピングルールで、現象から直接アクションに対応させます。
| 現象 | 判断 | 最優先アクション | 観察ウィンドウ |
|---|---|---|---|
| 言及率が低く、正確率は正常 | コーパスの密度が足りず、モデルに素材がない | サイト上の事実型コンテンツの密度を高め、パラメータ・認証・工程の詳細を補う | 8〜12 週間 |
| 言及はあるが、引用元がない | コンテンツは読めるが、構造が抽出できない | 結論の段落・表・FAQを補い、事実をかたまりにする | 4〜8週間 |
| 回答の正確率が低い | 事実のソースが誤っているか古い | 公式サイトと公開資料上の誤った記述を修正する | 4〜8週間 |
| ブランド語では聞けるが、カテゴリ語では聞けない | エンティティは明確だが、カテゴリのカバレッジが不足 | カテゴリレベルの選定・比較コンテンツを補う | 8〜12 週間 |
| カテゴリ語では言及されるが、購買語では聞けない | 意思決定段階のコンテンツが不足 | 納期・MOQ・認証・アフターサービスなど購買上の懸念を補う | 8〜12 週間 |
| 競合は言及されるが、あなたは言及されない | 相手がある聞き方に対して明確なコンテンツを持っている | それらの具体的な聞き方に合わせたページを補う | 8〜12 週間 |
| すべての指標に変化がない | コンテンツ更新が停滞している、または経路に問題がある | まずコンテンツが更新されているか、クローラーが読みに来ているかを確認する | 4週間 |
この表の使い方は、毎月レポートを出した後、最も上位の現象を1つだけ選んで実行することです。3つを同時に変えないでください。一度に変える変数は1つだけにすれば、来月どの変更が効いたのかがわかります。コンテンツ構造・更新頻度・事実の記述を同時に変えると、データが良くなっても要因を特定できません。
コンテンツ側の付随アクションは主に5つです。重要な事実を独立した段落として書く、各ページに5〜8件のFAQを補う、認証とコンプライアンスの説明ページを補う、ブランド表現とエンティティ情報を統一する、多言語版を補う。効果が出るまでの期間は多くが4〜24週間で、後ろのものほど遅くなります。
七、レポートテンプレート、保存期間、適用外のケース
レポートは短くします。1ページの表と1部のアーカイブで、意思決定を支えるのに十分です。
| レポートのブロック | コンテンツ | 文字数 |
|---|---|---|
| 今期の結論 | 1行の結論。4段階の判定から取る | 1行 |
| 5指標の表 | 今期値と前期値の比較、変動方向を明記 | 1枚の表 |
| 異常問題リスト | 回答が誤っている、または判定できない問題を1件ずつ列挙 | 3〜8件 |
| 今回のアクション | アクションマップから1つだけ選んで記載 | 1行 |
| 次回の検証ポイント | 今回のアクションが効いたかを確認する指標を1つ | 1行 |
一次資料の保存要件:
| 保存内容 | 保存期間 | 用途 |
|---|---|---|
| 元の質問と回答全文 | 12か月 | 再確認・判定基準の変更の追跡 |
| 回答のスクリーンショット | 12か月 | 外部からの疑問への対応 |
| 月次指標表 | 長期 | 年間トレンドの確認 |
| 質問セットのバージョン履歴と事実確認表 | 長期 | 時系列の比較と判定精度を担保 |
12か月保存するのには理由があります。モデルのバージョン更新の影響は遅れて現れることが多く、半年後に振り返って初めてデータに段差があったと気づくものです。元の回答がなければ、その変化がコンテンツによるものかモデルによるものかを判断できません。
この方法が当てはまらないケースは3つあります。1つ目は、質問セットの言語とターゲット市場が一致していない場合です。英語の質問でドイツ市場を測っても意味がありません。2つ目は、引用されうるコンテンツがまだ初期段階の場合です。測ってもゼロが並ぶだけなので、まずコンテンツを作るべきです。3つ目は、モニタリングを検収ツールとして使う場合です。これは特定の納品が「どれだけ向上したか」を証明するものではありません。そう使われるとサンプリングの規律が緩み、データも信頼できなくなります。
FAQ よくある質問
最後に
GEOが説明のつかない支出になりやすいのは、広告のようなリアルタイムデータも、ランキングのような明確な位置もないからです。固定質問セットというこの方法は、本質的に規律で信頼性を交換するもので——同じメンバー、同じ聞き方、同じ時間枠で、ばらつくものを比較可能に変えます。
小数点まで正確な効果の約束も、「何倍向上」といった結論も出せません。言えるのは3つだけです。今月は先月より良くなったか、悪くなったか、変わらないか。どの質問であなたがいて、どれにいないか。次に変えるべきはコンテンツか、構造か、それとも事実か。
「データが不足しているため判定できない」と正直に言えて、この方法はようやく機能したと言えます。まず質問セットを構築したいなら、サイトのインサイト欄の选题から実際に聞かれた質問を選び、上記の3段階の構造に沿って補完してください。質問セットと指標の基準を一緒に決めたい場合は、お問い合わせ。
