変化を追跡し、 何がそれを動かしたかを証明する。
改善策が意味を持つのは、回答がノイズ以上に動いた時です。この章では、公正な再測定の方法、本物の変化と揺らぎの見分け方、改善策の効果が出るまでの期間、そしてガイドの締めくくりとなる4週間プランを扱います。
AI可視性ガイドの第6章(全6章)
前後比較を公正にするものは何ですか?
同じものを2回測りましょう。同じ質問を、同じエンジンで、同じ頻度で、固定した同じ競合リストに対して測定します(第3章)。実行の合間に質問セットを変えると、2つの異なるサンプルを比べることになります。新しい質問は別の系列として始めましょう。
次に、実行結果を質問ごとに比べます。2つの95%区間が重なるかどうかを確認する方法は、見た目よりはるかに厳しい基準です。Payton、Greenstone、Schenker は2003年に、同一の母集団から得た2つの区間が99%以上の確率で重なることを示しました。つまり、重なりのチェックは1%検定のように振る舞い、本物の低下を見逃してしまいます。200の質問で42%から30%に下がった場合、95%区間は重なりますが、標準的な2つの比率の検定では p = 0.012 になります。30の質問であなたが言及されなくなり、6つで新たに言及されたなら、その入れ替わりに対するマクネマーの対応のある検定では p は約0.00006です(計算例)。
その低下は本物ですか、それとも揺らぎですか?
持続するかどうかを待ちましょう。私たちの日次追跡では、1件の回答で起きた変化の47%が翌日には元に戻っており、さらに2日間追えた変化のうち、3日間すべてで持続したのは36.7%でした。ある追跡中の競合は、月曜に75%、同じ週の金曜に45%となり、30ポイントの急落に見えました。しかし週全体では140件中89件、63.6%の回答で言及されており、何も下がっていませんでした(頻度に関する調査)。
変化が2〜3日続いた時、または2回の測定の区間が離れた時に、その変化に対応しましょう。境界を越えるたびに通知するアラートは、これほどノイズの多い数値では鳴りっぱなしになります。
改善策の効果が表れるまで、どのくらいかかりますか?
回答のどちら側を変えたかによります。Perplexity、ChatGPT 検索、Google AI Overviews のようにライブで Web を検索するエンジンは、再クロールから数日以内に変化を反映することがあります。Google によれば、再クロールには数日から数週間かかることがあります。モデルの学習から作られる回答は、新しいモデルが出るまで変わらず、それには数か月かかることもあり、そのスケジュールを公開しているベンダーはありません。
ですから、1か月分の取り組みを評価する前に、読んでいる回答がそもそも検索を行ったかどうかを確認しましょう。私たち自身の ChatGPT の実行を監査したところ、481件中409件の回答が Web 検索を行っておらず、前の週に公開されたものが表れる余地はありませんでした(最初の30日間)。
変化をほかの人にどう示しますか?
- エンジンごとに分けて報告し、各率にはその区間と、もとになった回答数を添えます。
- 各数値を、数えた回答にリンクさせ、エンジンが実際に何と言ったかを誰でも読めるようにします。
- 自社側でいつ何を変えたかを、回答が動いた日付と並べて示します。
- 動かなかった質問も報告しましょう。成功だけを並べたレポートは証明になりません。
詳しくは可視性の裏にある AI の回答を見るとAI 可視性の日次モニタリングをご覧ください。
続きを読む
すべての章
関連する読みもの
- Payton, Greenstone and Schenker: Overlapping confidence intervals or standard error intervals, Journal of Insect Science 3:34 (2003) pmc.ncbi.nlm.nih.gov/articles/PMC524673/
- NIST: McNemar test, Dataplot reference manual www.itl.nist.gov/div898/software/dataplot/refman1/auxillar/mcnemar.htm
- Google Search Central: Ask Google to recrawl your URLs developers.google.com/search/docs/crawling-indexing/ask-google-to-recrawl
- OpenAI Help Center: Searching the web with ChatGPT help.openai.com/en/articles/9237897-searching-the-web-with-chatgpt
Proofsource の数値には、それを測定した記事や調査へのリンクを、日付と手法とともに付けています。古くなっている情報があればお知らせください。
AIがあなたを見落とす場所を見つけて、直す。
どの購買者の質問があなたのブランドに言及しているか、代わりにどのブランドに言及しているか、何を改善すべきかを確認。200件の回答。25 Prompts/質問。主要AIエンジン。2日間。無料。 カード不要。