再問一次,品牌有 78% 的時候維持住。換個措辭,則是 55%
大多數測試買家問題的建議都說每個 Prompt 要問三到五次,因為每次執行的回答都不同。我們想知道哪個對判讀的影響更大,是這種晃動還是措辭,所以在同一份資料上兩者都測量了。
樣本:2026 年 10 月 4 日至 15 日間 Proofsource 工作區的 13,994 個回答。即 69 個工作區中的 96 個品牌,在 ChatGPT、Perplexity、Claude 和 Google AI Overviews 上的 1,908 個買家問題,取每個問題、引擎和日期的第一個回答,排除提到品牌名稱的問題。每個品牌的問題都歸屬於主題,每個主題對應一個購買決策,通常有三到五種措辭。
取每個點名該品牌的回答。再看同一引擎在下一次詢問同一問題時的結果。578 組中有 448 組仍點名該品牌,即 77.5%(95% 信賴區間 73.9% 到 80.7%)。我們排除了引擎逐字重複先前回答的 55 組,因為重播不算第二次抽樣。
再看同一決策的其他措辭,在同一引擎、同一天的結果。5,934 個中有 3,270 個點名該品牌,即 55.1%。一種措辭點名您,作為其同類措辭的指標,還不如作為它自己另一天的指標可靠。
資料足夠的 15 個品牌全都出現同樣的差距
合併後的數字可能掩蓋由某個大品牌獨撐全局的情況,所以我們逐品牌計算:有 15 個品牌兩種配對各至少十組。在全部 15 個品牌上,同類措辭點名品牌的頻率都低於相同措辭的重複。中位品牌在 35% 的同類措辭和 70% 的重複中保住了名字。
競爭對手的表現也一樣。在某個回答中被點名的追蹤競爭對手,當天在同類措辭中被點名的比例為 40.2%(61,804 個中的 24,840 個),下次以相同措辭詢問時為 77.0%(9,539 個中的 7,347 個)。
從主題的角度看更明顯。在品牌於某引擎上至少在某主題的一種措辭中被點名的 840 天裡,只有 102 天在每種措辭中都被點名。其餘 738 天,即 87.9%,是分裂的。
對比型問題只在 2.9% 的回答中點名品牌
部分差距來自某一種問題形式。問「競爭對手 A vs 競爭對手 B」的買家,得到的是關於 A 和 B 的回答。在 1,822 個這類回答中,品牌被點名 53 次,即 2.9%(2.2% 到 3.8%)。詢問指定競爭對手替代方案的問題表現好得多,為 14.9%,帶有價格或團隊規模限制的問題(15.1%)和單純的「哪個最好」問題(13.9%)也是。
排除對比型問題後,差距縮小但沒有消失:同類措辭點名品牌的比例變為 62.9%(4,746 個中的 2,984 個),仍遠低於 77.5%。
詢問電網儲能電池的五種方式,其中兩種從未點名 Tesla
Tesla 是我們公開的示範案例。它的電網儲能主題有一個決策的五種措辭、四個引擎、三個掃描日(10 月 4 日、8 日和 15 日;10 月 5 日的回答與 10 月 4 日逐字相同,不予計算),所以每種措辭有 12 個新回答。
- 「What are the best grid-scale battery storage systems for a utility company?」Tesla 在 12 個中被點名 12 次。
- 指定競爭對手的公用事業級儲能最佳替代方案:12 個中 12 次。
- 「Which commercial battery energy storage system should I choose for peak shaving at a large facility?」12 個中 7 次,而且沒有一次在 Claude 上。
- 「How much does a utility-scale lithium iron phosphate battery storage system cost per MWh?」12 個中 0 次。
- 「What should I look for when comparing turnkey battery storage providers for a solar farm?」12 個中 0 次。
在某種措辭上輸給「沒有人」,是另一種問題
最後那兩個零,並不是競爭對手打敗了 Tesla。24 個回答中沒有一個點名 Tesla,也沒有點名其他三種措辭所點名的任何供應商。引擎回答的是每 MWh 的價格和採購檢查清單。以這種方式提問的買家得到的是評選標準,而撰寫這些標準的人,會影響他們之後建立的入選名單。
所以在測試措辭時,把每個輸掉的措辭分成兩堆。有別人被點名:您有一份要擠進去的入選名單,引擎引用的頁面會告訴您從哪裡著手。沒有人被點名:您有一份指南要寫,也就是引擎在解釋如何選擇時會引用的那種頁面。
了解這些之後,如何測試措辭
依形式撰寫措辭。把「best」換成「top」幾乎測不到什麼。要涵蓋買家經歷的各種形式:開放式的「哪個最好」問題、加上限制條件的同一問題、指定競爭對手的替代方案,以及成本或評選標準問題。
- 在平均之前先分別回報每種措辭。主題分數會把 12 個中 12 次和 12 個中 0 次混成一個兩者都不像的中間數字。
- 把對比型問題獨立成一組。它們值得了解,而且會拉低任何平均值。
- 在不同的日子重複每種措辭,然後排除逐字重播的回答。
- 修正輸掉的措辭,然後重新詢問那個確切的措辭。在其同類措辭上勝出不算數。
Proofsource 如何處理
Proofsource 把每種措辭當作獨立的問題追蹤,依主題分組,涵蓋方案中的每個引擎。它為每個回答記錄被點名的品牌和被引用的頁面,所以輸掉的措辭會顯示改被點名的是誰,或者沒有人被點名。
這可能出錯的地方
1,908 種措辭中除了 18 種以外,都是 Proofsource 根據每個品牌的網站和競爭對手產生的,所以遵循我們的形式。真實買家的措辭方式有我們沒測試到的。大多數問題只在一兩天被詢問,少數最多十一天,所以重複的數字建立在 578 組配對上,且偏重歷史較長的品牌。
配對計數彼此並不獨立:一個回答可能出現在多組配對中,所以我們只在每個計數都是不同回答時才給出信賴區間,並以逐品牌檢查作為主要比較的依據。「被點名」是我們的擷取對回答的判讀,漏抓會在任一邊顯示為差異。十月的十二天只是一個切片,模型更新可能改變其中任何一項。