方法閱讀時間 4 分鐘

改寫買家問題對 AI 回答的影響,比再問一次還大

重複一個問題,大多數回答會維持不變。換個措辭,品牌清單就會改變。測試買家實際提問的形式,不要再把單一措辭當成您的能見度。

再問一次,品牌有 78% 的時候維持住。換個措辭,則是 55%

大多數測試買家問題的建議都說每個 Prompt 要問三到五次,因為每次執行的回答都不同。我們想知道哪個對判讀的影響更大,是這種晃動還是措辭,所以在同一份資料上兩者都測量了。

樣本:2026 年 10 月 4 日至 15 日間 Proofsource 工作區的 13,994 個回答。即 69 個工作區中的 96 個品牌,在 ChatGPT、Perplexity、Claude 和 Google AI Overviews 上的 1,908 個買家問題,取每個問題、引擎和日期的第一個回答,排除提到品牌名稱的問題。每個品牌的問題都歸屬於主題,每個主題對應一個購買決策,通常有三到五種措辭。

取每個點名該品牌的回答。再看同一引擎在下一次詢問同一問題時的結果。578 組中有 448 組仍點名該品牌,即 77.5%(95% 信賴區間 73.9% 到 80.7%)。我們排除了引擎逐字重複先前回答的 55 組,因為重播不算第二次抽樣。

再看同一決策的其他措辭,在同一引擎、同一天的結果。5,934 個中有 3,270 個點名該品牌,即 55.1%。一種措辭點名您,作為其同類措辭的指標,還不如作為它自己另一天的指標可靠。

資料足夠的 15 個品牌全都出現同樣的差距

合併後的數字可能掩蓋由某個大品牌獨撐全局的情況,所以我們逐品牌計算:有 15 個品牌兩種配對各至少十組。在全部 15 個品牌上,同類措辭點名品牌的頻率都低於相同措辭的重複。中位品牌在 35% 的同類措辭和 70% 的重複中保住了名字。

競爭對手的表現也一樣。在某個回答中被點名的追蹤競爭對手,當天在同類措辭中被點名的比例為 40.2%(61,804 個中的 24,840 個),下次以相同措辭詢問時為 77.0%(9,539 個中的 7,347 個)。

從主題的角度看更明顯。在品牌於某引擎上至少在某主題的一種措辭中被點名的 840 天裡,只有 102 天在每種措辭中都被點名。其餘 738 天,即 87.9%,是分裂的。

對比型問題只在 2.9% 的回答中點名品牌

部分差距來自某一種問題形式。問「競爭對手 A vs 競爭對手 B」的買家,得到的是關於 A 和 B 的回答。在 1,822 個這類回答中,品牌被點名 53 次,即 2.9%(2.2% 到 3.8%)。詢問指定競爭對手替代方案的問題表現好得多,為 14.9%,帶有價格或團隊規模限制的問題(15.1%)和單純的「哪個最好」問題(13.9%)也是。

排除對比型問題後,差距縮小但沒有消失:同類措辭點名品牌的比例變為 62.9%(4,746 個中的 2,984 個),仍遠低於 77.5%。

詢問電網儲能電池的五種方式,其中兩種從未點名 Tesla

Tesla 是我們公開的示範案例。它的電網儲能主題有一個決策的五種措辭、四個引擎、三個掃描日(10 月 4 日、8 日和 15 日;10 月 5 日的回答與 10 月 4 日逐字相同,不予計算),所以每種措辭有 12 個新回答。

  • 「What are the best grid-scale battery storage systems for a utility company?」Tesla 在 12 個中被點名 12 次。
  • 指定競爭對手的公用事業級儲能最佳替代方案:12 個中 12 次。
  • 「Which commercial battery energy storage system should I choose for peak shaving at a large facility?」12 個中 7 次,而且沒有一次在 Claude 上。
  • 「How much does a utility-scale lithium iron phosphate battery storage system cost per MWh?」12 個中 0 次。
  • 「What should I look for when comparing turnkey battery storage providers for a solar farm?」12 個中 0 次。

在某種措辭上輸給「沒有人」,是另一種問題

最後那兩個零,並不是競爭對手打敗了 Tesla。24 個回答中沒有一個點名 Tesla,也沒有點名其他三種措辭所點名的任何供應商。引擎回答的是每 MWh 的價格和採購檢查清單。以這種方式提問的買家得到的是評選標準,而撰寫這些標準的人,會影響他們之後建立的入選名單。

所以在測試措辭時,把每個輸掉的措辭分成兩堆。有別人被點名:您有一份要擠進去的入選名單,引擎引用的頁面會告訴您從哪裡著手。沒有人被點名:您有一份指南要寫,也就是引擎在解釋如何選擇時會引用的那種頁面。

了解這些之後,如何測試措辭

依形式撰寫措辭。把「best」換成「top」幾乎測不到什麼。要涵蓋買家經歷的各種形式:開放式的「哪個最好」問題、加上限制條件的同一問題、指定競爭對手的替代方案,以及成本或評選標準問題。

  • 在平均之前先分別回報每種措辭。主題分數會把 12 個中 12 次和 12 個中 0 次混成一個兩者都不像的中間數字。
  • 把對比型問題獨立成一組。它們值得了解,而且會拉低任何平均值。
  • 在不同的日子重複每種措辭,然後排除逐字重播的回答。
  • 修正輸掉的措辭,然後重新詢問那個確切的措辭。在其同類措辭上勝出不算數。

Proofsource 如何處理

Proofsource 把每種措辭當作獨立的問題追蹤,依主題分組,涵蓋方案中的每個引擎。它為每個回答記錄被點名的品牌和被引用的頁面,所以輸掉的措辭會顯示改被點名的是誰,或者沒有人被點名。

這可能出錯的地方

1,908 種措辭中除了 18 種以外,都是 Proofsource 根據每個品牌的網站和競爭對手產生的,所以遵循我們的形式。真實買家的措辭方式有我們沒測試到的。大多數問題只在一兩天被詢問,少數最多十一天,所以重複的數字建立在 578 組配對上,且偏重歷史較長的品牌。

配對計數彼此並不獨立:一個回答可能出現在多組配對中,所以我們只在每個計數都是不同回答時才給出信賴區間,並以逐品牌檢查作為主要比較的依據。「被點名」是我們的擷取對回答的判讀,漏抓會在任一邊顯示為差異。十月的十二天只是一個切片,模型更新可能改變其中任何一項。

外部數字的來源

  1. 該追蹤哪些 AI Prompt:測試買家問題的措辭 · Proofsource
所有筆記

問題

ChatGPT 對同一問題的不同措辭會給出不同的品牌嗎?

會,而且比重複詢問時的變化更大。在我們的樣本中,在某種措辭中被點名的品牌,當天在同類措辭中被點名的比例為 55%,而以相同措辭再問時為 78%。

同一個買家問題我應該測試幾種措辭?

三到五種,依形式選擇:開放式問題、加上限制條件的問題、競爭對手的替代方案,以及成本或評選標準問題。對比型問題值得獨立成一組追蹤。

我應該把各種措辭的能見度平均嗎?

要在逐一閱讀之後才平均。在我們的資料中,品牌有被點名的主題日裡,88% 在各種措辭間是分裂的,所以平均值會掩蓋您輸在哪種措辭上。

您自己的數據勝過我們最好的文章。

無論是否有人讀這一頁,您類別中的候選名單此刻正在被寫出來。免費試用,今天和明天在四個引擎上詢問 25 個問題,告訴您您的名字是否在其中。

200 則回答。25 Prompts/問題。頂尖 AI 引擎。2 天。免費。ChatGPTPerplexityClaudeGoogle AI OverviewsGoogle AI ModeGeminiMicrosoft CopilotGrokDeepSeekMeta AI