為什麼 AI 回答必須抽樣?
因為引擎不是確定性的。OpenAI 的文件說明 Chat Completions 預設為非確定性,因此每次請求的輸出可能不同(OpenAI API 文件,讀取日期 2026 年 10 月 15 日)。
即使溫度為零,同一個 Prompt 也會漂移。Thinking Machines Lab 以溫度零從一個開源模型對同一個 Prompt 抽樣 1,000 次,得到 80 種不同的結果;它追查出的主因是伺服器負載改變了每個請求所在批次的大小(2025 年 9 月 10 日,Thinking Machines)。一個回答說了什麼,有一部分取決於伺服器當時有多忙。
多少回答才夠?
要多到讓信賴區間比您想偵測的變化更窄。如果某個模型真實點名您的機率是 60%,以下是各樣本大小下 95% Wilson 信賴區間的寬度(計算過程):
| 回答數 | 點名 | 95% 信賴區間 | 寬度 |
|---|---|---|---|
| 5 | 3 | 23.1% 至 88.2% | 65 個百分點 |
| 20 | 12 | 38.7% 至 78.1% | 39 個百分點 |
| 40 | 24 | 44.6% 至 73.7% | 29 個百分點 |
| 100 | 60 | 50.2% 至 69.1% | 19 個百分點 |
如何公平地抽樣 AI 回答?
在看結果之前先固定方法,並在每個期間保持不變:
- 每個引擎都用相同措辭的相同問題,讓引擎之間的差距是真實的差異。
- 不點名您的問題,品牌問題放在獨立的集合中。
- 執行分散在不同日子,而不是一次集中,因為回答會隨負載與模型更新而漂移。
- 排除逐字重複先前回答的結果:重播不是第二次抽樣。
- 沒有回答的情況(例如沒有顯示 AI Overview)予以排除,而不是算成漏掉。
抽樣在真實案例中是什麼樣子?
公開的 Tesla 案例(2026 年 10 月 4 日)在四個引擎上各問一次 25 個買家問題:總共 100 個回答,但每個引擎只有 25 個。這就是為什麼 ChatGPT 的 64% 附帶約 45% 至 80% 的範圍。
重複詢問會改變局面。在三個掃描日(10 月 4、8 與 15 日),一個 Tesla 電網儲能問題的五種措辭各得到 12 個新回答:兩種措辭 12 次中有 12 次點名 Tesla,一種 12 次中 7 次,另外兩種從未點名(文章)。單一措辭的單次執行可能回報其中任何一種結果。
關於 AI 回答抽樣 的常見問題
一張 ChatGPT 截圖就足以知道 AI 是否推薦我們嗎?
不夠。一個點名您的回答,與低至約 21% 的真實提及率相符;一次漏掉則與高達約 79% 的比率相符。截圖顯示的是某件事可能發生,而不是它多常發生。
我應該連續問同一個問題好幾次嗎?
請改為把重複分散到不同日子。連續的請求可能被快取或重播,而逐字重播不是新樣本。
設定種子或溫度為零能讓回答可重現嗎?
只能部分做到。OpenAI 形容設定種子的輸出大致是確定性的,而一般消費者使用的應用程式不提供這兩種設定。請把每個引擎都當作樣本的來源。
每日抽樣還是每週抽樣?
依決策而定。每週適合大型、固定問題集上的趨勢。當問題集很小,或您剛推出變更並想看回答在哪一天變動、是否維持時,每日會更有幫助。
相關詞彙
- Wilson 信賴區間
Wilson 信賴區間是指根據所依據的回答數量,一個測得百分比合理可能落在的範圍。
- AI 回答波動
AI 回答波動是指同一個問題再問一次或換個說法時,AI 引擎點名的品牌會變動多少。
- 提及率
提及率是指針對某個問題的 AI 回答中,點名您品牌的比例。
- Prompt
在 AI 能見度中,Prompt 是在各 AI 引擎上追蹤的問題,用買家會問的方式撰寫。
實例:Tesla,公開的 AI 回答,2026 年 10 月 4 日:Proofsource 對 Tesla 的第一次掃描,25 個買家問題和 5 個品牌問題,四個引擎各回答每個問題一次。這是單一品牌的小樣本,僅作為範例,不是基準。