拿到確切段落,八個工具有 60% 的時候指錯來源
這個測試理應很簡單。從一篇已發表的文章中取出一段文字,貼進 AI 搜尋工具,詢問它出自哪篇文章、由誰發表、網址是什麼。文字就在 Prompt 裡,什麼都不必猜。
Tow Center for Digital Journalism 在 2025 年 2 月正是以八個工具這樣測試:ChatGPT Search、Perplexity、Perplexity Pro、DeepSeek Search、Copilot、Grok 2、測試版的 Grok 3 與 Gemini。二十家出版者,各十篇文章,總共 1,600 次查詢。挑選的摘錄在一般 Google 搜尋中貼上後,原文都會出現在前三個結果內。
整體而言,這些工具答錯了超過 60% 的查詢。Perplexity 是表現最好的,仍答錯 37%。Grok 3 答錯 94%。DeepSeek 在 200 次中有 115 次把摘錄歸給錯誤的來源。
值得細想的是那份自信。ChatGPT 指錯了 134 篇文章,在兩百則回應中只表達過十五次不確定。它從未拒絕回答。
Perplexity 自己的文件說標記取決於 Prompt,結果清單才是真實依據
這看起來像是模型品質問題,其實更接近架構問題,而這個架構可以從廠商自己的開發者文件中讀到。
透過 Perplexity 的 Agent API 進行網路搜尋,會回傳兩個獨立物件。一個是 search_results 項目,包含執行過的查詢以及工具抓到的每個結果,每個結果都有 id、url、title 與 snippet。另一個是助理訊息,也就是回答文字。大家當成引用的方括號標記,就存在於那段回答文字中,而 Perplexity 該工具的參考頁面說,模型是否加入這些標記取決於 Prompt,因此您應該明確要求。接著它告訴開發者該依賴什麼:無論標記為何,都應把每個 search_results 項目的 id 與 url 欄位視為引用的真實依據。
用品牌的眼光讀這段話。廠商在告訴自家開發者:可見的引用不具權威性,擷取到的組合才是。而從外部衡量 AI 能見度的人,永遠只看得到可見的引用。
同一份文件也警告不要要求模型在結構化輸出中產生網址,因為撰寫連結的模型可能產生格式錯誤或捏造的連結,並引導開發者回到搜尋結果。Tow Center 衡量的正是這種失敗在消費者端的版本:Gemini 與 Grok 3 的回應中,超過一半帶有捏造或失效的網址,Grok 3 的 200 個引用中有 154 個連到錯誤頁面。
由系統擷取的引用會附帶字元位置
把它和由系統計算、而非由模型撰寫的引用放在一起看。Claude API 上 Anthropic 的 Citations 功能,會為回答中的每個說法回傳一個區塊,包含確切的 cited_text、它來自的文件索引,以及在該文件中的起訖字元位置。文件明確說明這種形式的重要性:因為 API 會解析引用並直接擷取 cited_text,引用保證包含指向所提供文件的有效指標。
Google 為 Gemini 提供的資料接地 API 也採用相同的設計。有資料接地的回答會附上模型實際執行的搜尋,以及 url_citation 註記,每個註記都帶有指向回答文字的 start_index 與 end_index,讓您可以標出確切的段落並指出背後的網址。
所以機制是存在的。由系統計算出的指標型引用是可以檢查的。由模型寫出的字串型引用則是一種主張,應該和回答中的其他主張一樣受到質疑。而買家實際使用的介面,大多顯示的是第二種。
您的段落放在別人的網域上,功勞歸別人
Tow Center 發現了一種對品牌衝擊特別大的失敗。這些工具一再引用聯播或轉載的副本,而不是原文。Perplexity Pro 在十次查詢中有三次引用了《Texas Tribune》文章的轉載版本,而 Perplexity 與《Texas Tribune》是合作夥伴。ChatGPT 則引用了 Yahoo News 對一篇《USA Today》文章的轉載。
品牌版的情況比較平淡,卻常見得多。您的比較頁面說明了兩個方案層級的真正差異。某個綜合評比部落格改寫了這段內容。有人提出類別問題時,連結給了那篇綜合評比文章,回答中用的是您的說法,頁面上卻完全看不到您的網域。
在我們自己的抽樣中,在我們測試的單一類別裡,對於類別最佳推薦問題,清單文章與綜合評比文章約占 ChatGPT 引用來源的 44%。這是我們的資料,範圍僅限於我們抽樣的內容。不過它符合這個問題的樣貌:引用位置是個小而競爭激烈的版面,而第三方頁面非常擅長占據它。
計算三項發現,而不是一項
如果連結清單無法可靠呈現引擎用了什麼,那麼單一的引用次數就是錯誤的工具。三個問題可以清楚分開,各自導向不同的方向。
- 回答到底有沒有點名您?出現在文字中是一項獨立的衡量,與是否出現連結各自變動。
- 回答標示的是您,還是承載您內容的頁面?如果是後者,您面對的是位置問題,改寫自己的頁面不會有任何幫助。
- 引擎到底能不能存取您?缺少引用很多時候有個無趣的原因,而機器人存取檢查能在任何人動手改寫之前把它釐清。
我們怎麼處理
這就是為什麼 Proofsource 執行引用缺口與幽靈引用偵測,而不是只報告一個數字,也是為什麼每個資料點都標明出處:是在回答中觀察到的,還是生成的。在只計算連結的儀表板上,引述您卻沒連結您的回答,和從未看過您的回答,看起來一模一樣。
這也是為什麼抽樣會記錄回答文字,而不只是來源清單。如果您的措辭出現在文字中,而別人的網域出現在來源裡,那就是一項發現,而且與沒被擷取是不同的工作。
這可能錯在哪裡
Tow Center 的測試在 2025 年 2 月執行,同年 3 月發表。那是十八個月前,組合中的每個產品此後都推出了許多版本。請把 60% 視為這類失敗真實且可衡量的證據,而不是今天的錯誤率。我們沒有重新執行。
研究本身的限制章節說,每個查詢只執行一次,而重新執行相同 Prompt 的人很可能得到不同的輸出。出處準確度本身就是一項充滿雜訊的衡量。
貼上摘錄並詢問作者是誰,是一種出處探測,不是買家購物的方式。它直接考驗出處標示,這正是它的目的,但無法告訴您在一般的類別問題中,出處標示出錯的頻率有多高。
上述 API 行為屬於開發者介面。ChatGPT、AI Overviews 與 Perplexity 自己的網站不保證走相同的程式路徑,我們是依據有文件記錄的開發者行為推論,而不是從消費者產品內部觀察。
還有我們自己建議的誠實限制:從外部,您不一定能分辨一個頁面是被擷取卻沒被標示,還是從未被擷取。檢查爬蟲存取能縮小範圍。在回答文字中尋找您自己的措辭能再縮小一些。但兩者都無法完全釐清。