Claude-SearchBot 做什麼?
Anthropic 表示 Claude-SearchBot 會瀏覽網路以提升使用者的搜尋結果品質,分析線上內容以改善搜尋回應的相關性和準確度。停用它會讓 Anthropic 的系統無法為搜尋最佳化而將您的內容編入索引,Anthropic 表示這可能降低您的網站在使用者搜尋結果中的能見度和準確度(Anthropic,2026 年 4 月 7 日)。
Claude-SearchBot 的行為如何?
Anthropic 為它的三個機器人記載了相同的規則:
- 它們遵守 robots.txt 指令。
- 它們不會嘗試繞過 CAPTCHA 或其他防規避措施。
- 它們支援非標準的 Crawl-delay 規則,可以在不封鎖的情況下讓機器人放慢速度。
- 規則依主機套用,因此每個子網域都需要自己的規則。
- 依 IP 位址封鎖可能不可靠,因為這可能讓機器人讀不到 robots.txt。
如何在封鎖訓練的同時允許 Claude-SearchBot?
為每個機器人設定各自的群組。對於想被 Claude 引用、又不想貢獻訓練資料的品牌,這是常見的選擇。請用免費的 AI 爬蟲檢查工具確認線上的檔案。
# 保持在 Claude 搜尋中可被找到
User-agent: Claude-SearchBot
Allow: /
User-agent: Claude-User
Allow: /
# 讓內容不進入 Anthropic 的訓練
User-agent: ClaudeBot
Disallow: /以實際範例來看,利害關係是什麼?
在公開的 Tesla 範例(2026 年 10 月 4 日)中,Claude 在 25 個買家問題中引用了 351 個頁面,比 ChatGPT 和 Google AI Overviews 加起來還多,並在 11 則回答中點名 Tesla。
長長的來源清單代表大量的引用名額,而 Claude-SearchBot 決定您的頁面是否會為此被編入索引。tesla.com 在這 351 個中只拿到 1 個;大多數都給了參考資料和第三方網站。
關於 Claude-SearchBot 的常見問題
Claude-SearchBot 會用於訓練嗎?
Anthropic 將它描述為為了改善搜尋結果而將內容編入索引。訓練是 ClaudeBot 的工作,而每個機器人都有自己的 robots.txt 規則。
如果我封鎖 Claude-SearchBot 會怎樣?
Anthropic 表示您的內容將不再為搜尋最佳化而被編入索引,這可能降低您在 Claude 搜尋回答中的能見度和準確度。
我可以讓 Claude-SearchBot 放慢速度,而不是封鎖它嗎?
可以。Anthropic 的機器人支援非標準的 Crawl-delay 規則。
我怎麼知道某次造訪真的是 Claude-SearchBot?
將來源 IP 與 Anthropic 在 claude.com/crawling/bots.json 公布的清單比對;Anthropic 表示該清單上的 IP 來自 Anthropic。
相關詞彙
- ClaudeBot
ClaudeBot 是 Anthropic 的網路爬蟲,蒐集可能用於訓練 Anthropic Claude 模型的網路內容。
- Claude-User
Claude-User 是有人向 Claude 提出需要某個網頁的問題時,Anthropic 用來擷取該網頁的代理程式。
- robots.txt
robots.txt 是位於網站根目錄的純文字檔,依據 Robots Exclusion Protocol(RFC 9309)告訴爬蟲可以擷取哪些路徑。
- PerplexityBot
PerplexityBot 是 Perplexity 的爬蟲,負責為網頁建立索引,讓它們能在 Perplexity 的搜尋結果中呈現並被連結。
實例:Tesla,公開的 AI 回答,2026 年 10 月 4 日:Proofsource 對 Tesla 的第一次掃描,25 個買家問題和 5 個品牌問題,四個引擎各回答每個問題一次。這是單一品牌的小樣本,僅作為範例,不是基準。