Ajuste seu próprio site para a IA ler e entender quem você é.
O seu próprio site é uma parte pequena do que os mecanismos de IA citam, mas ele é a porta de entrada para todo o resto: um crawler bloqueado ou um nome ambíguo desfaz qualquer trabalho de divulgação. Este capítulo trata de acesso de crawlers, identidade, o que as suas páginas devem dizer e llms.txt.
Capítulo 4 de 6 do guia de visibilidade em IA
Os crawlers de IA conseguem ler o seu site?
Cada mecanismo envia os próprios bots, e cada um pode ser liberado ou barrado separadamente. Quem decide se você pode aparecer nas respostas hoje são os bots de busca e os que buscam páginas a pedido do usuário. Os crawlers de treinamento decidem o que os modelos futuros podem aprender.
| Mecanismo | Bots que importam |
|---|---|
| ChatGPT | OAI-SearchBot, GPTBot, ChatGPT-User |
| Perplexity | PerplexityBot, Perplexity-User |
| Claude | ClaudeBot, Claude-SearchBot, Claude-User |
| Google AI Overviews | Googlebot, Google-Extended |
O bot que a maioria bloqueia não é o que decide se ela aparece. A OpenAI documenta o GPTBot como seu crawler de treinamento e o OAI-SearchBot como o que mostra sites na busca do ChatGPT; sites que bloqueiam o OAI-SearchBot não aparecem nas respostas da busca do ChatGPT. A Anthropic separa o ClaudeBot (treinamento) do Claude-SearchBot e do Claude-User, e a Perplexity diz que o PerplexityBot não é usado para treinamento. A documentação de crawlers do Google diz que o Google-Extended não afeta a inclusão na Busca do Google, então bloqueá-lo não muda nada nos AI Overviews (o mapa completo de crawlers).
Duas falhas são comuns, e nenhuma aparece quando você olha o seu site no navegador.
- Bloqueado na borda. A proteção contra bots de uma CDN pode devolver um erro aos crawlers de IA mesmo quando o robots.txt os permite; a Cloudflare anunciou em 1º de julho de 2025 que passaria a bloquear crawlers de IA por padrão, a menos que paguem. Um verificador de robots.txt, como o nosso verificador de crawlers de IA gratuito, ainda vai mostrar todos os bots como permitidos, porque o bloqueio acontece no servidor.
- Vazio até o JavaScript rodar. Se o seu texto só aparece depois que os scripts são executados, muitos bots veem uma página em branco, ou um punhado de palavras onde uma pessoa vê milhares.
Mais uma do Google: para poder aparecer como link de apoio nos AI Overviews ou no AI Mode, a página precisa estar indexada e poder exibir um snippet; uma regra nosnippet ou um max-snippet apertado também a tira da resposta de IA.
Confira você mesmo em cinco minutos
Busque uma página importante como cada bot e veja o código de status e as palavras que voltam:
curl -s -o /dev/null -w "%{http_code}\n" -A "GPTBot" https://yoursite.com/
curl -s -o /dev/null -w "%{http_code}\n" -A "ClaudeBot" https://yoursite.com/
curl -s -A "OAI-SearchBot" https://yoursite.com/ | sed 's/<[^>]*>//g' | wc -wUm 403 ou 503 significa que algo está bloqueando esse bot. Uma contagem de palavras muito abaixo do que você vê na página significa que o seu texto depende de JavaScript. Corrija o bloqueio na CDN e entregue o conteúdo principal no HTML.
A IA sabe qual empresa você é?
Antes de recomendar você, o mecanismo precisa saber qual empresa você é. Quando um nome se parece com outro mais conhecido, o modelo recorre ao que conhece melhor.
Até um nome famoso é lido de mais de um jeito. No exemplo público da Tesla (4 de out. de 2026), o Google AI Overviews respondeu a “What is Tesla?” começando pela unidade magnética de mesmo nome, e o Perplexity respondeu a “Is Tesla worth it?” perguntando se a dúvida era sobre a ação ou sobre os carros. Uma marca mais nova cujo nome se parece com o de outra mais conhecida corre um risco maior: o mecanismo descreve a outra empresa.
- Escreva uma frase simples que diga o que você é e para quem. Coloque-a no topo da sua página inicial, na sua meta description e em todos os perfis.
- Use uma única grafia do seu nome em todo lugar, inclusive no LinkedIn e em sites de avaliação.
- Adicione dados estruturados do tipo Organization, com o seu site oficial e links para os perfis que o confirmam.
- Se você divide o nome com outra empresa, diga isso com clareza: uma frase dizendo que você não é ela dá aos mecanismos algo para citar.
Seguimos o nosso próprio conselho: Proofsource não é ProveSource é uma página que diz exatamente isso.
Citações a sites que publicam llms.txt que apontavam para o arquivo. Era um llms-full.txt; nenhuma resposta citou um llms.txt.
300 domínios mais citados, 23 de ago. a 5 de out. de 2026Respostas do ChatGPT cujas buscas incluíram uma busca site: limitada a um único site, que na amostra que lemos costumava ser o da própria empresa.
2.502 respostas do ChatGPT, 4 a 13 de out. de 2026Respostas do ChatGPT cujas buscas acrescentaram o ano atual quando a pergunta não tinha nenhum.
Mesma amostraO que as suas próprias páginas devem dizer?
O seu próprio site é uma parte pequena do que os mecanismos citam, cerca de 0,8% das citações no nosso estudo de citações de IA, mas é a parte que você controla, e o ChatGPT vai direto nela: 16% das respostas da nossa amostra fizeram uma busca limitada a um único site. As buscas dele também acrescentaram o ano atual em 55% das respostas cuja pergunta não tinha nenhum; então uma página datada deste ano, que nomeia a sua categoria com palavras simples, combina com a consulta que ele escreve.
- Responda às perguntas factuais com clareza: o que é o produto, para quem é, quanto custa e com o que se integra, em um texto que um crawler consiga ler.
- Publique páginas de comparação honestas, com uma fonte para cada afirmação sobre outro produto. As páginas de comparação e de produto dos concorrentes estão entre as que os mecanismos mais citam (capítulo 3).
- Escreva o guia de compra para as perguntas em que os mecanismos não mencionam ninguém: a página de critérios que um mecanismo cita quando explica como escolher.
- Edite as páginas que já estão em primeiro lugar. Segundo o Google, um novo rastreamento pode levar de alguns dias a algumas semanas; uma página nova precisa ser descoberta e indexada antes que qualquer coisa consiga recuperá-la.
Você precisa de llms.txt?
Não. O llms.txt é um arquivo em markdown proposto para listar as suas páginas principais para modelos de linguagem. O guia do Google sobre os recursos de IA generativa dele, atualizado pela última vez em 10 de julho de 2026, diz que publicar um não prejudica nem ajuda a sua visibilidade na Busca do Google, porque a Busca não o usa, e nenhum dos mecanismos que monitoramos disse usar o llms.txt para ranqueamento.
O que encontramos, sem rodeios: buscamos o /llms.txt dos 300 domínios que os mecanismos de IA mais citaram nas nossas amostras. 129 publicavam um, e esses 129 sites foram citados 6.343 vezes. Uma citação apontou para um arquivo, um llms-full.txt; nenhuma apontou para um llms.txt. Dos dez domínios mais citados, oito não tinham arquivo e dois bloquearam a nossa verificação (o estudo do llms.txt). O Ahrefs chegou à mesma conclusão pelo outro lado: 97% dos arquivos da amostra de maio de 2026 dele não receberam nenhuma requisição.
Publicar não faz mal, e agentes que leem documentação de fato o usam. Se mesmo assim você for publicar um, escreva-o com o gerador de llms.txt e confira a versão no ar com o validador de llms.txt.
O que mais você pode deixar de lado?
- “Marcação para IA” especial. O Google afirma que não existe marcação schema.org especial necessária para os recursos de IA dele, nem novos arquivos legíveis por máquina. Dados estruturados normais, como a marcação Organization acima, continuam ajudando os mecanismos a entender você.
- Bloquear crawlers de treinamento por reflexo. É uma escolha legítima, mas significa que os modelos futuros vão aprender menos sobre você. Decida isso de propósito e nunca bloqueie os bots de busca por acidente.
Continue lendo
Todos os capítulos
Leitura relacionada
- OpenAI: Overview of OpenAI crawlers developers.openai.com/api/docs/bots
- Anthropic: Does Anthropic crawl data from the web, and how can site owners block the crawler? support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler
- Perplexity: Perplexity crawlers docs.perplexity.ai/docs/resources/perplexity-crawlers
- Google Search Central: Google's common crawlers (Google-Extended) developers.google.com/search/docs/crawling-indexing/google-common-crawlers
- Google Search Central: AI features and your website developers.google.com/search/docs/appearance/ai-features
- Google Search Central: Optimizing your website for generative AI features (atualizado pela última vez em 10 de julho de 2026) developers.google.com/search/docs/fundamentals/ai-optimization-guide
- Google Search Central: Ask Google to recrawl your URLs developers.google.com/search/docs/crawling-indexing/ask-google-to-recrawl
- Cloudflare: Content Independence Day, no AI crawl without compensation (1º de julho de 2025) blog.cloudflare.com/content-independence-day-no-ai-crawl-without-compensation/
- Ahrefs: We Analyzed 137K Sites: 97% of llms.txt Files Never Get Read (15 de junho de 2026) ahrefs.com/blog/llmstxt-study/
- Jeremy Howard: The /llms.txt file (llmstxt.org) llmstxt.org/
Os números do Proofsource linkam para o post ou estudo que os mediu, com datas e método. Avise a gente se algo aqui estiver desatualizado.
Descubra onde a IA deixa você de fora. E corrija.
Veja quais perguntas de compra mencionam sua marca, quem é mencionado no lugar e o que corrigir. 200 respostas. 25 Prompts/pergunta. Os principais mecanismos de IA. 2 dias. Grátis. Sem cartão.