Gerador de robots.txt robots.txt
Quais bots podem o quê? O gerador monta seu robots.txt em quatro passos: gerar, verificar, testar, comparar. Tudo local, só o robots.txt do seu site é lido.
1O que é?
Gerar: escolha um modelo (WordPress, WooCommerce, Shopware, Joomla, staging), marque os bots por grupo, linha Sitemap e comentários no seu idioma. Verificar: o robots.txt atual quanto a erros de digitação, CSS bloqueado, sitemap ausente e contradições. Testar: conferir uma URL contra as regras, pela regra do Google (o caminho correspondente mais longo vence). Comparar: antigo contra novo como diff.
2Por que importa?
Um erro como “Disalow” é ignorado em silêncio. Um Disallow: / deixado do staging tira o site inteiro da busca. E quem bloqueia todos os bots de IA some também da busca com IA, não só do treinamento.
3O que o TagSpion verifica
| Verificação | Avaliação |
|---|---|
| Grupos de bots | mecanismos de busca, busca com IA e consultas, coletores (treinamento), crawlers de ferramentas SEO, arquivo. Nomeados por função, sem julgamento. |
| Verificar | erros de digitação, diretivas desconhecidas, Crawl-delay, noindex no robots.txt, CSS ou JS bloqueados, wp-admin sem admin-ajax, Disallow: / para todos, sem sitemap, acima de 500 KB |
| Testar | permitido ou bloqueado por bot, com a linha que vale |
4Como resolver
- Salve o arquivo como robots.txt e coloque na raiz do domínio: https://www.example.com/robots.txt
- Depois de enviar, confira as URLs mais importantes na aba “Testar”.
- Remova o modelo de staging antes de publicar.
# robots.txt - AI search allowed, training blocked User-agent: * Disallow: /wp-admin/ Allow: /wp-admin/admin-ajax.php # Training bots (your decision, no effect on visibility) User-agent: GPTBot User-agent: ClaudeBot User-agent: Google-Extended User-agent: CCBot Disallow: / # AI search bots stay allowed: OAI-SearchBot, PerplexityBot, Claude-SearchBot Sitemap: https://www.example.com/sitemap.xml