Generador de robots.txt robots.txt
¿Qué bots pueden hacer qué? El generador construye tu robots.txt en cuatro pasos: generar, revisar, probar, comparar. Todo en local, solo se lee el robots.txt de tu sitio.
1¿Qué es?
Generar: elige una plantilla (WordPress, WooCommerce, Shopware, Joomla, staging), marca los bots por grupo, línea Sitemap y comentarios en tu idioma. Revisar: el robots.txt actual en busca de erratas, CSS bloqueado, sitemap ausente y contradicciones. Probar: comprobar una URL contra las reglas, según la regla de Google (gana la ruta coincidente más larga). Comparar: el antiguo frente al nuevo como diff.
2¿Por qué importa?
Una errata como «Disalow» se ignora en silencio. Un Disallow: / heredado del staging saca todo el sitio de la búsqueda. Y quien bloquea todos los bots de IA desaparece también de la búsqueda IA, no solo del entrenamiento.
3Qué comprueba TagSpion
| Comprobación | Valoración |
|---|---|
| Grupos de bots | buscadores, búsqueda IA y consultas, recolectores (entrenamiento), rastreadores de herramientas SEO, archivo. Nombrados por función, sin juicios. |
| Revisar | erratas, directivas desconocidas, Crawl-delay, noindex en robots.txt, CSS o JS bloqueados, wp-admin sin admin-ajax, Disallow: / para todos, sin sitemap, más de 500 KB |
| Probar | permitido o bloqueado por bot, con la línea que se aplica |
4Cómo solucionarlo
- Guarda el archivo como robots.txt y súbelo a la raíz del dominio: https://www.example.com/robots.txt
- Tras subirlo, comprueba las URL más importantes en la pestaña «Probar».
- Quita la plantilla de staging antes de publicar.
# robots.txt - AI search allowed, training blocked User-agent: * Disallow: /wp-admin/ Allow: /wp-admin/admin-ajax.php # Training bots (your decision, no effect on visibility) User-agent: GPTBot User-agent: ClaudeBot User-agent: Google-Extended User-agent: CCBot Disallow: / # AI search bots stay allowed: OAI-SearchBot, PerplexityBot, Claude-SearchBot Sitemap: https://www.example.com/sitemap.xml