SEO y marketing
Comprobador de robots.txt
Lee el robots.txt publicado, identifica reglas generales Allow y Disallow, encuentra sitemaps y prueba rutas reales.
Preparando la cabina de revisión…
Compartir
¿Vas a citar esta herramienta en una web?
Copia un enlace HTML con atribución. No es obligatorio y no cambia el acceso gratuito.
Cómo funciona
Metodología de la herramienta
- 1Obtiene robots.txt en el origen y analiza User-agent, Allow, Disallow y Sitemap.
- 2Aplica a la ruta la coincidencia más larga del grupo general con asterisco.
- 3Cruza rutas bloqueadas con la intención pública y los sitemaps, y conserva líneas mal formadas.
Límites importantes
Qué no debe darse por supuesto
- Este modo interpreta el grupo general; un rastreador puede elegir otro grupo más específico.
- robots.txt controla rastreo y no garantiza retirar una URL de resultados.
- No se afirma paridad con comportamientos no documentados de cada proveedor.
Ejemplo práctico
Directorio bloqueado tras staging
Entrada: Una URL /productos/ficha con Disallow: /productos/.
Resultado: Bloqueo de publicación con la ruta afectada y la corrección que debe verificarse.
Fuentes oficiales
Revisado el 2026-07-28. Comprueba siempre la documentación de la plataforma antes de una importación importante.
- Google Search — Rastreo e indexación ↗
Documentación principal sobre acceso, indexabilidad, canonical, sitemap, redirecciones y JavaScript.
- Google Search — robots.txt ↗
Explica que robots.txt controla principalmente el rastreo y no garantiza retirar una URL de resultados.
- Protocolo de sitemaps ↗
Protocolo abierto para archivos sitemap, índices y elementos loc.
Preguntas frecuentes
¿Cómo pruebo una URL contra robots.txt?
Introduce la URL completa. La herramienta obtiene robots.txt, lee el grupo general y aplica la regla Allow o Disallow coincidente más larga.
¿Allow gana siempre a Disallow?
En el modelo utilizado gana la regla coincidente más específica. Un grupo propio de un crawler puede variar y debe comprobarse también con su herramienta oficial.
¿Por qué una URL bloqueada puede aparecer en resultados?
Porque impedir el rastreo no borra el conocimiento de la URL. Puede descubrirse mediante enlaces y el bloqueo puede evitar que el buscador lea su noindex.
Sigue resolviendo
Herramientas relacionadas
Constructor de prompts para IA
Convierte un objetivo, contexto y restricciones en un prompt claro y reutilizable.
SEO y marketingWebsite Release Doctor
Rastrea una web antes o después de publicar, encuentra bloqueos técnicos, prepara correcciones exactas y comprueba qué cambió sin crear una cuenta.
SEO y marketingCalculadora de ingresos por publicidad web
Estima los ingresos diarios, mensuales y anuales de una web según sus visitas y RPM de página.
SEO y marketingCalculadora de ROAS
Calcula el retorno de la inversión publicitaria, la contribución y el ROAS de equilibrio.
SEO y marketingComprobador de indexabilidad web
Diagnostica por qué una URL pública puede quedar fuera de los buscadores cruzando acceso HTTP, robots, noindex, canonical e HTML inicial.
SEO y marketingComprobador masivo de estados URL
Comprueba URLs públicas por lotes y exporta su estado final, destino, tiempo de respuesta y errores sin instalar ningún programa.
SEO y marketing