Probar robots.txt por URL y agente

Prueba reglas robots.txt para una URL y un agente de usuario. Identifica la regla que permite o bloquea la ruta; el permiso no garantiza la indexación.

Ajustes

Introduce una ruta como /pagina o un dominio con ruta, también sin HTTPS. Solo se analiza el robots.txt pegado.

Combina grupos del mismo product token, elige la regla más específica y da prioridad a Allow en caso de empate. No simula extensiones propietarias. Robots.txt no controla el acceso ni garantiza la desindexación. Máximo 500 KiB.

Los datos se envían al servidor para su comprobación. No se envía autenticación al sitio de destino.

Resultado

Contamos qué herramientas se utilizan más, sin incluir los valores introducidos ni el contenido de los archivos en las estadísticas. Privacidad

Cómo usar la herramienta

Pega robots.txt, indica la ruta y el product token del rastreador, como Googlebot. Se analiza el texto sin descargar el sitio.

Método de comprobación

El comprobador compara la ruta con las reglas del grupo aplicable al product token. Une grupos equivalentes y elige la regla más específica; en caso de empate gana Allow.

Cómo interpretar el resultado

En el ejemplo /private/report está bloqueado, mientras /private/public/report está permitido por la regla más específica. Permitir el rastreo no garantiza la indexación ni protege datos privados.

Ejemplo ilustrativo

Ejemplo ilustrativo con datos de prueba: las respuestas reales pueden cambiar.

Datos de entrada
User-agent: * Disallow: /private/ Allow: /private/public/
Resultado
/private/report → Disallow · /private/public/report → Allow

En el ejemplo /private/report está bloqueado, mientras /private/public/report está permitido por la regla más específica. Permitir el rastreo no garantiza la indexación ni protege datos privados.

Límites y tratamiento de datos

Combina grupos del mismo product token, elige la regla más específica y da prioridad a Allow en caso de empate. No simula extensiones propietarias. Robots.txt no controla el acceso ni garantiza la desindexación. Máximo 500 KiB.

Los datos se envían al servidor para su comprobación. No se envía autenticación al sitio de destino.

Los resultados reflejan el momento de la comprobación.

Fuentes

Preguntas frecuentes

¿Qué límites tiene la comprobación?

Combina grupos del mismo product token, elige la regla más específica y da prioridad a Allow en caso de empate. No simula extensiones propietarias. Robots.txt no controla el acceso ni garantiza la desindexación. Máximo 500 KiB. Los resultados reflejan el momento de la comprobación.

Favoritos