Generador y probador de robots.txt
Crea un robots.txt a medida regla por regla y comprueba si una URL y un user-agent concretos quedarían permitidos o bloqueados, con el mismo criterio que documenta Google.
Cómo usar el generador y probador de robots.txt
Añade tus reglas
Indica qué user-agent, tipo (Allow/Disallow) y ruta quieres para cada regla. Añade tantas filas como necesites.
Descarga y sube el archivo
Descarga el robots.txt generado y súbelo a la raíz de tu dominio (debe quedar accesible en tudominio.com/robots.txt).
Prueba antes de publicar
Usa la sección de abajo para comprobar que una URL concreta queda permitida o bloqueada tal como querías, antes de subir el archivo de verdad.
Preguntas frecuentes sobre robots.txt
Dudas habituales al escribir o revisar un archivo robots.txt.
¿robots.txt impide que Google me indexe?
+
Bloquea el rastreo de esas rutas, pero no garantiza que no aparezcan indexadas si otra web enlaza a ellas. Para impedir la indexación de verdad, usa la etiqueta meta robots noindex en la propia página.
¿Qué pasa si no tengo robots.txt?
+
Los buscadores asumen que pueden rastrear todo el sitio. No es obligatorio tener uno, pero es una buena práctica para indicar dónde está tu sitemap y bloquear rutas que no aportan valor en buscadores (paneles internos, resultados de búsqueda interna...).
¿Por qué gana la regla más larga?
+
Es el criterio que documenta Google: cuando varias reglas coinciden con la misma URL, se aplica la más específica (la de ruta más larga), y solo en caso de empate exacto gana Allow sobre Disallow.
¿robots.txt sirve para ocultar información privada?
+
No. El archivo es público y cualquiera puede leerlo, así que nunca debe usarse para 'ocultar' rutas sensibles — de hecho, listarlas ahí puede llamar la atención sobre ellas. Para proteger contenido de verdad hace falta autenticación.