UTILS.
Privadas por defecto
🤖

Generador de robots.txt

Crea un robots.txt válido con reglas de allow, disallow, crawl-delay y sitemap.

Tus archivos se quedan en este dispositivo

Los archivos se procesan en tu navegador, sin subirse a ningún servidor. El sitio descarga el código y los recursos necesarios. Sin cuentas ni rastreadores.

Usa Descargar para guardar esta herramienta como un archivo HTML y usarla sin conexión.

Privacidad →
— la salida aparece aquí —

Prueba un ejemplo resuelto

Ejemplo

Deja el agente de usuario como User-agent: *, bloquea /admin/ y /cart/ en líneas separadas y añade el sitemap https://example.com/sitemap.xml. El archivo incluye las dos reglas Disallow y termina con una línea Sitemap.

Ten en cuenta

robots.txt pide a los rastreadores que no descarguen páginas; no las oculta. Una URL bloqueada puede indexarse igualmente si otros sitios la enlazan, y cualquiera puede leer el archivo, así que nunca incluyas rutas secretas. Para dejar una página fuera de los resultados, permite el rastreo y usa noindex.

Acerca de esta herramienta

Genera un archivo robots.txt conforme a los estándares a partir de tus reglas de rastreo. El archivo se crea localmente en tu navegador.

Preguntas frecuentes

¿Dónde va el robots.txt?
En la raíz de tu dominio, por ejemplo https://example.com/robots.txt, para que los rastreadores puedan encontrarlo.
¿Qué hace Disallow?
Pide a los rastreadores que se comportan correctamente que no accedan a las rutas indicadas; una ruta por línea, empezando con una barra.

Más herramientas