Générateur de robots.txt

Créez un fichier robots.txt avec les agents utilisateurs, chemins autorisés ou bloqués et sitemap. Relisez les règles avant de copier ou télécharger.

Traitement dans le navigateur : aucune donnée envoyée.

Configurez vos données

Configurez vos données

Remplissez un groupe User-agent avec chemins Allow/Disallow et Sitemap facultative. Téléchargez et vérifiez avant de remplacer un fichier existant.

Résultat

Le résultat apparaîtra ici.

Nous comptons les outils les plus utilisés, sans inclure les valeurs saisies ni le contenu des fichiers dans les statistiques. Confidentialité

Comment utiliser l’outil

  1. Vous pouvez saisir le domaine avec ou sans www, ainsi qu’un chemin et des paramètres. HTTPS est utilisé si le protocole est omis.
  2. Remplissez un groupe User-agent avec chemins Allow/Disallow et Sitemap facultative.
  3. Téléchargez et vérifiez avant de remplacer un fichier existant.

Méthode et principes

robots.txt contrôle l’exploration, pas l’accès ni la désindexation.

Placez-le à la racine du domaine et vérifiez les règles.

Exemple pratique

Données saisies
  • User-agent: *
  • Chemins Allow (un par ligne): /
  • Chemins Disallow (un par ligne): /private/
  • URL Sitemap (facultatif): https://example.com/sitemap.xml
Résultat
User-agent: * Allow: / Disallow: /private/ Sitemap: https://example.com/sitemap.xml

Limites et vérifications

Limites et vérifications
ParamètreValeur
Chemins Allow (un par ligne)≤ 5000000 caractères
Chemins Disallow (un par ligne)≤ 5000000 caractères

Sources et informations complémentaires

Favoris