Robots.txt-Generator

Erstellen Sie eine robots.txt mit User-Agents, erlaubten oder gesperrten Pfaden und Sitemap. Prüfen Sie die Regeln vor dem Kopieren oder Herunterladen.

Verarbeitung im Browser: Ihre Daten werden nicht hochgeladen.

Daten einstellen

Daten einstellen

Eine User-agent-Gruppe mit Allow-/Disallow-Pfaden pro Zeile und optionaler Sitemap ausfüllen. Vor dem Ersetzen einer vorhandenen Datei prüfen.

Ergebnis

Ihr Ergebnis erscheint hier.

Wir zählen die meistgenutzten Werkzeuge, ohne Eingabewerte oder Dateiinhalte in die Statistik aufzunehmen. Datenschutz

So verwendest du das Werkzeug

  1. Du kannst die Domain mit oder ohne www sowie mit Pfad und Abfrageparametern eingeben. Ohne Protokoll wird HTTPS verwendet.
  2. Eine User-agent-Gruppe mit Allow-/Disallow-Pfaden pro Zeile und optionaler Sitemap ausfüllen.
  3. Vor dem Ersetzen einer vorhandenen Datei prüfen.

Methode und Grundlagen

robots.txt steuert Crawling, schützt keine Daten und garantiert keine Deindexierung.

Im Domainstamm ablegen und Regeln prüfen.

Praktisches Beispiel

Eingabe
  • User-agent: *
  • Allow-Pfade (einer pro Zeile): /
  • Disallow-Pfade (einer pro Zeile): /private/
  • Sitemap-URL (optional): https://example.com/sitemap.xml
Ergebnis
User-agent: * Allow: / Disallow: /private/ Sitemap: https://example.com/sitemap.xml

Grenzen und Prüfungen

Grenzen und Prüfungen
ParameterWert
Allow-Pfade (einer pro Zeile)≤ 5000000 Zeichen
Disallow-Pfade (einer pro Zeile)≤ 5000000 Zeichen

Quellen und weiterführende Informationen

Favoriten