Gratis konverter

robots.txt Generator

Generer en robots.txt-fil til dit websted med det samme. Tilføj brugeragentregler, tillad/ikke tillad stier, crawl-forsinkelse og sitemap-URL. Gratis robots.txt-generator i realtid.

Tilføj regel

Genereret robots.txt

Om dette værktøj

robots.txt er en almindelig tekstfil i roden af et websted, der fortæller crawlere, hvilke stier de kan besøge, og hvilke de bør undgå. Formatet dateres til 1994 og understøttes af stort set alle søgemaskiner og velopdragne crawlere. Filen er rådgivende - ondsindede crawlere ignorerer den - men legitime crawlere (Google, Bing osv.) respekterer dens direktiver pålideligt.

Almindelige anvendelser: blokering af crawlere fra administratorområder (/wp-admin/, /admin/), ekskludering af facetterede søge-URL-parametre, der producerer duplikeret indhold, forhindre indeksering af iscenesættelse eller udviklingsstier, erklære sitemapplacering og tillade specifikke brugeragenter, mens andre blokerer. Filen læses i starten af ​​hver crawl-session.

Denne generator bygger en syntaktisk korrekt robots.txt ud fra formularinput. Almindelige mønstre (tillad alle, bloker alle, bloker specifikke stier) er skabeloner; brugerdefinerede regler kan tilføjes pr. brugeragent. Outputtet går til /robots.txt på dit websteds rod.

Hvorfor bruge en robots.txt Generator

Håndskrift robots.txt er udsat for fejl. Syntaksfejl (følsomhed over for store og små bogstaver, nøjagtig stimatchning, rækkefølge af regler) producerer stille og roligt forkert adfærd - stier, du havde til hensigt at blokere, forbliver gennemgået, eller stier, du ønskede indekseret, bliver ekskluderet. En generator, der producerer korrekt syntaks, undgår disse faldgruber.

robots.txt har også subtile interaktioner med andre SEO-værktøjer. Disallowing a path in robots.txt does not prevent it from appearing in search results (Google may index the URL without crawling it); meta noindex kræver, at siden crawles først. At vide, hvilket værktøj der skal bruges til hvilken hensigt, der betyder noget; generatoren kan guide dig.

Sådan bruger du det

Vælg en skabelon, tilpas, implementer.

  1. Vælg en startskabelon: Tillad alle (standard crawl-alt-stilling), Bloker alle (bloker alt fra indeksering) eller Brugerdefineret (start fra regler, du angiver).
  2. Tilføj brugeragentregler: Tillad ikke specifikke stier for alle crawlere eller for specifikke navngivne bots (Googlebot, Bingbot, GPTBot). Hver brugeragentblok har sit eget sæt Tillad- og Disallow-direktiver.
  3. Tilføj sitemap-URL: Inkluder den absolutte URL på dit XML-sitemap. Crawlere bruger dette til at finde webadresser, de ellers kunne gå glip af.
  4. Gem og implementer: Download den genererede fil. Upload til roden af ​​dit domæne (så det vises på https://example.com/robots.txt). Bekræft ved at besøge denne URL i en browser.

Almindelige anvendelsestilfælde

Tekniske detaljer

Format: User-agent: <navn> efterfulgt af Tillad/Disallow-direktiver. * matcher alle bots. Specifikke navne (Googlebot, Bingbot) målretter mod specifikke crawlere. Flere User-agent blokke kan stable regler.

Disallow: <sti> blokerer stier, der starter med det givne præfiks. Disallow: / blocks the entire site. Disallow: /admin/ blokerer alt under /admin/. Efterfølgende skråstreg har betydning; Disallow: /admin (ingen skråstreg) matcher også /administrator.

Crawl-forsinkelse (i sekunder) anmoder om langsommere crawl. Sitemap (absolut URL) angiver dit sitemapplacering. # starter en kommentarlinje.

Bedste praksis

Ofte stillede spørgsmål

Kan jeg tilpasse det genererede output?
Ja. Værktøjet giver forskellige tilpasningsmuligheder for at skræddersy outputtet til dine specifikke behov. Juster indstillinger før generering, eller genskab med forskellige muligheder.
Er det genererede indhold gratis at bruge?
Ja. Alt, hvad du genererer med dette værktøj, kan du bruge til personlige, uddannelsesmæssige eller kommercielle formål uden nogen begrænsninger eller tilskrivningskrav.
Kræver dette en konto?
Nej. Værktøjet er klar til brug med det samme uden tilmelding, ingen e-mail og ingen registrering. Du skal bare åbne siden og begynde at generere.
Holdes mine inputdata private?
Ja. Al behandling foregår i din browser. Dine inputdata og genererede output sendes aldrig til nogen ekstern server.
Hvordan blokerer jeg én bot, men tillader andre?
Separate User-agent blokke. User-agent: BadBot efterfulgt af Disallow: / blokerer BadBot. User-agent: * med Tillad: / tillader andre.
Er robots.txt skelnen mellem store og små bogstaver?
Stimatching skelner mellem store og små bogstaver. Disallow: /Admin matcher ikke /admin. Match det faktiske tilfælde af dine webadresser.
Forsinker Crawl-delay faktisk Google?
Google respekterer ikke Crawl-delay. Det respekterer indstillinger for gennemgangshastighed i Search Console. Andre crawlere (Bing, Yandex) respekterer Crawl-forsinkelse.
Er mine data uploadet?
Nej. Generering sker i din browser.