Gratis omformer

robots.txt Generator

Generer en robots.txt-fil for nettstedet ditt umiddelbart. Legg til brukeragentregler, tillat/ikke tillat baner, gjennomsøkingsforsinkelse og nettkart-URL. Gratis, sanntids robots.txt-generator.

Legg til regel

Generert robots.txt

Om dette verktøyet

robots.txt er en ren tekstfil i roten av et nettsted som forteller søkerobotene hvilke stier de kan besøke og hvilke de bør unngå. Formatet dateres til 1994 og støttes av praktisk talt alle søkemotorer og veloppdragne robotsøkeprogrammer. Filen er rådgivende – ondsinnede søkeroboter ignorerer den – men legitime søkeroboter (Google, Bing osv.) respekterer direktivene på en pålitelig måte.

Vanlige bruksområder: blokkering av robotsøkeprogrammer fra administrasjonsområder (/wp-admin/, /admin/), ekskludering av fasetterte søkeadresseparametere som produserer duplikatinnhold, forhindre indeksering av iscenesettelses- eller utviklingsbaner, deklarere stedskartplassering og tillate spesifikke brukeragenter mens andre blokkerer. Filen leses ved starten av hver gjennomgangsøkt.

Denne generatoren bygger en syntaktisk korrekt robots.txt fra skjemainndata. Vanlige mønstre (tillat alle, blokker alle, blokker spesifikke baner) er maler; egendefinerte regler kan legges til per brukeragent. Utdataene går til /robots.txt i roten på nettstedet ditt.

Hvorfor bruke en robots.txt-generator

Håndskrivende robots.txt er utsatt for feil. Syntaksfeil (sensitivitet for store og små bokstaver, nøyaktig banetilpasning, rekkefølge av regler) produserer i det stille feil oppførsel – stier du mente å blokkere forblir gjennomsøkt, eller stier du ønsket indeksert blir ekskludert. En generator som produserer korrekt syntaks unngår disse fallgruvene.

robots.txt har også subtile interaksjoner med andre SEO-verktøy. Å ikke tillate en bane i robots.txt forhindrer ikke at den vises i søkeresultater (Google kan indeksere nettadressen uten å gjennomsøke den). meta noindex krever at siden gjennomsøkes først. Å vite hvilket verktøy du skal bruke for hvilken hensikt som betyr noe; generatoren kan veilede deg.

Slik bruker du det

Velg en mal, tilpass, distribuer.

  1. Velg en startmal: Tillat alle (standard gjennomgang-alt-stilling), Blokker alle (blokker alt fra indeksering) eller Tilpasset (start fra regler du angir).
  2. Legg til brukeragentregler: Ikke tillat spesifikke baner for alle søkeroboter, eller for spesifikke navngitte roboter (Googlebot, Bingbot, GPTBot). Hver brukeragentblokk har sitt eget sett med Tillat- og Ikke-tillat-direktiver.
  3. Legg til nettkart-URL: Ta med den absolutte URL-en til XML-nettkartet ditt. Crawlere bruker dette til å oppdage nettadresser de ellers kan gå glipp av.
  4. Lagre og distribuer: Last ned den genererte filen. Last opp til roten til domenet ditt (slik at det vises på https://example.com/robots.txt). Bekreft ved å gå til den nettadressen i en nettleser.

Vanlige brukstilfeller

Tekniske detaljer

Format: User-agent: <navn> etterfulgt av Allow/Disallow-direktiver. * samsvarer med alle roboter. Spesifikke navn (Googlebot, Bingbot) målretter mot spesifikke søkeroboter. Flere brukeragentblokker kan stable regler.

Disallow: <bane> blokkerer stier som starter med det gitte prefikset. Disallow: / blokkerer hele nettstedet. Disallow: /admin/ blokkerer alt under /admin/. Etterfølgende skråstrek betyr noe; Disallow: /admin (ingen skråstrek) samsvarer også med /administrator.

Crawl-delay (i sekunder) ber om langsommere crawl. Nettkart (absolutt URL) angir plassering av nettstedskart. # starter en kommentarlinje.

Beste praksis

Ofte stilte spørsmål

Kan jeg tilpasse den genererte utgangen?
Ja. Verktøyet gir ulike tilpasningsalternativer for å skreddersy resultatet til dine spesifikke behov. Juster innstillingene før generering, eller regenerer med forskjellige alternativer.
Er det genererte innholdet gratis å bruke?
Ja. Alt du genererer med dette verktøyet er ditt til å bruke til personlige, pedagogiske eller kommersielle formål uten noen restriksjoner eller krav til attribusjon.
Krever dette en konto?
Nei. Verktøyet er klart til bruk umiddelbart uten registrering, ingen e-post og ingen registrering. Bare åpne siden og begynn å generere.
Holdes inndataene mine private?
Ja. All behandling skjer i nettleseren din. Dine inndata og genererte utdata sendes aldri til noen ekstern server.
Hvordan blokkerer jeg én bot, men tillater andre?
Separate User-agent-blokker. User-agent: BadBot etterfulgt av Disallow: / blokkerer BadBot. User-agent: * med Tillat: / tillater andre.
Er robots.txt skiller mellom store og små bokstaver?
Banesamsvar skiller mellom store og små bokstaver. Disallow: /Admin samsvarer ikke med /admin. Match det faktiske tilfellet av nettadressene dine.
Forsinker Crawl-delay faktisk Google?
Google respekterer ikke Crawl-delay. Den respekterer innstillingene for gjennomsøkingshastighet i Search Console. Andre crawlere (Bing, Yandex) respekterer Crawl-forsinkelse.
Er dataene mine lastet opp?
Nei. Generering skjer i nettleseren din.