robots.txt Generator
Generer en robots.txt-fil for nettstedet ditt umiddelbart. Legg til brukeragentregler, tillat/ikke tillat baner, gjennomsøkingsforsinkelse og nettkart-URL. Gratis, sanntids robots.txt-generator.
Generer en robots.txt-fil for nettstedet ditt umiddelbart. Legg til brukeragentregler, tillat/ikke tillat baner, gjennomsøkingsforsinkelse og nettkart-URL. Gratis, sanntids robots.txt-generator.
robots.txt er en ren tekstfil i roten av et nettsted som forteller søkerobotene hvilke stier de kan besøke og hvilke de bør unngå. Formatet dateres til 1994 og støttes av praktisk talt alle søkemotorer og veloppdragne robotsøkeprogrammer. Filen er rådgivende – ondsinnede søkeroboter ignorerer den – men legitime søkeroboter (Google, Bing osv.) respekterer direktivene på en pålitelig måte.
Vanlige bruksområder: blokkering av robotsøkeprogrammer fra administrasjonsområder (/wp-admin/, /admin/), ekskludering av fasetterte søkeadresseparametere som produserer duplikatinnhold, forhindre indeksering av iscenesettelses- eller utviklingsbaner, deklarere stedskartplassering og tillate spesifikke brukeragenter mens andre blokkerer. Filen leses ved starten av hver gjennomgangsøkt.
Denne generatoren bygger en syntaktisk korrekt robots.txt fra skjemainndata. Vanlige mønstre (tillat alle, blokker alle, blokker spesifikke baner) er maler; egendefinerte regler kan legges til per brukeragent. Utdataene går til /robots.txt i roten på nettstedet ditt.
Håndskrivende robots.txt er utsatt for feil. Syntaksfeil (sensitivitet for store og små bokstaver, nøyaktig banetilpasning, rekkefølge av regler) produserer i det stille feil oppførsel – stier du mente å blokkere forblir gjennomsøkt, eller stier du ønsket indeksert blir ekskludert. En generator som produserer korrekt syntaks unngår disse fallgruvene.
robots.txt har også subtile interaksjoner med andre SEO-verktøy. Å ikke tillate en bane i robots.txt forhindrer ikke at den vises i søkeresultater (Google kan indeksere nettadressen uten å gjennomsøke den). meta noindex krever at siden gjennomsøkes først. Å vite hvilket verktøy du skal bruke for hvilken hensikt som betyr noe; generatoren kan veilede deg.
Velg en mal, tilpass, distribuer.
Format: User-agent: <navn> etterfulgt av Allow/Disallow-direktiver. * samsvarer med alle roboter. Spesifikke navn (Googlebot, Bingbot) målretter mot spesifikke søkeroboter. Flere brukeragentblokker kan stable regler.
Disallow: <bane> blokkerer stier som starter med det gitte prefikset. Disallow: / blokkerer hele nettstedet. Disallow: /admin/ blokkerer alt under /admin/. Etterfølgende skråstrek betyr noe; Disallow: /admin (ingen skråstrek) samsvarer også med /administrator.
Crawl-delay (i sekunder) ber om langsommere crawl. Nettkart (absolutt URL) angir plassering av nettstedskart. # starter en kommentarlinje.