roboti.txt Generator
Trenutačno generirajte datoteku robots.txt za svoju web stranicu. Dodajte pravila korisničkog agenta, dopustite/onemogućite staze, odgodu indeksiranja i URL karte web-lokacije. Besplatan generator robots.txt u stvarnom vremenu.
Trenutačno generirajte datoteku robots.txt za svoju web stranicu. Dodajte pravila korisničkog agenta, dopustite/onemogućite staze, odgodu indeksiranja i URL karte web-lokacije. Besplatan generator robots.txt u stvarnom vremenu.
robots.txt je obična tekstualna datoteka u korijenu web stranice koja govori indeksima koje staze mogu posjetiti, a koje bi trebali izbjegavati. Format datira iz 1994. godine i podržavaju ga gotovo sve tražilice i dobri alati za indeksiranje. Datoteka je savjetodavna — zlonamjerni alati za indeksiranje je ignoriraju — ali legitimni alati za indeksiranje (Google, Bing itd.) pouzdano poštuju njezine upute.
Uobičajene upotrebe: blokiranje indeksiranja iz administratorskih područja (/wp-admin/, /admin/), isključivanje parametara URL-a za fasetirano pretraživanje koji proizvode dvostruki sadržaj, sprječavanje indeksiranja probnih ili razvojnih staza, deklariranje lokacije na karti web-lokacije i dopuštanje određenih korisničkih agenata uz blokiranje ostalih. Datoteka se čita na početku svake sesije indeksiranja.
Ovaj generator izrađuje sintaktički ispravnu datoteku robots.txt od unosa obrasca. Uobičajeni uzorci (dopusti sve, blokiraj sve, blokiraj određene staze) su predlošci; prilagođena pravila mogu se dodati po korisničkom agentu. Izlaz ide u /robots.txt korijena vaše stranice.
Rukopis robots.txt podložan je pogreškama. Pogreške u sintaksi (osjetljivost velikih i malih slova, točno podudaranje putanje, redoslijed pravila) tiho proizvode pogrešno ponašanje — staze koje ste namjeravali blokirati ostaju indeksirane ili se staze koje ste htjeli indeksirati isključuju. Generator koji proizvodi ispravnu sintaksu izbjegava ove zamke.
robots.txt također ima suptilne interakcije s drugim SEO alatima. Onemogućavanje putanje u robots.txt ne sprječava njeno pojavljivanje u rezultatima pretraživanja (Google može indeksirati URL bez indeksiranja); meta noindex zahtijeva da se stranica najprije indeksira. Važno je znati koji alat koristiti za koju namjeru; generator vas može voditi.
Odaberite predložak, prilagodite, implementirajte.
Format: Korisnički agent: <ime> nakon čega slijede naredbe Dopusti/Zabrani. * odgovara svim botovima. Određeni nazivi (Googlebot, Bingbot) ciljaju na određene pretraživače. Višestruki blokovi korisničkih agenata mogu slagati pravila.
Disallow: <path> blokira staze koje počinju danim prefiksom. Disallow: / blokira cijelu stranicu. Disallow: /admin/ blokira sve pod /admin/. Kosa crta na kraju je važna; Disallow: /admin (bez kose crte) također odgovara /administratoru.
Odgoda indeksiranja (u sekundama) zahtijeva sporije indeksiranje. Sitemap (apsolutni URL) izjavljuje vašu lokaciju na karti web-mjesta. # započinje red komentara.