robots.txt Gerador
Gere um arquivo robots.txt para seu site instantaneamente. Adicione regras de agente de usuário, caminhos permitidos/bloqueados, atraso de rastreamento e URL do sitemap. Gerador de robots.txt gratuito e em tempo real.
Gere um arquivo robots.txt para seu site instantaneamente. Adicione regras de agente de usuário, caminhos permitidos/bloqueados, atraso de rastreamento e URL do sitemap. Gerador de robots.txt gratuito e em tempo real.
robots.txt é um arquivo de texto simples na raiz de um site que informa aos rastreadores quais caminhos eles podem visitar e quais devem evitar. O formato data de 1994 e é suportado por praticamente todos os mecanismos de pesquisa e rastreadores bem comportados. O arquivo é consultivo – rastreadores maliciosos o ignoram – mas rastreadores legítimos (Google, Bing, etc.) honram suas diretivas de maneira confiável.
Usos comuns: bloquear rastreadores de áreas administrativas (/wp-admin/, /admin/), excluir parâmetros de URL de pesquisa facetada que produzem conteúdo duplicado, impedir a indexação de caminhos de teste ou desenvolvimento, declarar a localização do mapa do site e permitir agentes de usuário específicos enquanto bloqueia outros. O arquivo é lido no início de cada sessão de rastreamento.
Este gerador cria um robots.txt sintaticamente correto a partir das entradas do formulário. Padrões comuns (permitir todos, bloquear todos, bloquear caminhos específicos) são modelos; regras personalizadas podem ser adicionadas por agente de usuário. A saída vai para /robots.txt da raiz do seu site.
Escrever robots.txt à mão é propenso a erros. Erros de sintaxe (diferenciação de maiúsculas e minúsculas, correspondência exata de caminhos, ordem de regras) produzem silenciosamente um comportamento errado — os caminhos que você pretendia bloquear permanecem rastreados ou os caminhos que você queria indexar são excluídos. Um gerador que produza a sintaxe correta evita essas armadilhas.
O robots.txt também possui interações sutis com outras ferramentas de SEO. Proibir um caminho no robots.txt não impede que ele apareça nos resultados de pesquisa (o Google pode indexar o URL sem rastreá-lo); meta noindex requer que a página seja rastreada primeiro. Saber qual ferramenta usar para qual intenção é importante; o gerador pode guiá-lo.
Escolha um modelo, personalize e implante.
Formato: User-agent: <nome> seguido de diretivas Permitir/Proibir. * corresponde a todos os bots. Nomes específicos (Googlebot, Bingbot) têm como alvo rastreadores específicos. Vários blocos de agente de usuário podem empilhar regras.
Disallow: <path> bloqueia caminhos que começam com o prefixo fornecido. Não permitir: / bloqueia todo o site. Não permitir: /admin/ bloqueia qualquer coisa em /admin/. A barra final é importante; Não permitir: /admin (sem barra) também corresponde a /administrator.
O atraso do rastreamento (em segundos) solicita um rastreamento mais lento. Sitemap (URL absoluto) declara a localização do seu sitemap. # inicia uma linha de comentário.