Robots.txt
RastreioO Robots.txt é o ficheiro que orienta os bots sobre quais áreas podem rastrear e quais é que é conveniente evitar. É útil, mas uma regra mal colocada pode esconder partes importantes da web.
O que significa Robots.txt
Robots.txt: Robots.txt é um ficheiro localizado na raiz do domínio que dá instruções de rastreio aos bots. Não é uma ferramenta de segurança, mas um guia para ordenar o percurso e evitar que os crawlers gastem recursos em áreas desnecessárias.
Área AISEO: Rastreio. Esta etiqueta ajuda a colocar o termo dentro do glossário e a entender se pertence a rastreio, semântica, desempenho, segurança, IA, acessibilidade ou certificação.
- Rever quais pastas são permitidas e quais bloqueadas.
- Verificar que os recursos necessários para interpretar a página não sejam incluídos.
- Incluir o sitemap quando útil.
- Probar as regras após mudanças importantes.