Termo técnico Voltar

Robots.txt

Rastreio

O Robots.txt é o ficheiro que orienta os bots sobre quais áreas podem rastrear e quais é que é conveniente evitar. É útil, mas uma regra mal colocada pode esconder partes importantes da web.

Robots.txt
Importa porque uma única linha pode abrir ou bloquear grandes partes do site. Bem usado, melhora a ordem do rastreio; mal usado, pode deixar fora conteúdo que devia ser descoberto.
  • Rever quais pastas são permitidas e quais bloqueadas.
  • Verificar que os recursos necessários para interpretar a página não sejam incluídos.
  • Incluir o sitemap quando útil.
  • Probar as regras após mudanças importantes.