Hva er robots.txt?
En tekstfil som forteller søkemotorer hvilke deler av nettstedet de kan crawle. Plasseres i roten: https://din-side.no/robots.txt
Kobling til sitemap
Legg til Sitemap: https://din-side.no/sitemap.xml i robots.txt. Dette er en enkel måte å peke søkemotorer til sitemappen din.
Vanlige direktiver
User-agent: *— Gjelder alle botsAllow: /— Tillat altDisallow: /admin/— Blokker admin-område