Cấu hình Robots.txt chuẩn nhất cho Blogspot (Blogger)
Robot.txt là một dạng text chứa các câu lệnh để điều hướng cho các robot tìm kiếm của các công cụ tìm kiếm được phép và không được phép Index nội dung nào trên website.
Nội dung file robot.txt:
User-agent: Mediapartners-Google
Disallow:
User-agent: *
Allow: /
Disallow: /search
Disallow: /*?updated-max=*
Disallow: *archive.html
Sitemap: https://tenmiencuaban/feeds/posts/default?orderby=UPDATED
Disallow:
User-agent: *
Allow: /
Disallow: /search
Disallow: /*?updated-max=*
Disallow: *archive.html
Sitemap: https://tenmiencuaban/feeds/posts/default?orderby=UPDATED
Sitemap: https://www.tenmiencuaban.com/sitemap.xml

