Robots.txt là một loại tệp đặc trưng không phải là HTML hay bất cứ đồ vật gì tương tự. Mục đích của tệp robots.txt là để tặng các công cụ search biết content nào trên website của bạn có lẽ được các bot thu thập và lập chỉ mục.
Sitemap robots txt
Sitemap txt
Mục đích của file Robots.txt là gì? Khi các phương tiện tìm tìm thông báo về web của bạn, tệp Robots.txt có lẽ là nơi đầu tiên họ tìm kiếm. Tệp này cho các công cụ tìm biết những gì tốt nhất nên lập chỉ mục và những gì không nên lập chỉ mục. Bạn cũng thường hỗ trợ vị trí website của mình trong sơ đồ website XML. công cụ tìm gửi “chương trình”, “rô-bốt” hoặc “trình thu thập dữ liệu” để thu thập dữ liệu trang web của bạn, theo hướng dẫn trong tệp Robots.txt (nếu tệp “rô-bốt” không được gửi, phương tiện search sẽ không gửi ). .txt chỉ ra rằng điều này không thể lập chỉ mục). 
Sitemap robot
File Robots.txt nằm ở đâu? Tệp sơ đồ website robots.txt có thể nằm trong thư mục gốc. Bạn có thể thuận lợi tạo một tệp trống và đặt tên là Robots.txt. Điều này sẽ Hỗ trợ bạn giảm thiểu các lỗi website và hoàn thành đa số công việc của mình. công cụ tìm kiếm tìm nạp dữ liệu các trang web site đẹp. Ví dụ web site bạn là sieutocviet.com thì file robots sẽ là sieutocviet.com/robots.txt File Robots mặc định của wordpress:
User-agent: * Disallow: /wp-admin/ Disallow: /wp-includes/
Hoặc Bạn có thể tham khảo code này
User-agent: * Disallow: /wp-admin/ User-agent: * Allow: / Disallow: /*?* Disallow: /*/?* Sitemap: https://web.sieutocviet.com/sitemap.xml
