Đã bao giờ bạn hình dung làm sao một robot của công cụ tìm kiếm có thể phân tích dữ liệu của một website để index (lập chỉ mục) không?
Bạn đang sở hữu một website WordPress? Đôi lúc bạn muốn Googlebot nhanh index trang web của bạn hoặc không index một trang cụ thể nào đó? Vậy làm cách nào bây giờ?
Mình có thể lập tức trả lời cho bạn: Tạo file robots.txt cho WordPress ngay và luôn!
File robots.txt đóng vai trò như một công cụ thiết yếu để quản lý website và tối ưu hóa SEO. Nó trở thành điểm tiếp xúc đầu tiên giữa website của bạn và các “con bọ” tìm kiếm, giúp bạn đưa ra chỉ dẫn về khu vực chúng được và không được “ghé thăm”.
Sử dụng robots.txt hợp lý giúp ngăn chặn việc lập chỉ mục các nội dung trùng lặp hoặc không thật sự quan trọng, nhờ đó tập trung hiệu quả “crawl budget” vào các trang quan trọng hơn. Tuy nhiên, nếu cấu hình sai có thể vô tình khiến nội dung quan trọng bị loại khỏi công cụ tìm kiếm, tác động tiêu cực đến SEO.
Để hiểu về file robots.txt và cách thức tạo, mình sẽ mang lại cho bạn bài viết cực ích sau đây.
Bài viết này sẽ hướng dẫn cho bạn:
- Hiểu rõ khái niệm file robots.txt là gì?
- Cấu trúc cơ bản của một file robots.txt
- Có những lưu ý nào khi tạo lập robots.txt WordPress
- Tại sao phải cần robots.txt cho website của bạn
- Cách tạo lập 1 file hoàn chỉnh cho web của bạn
Bắt đầu tìm hiểu nhé!
File robots.txt là gì?
Robots.txt là một tệp văn bản có dạng .txt, được sử dụng để hướng dẫn các công cụ tìm kiếm về cách thu thập dữ liệu trên website. Tệp này quy định những phần nào của trang web nên hoặc không nên được thu thập và lập chỉ mục. Nó được đặt tại thư mục gốc của website.
Robots.txt đóng vai trò quan trọng trong việc quản lý sự truy cập của các bot tìm kiếm đến nội dung của website. Bằng cách chỉ định các đường dẫn cụ thể mà bot không nên truy cập, nó giúp bảo vệ các trang riêng tư và tối ưu hóa quá trình thu thập dữ liệu. Điều này giúp tăng hiệu quả SEO và đảm bảo rằng các trang quan trọng được ưu tiên.
Tệp robots.txt giúp kiểm soát lưu lượng bot công cụ tìm kiếm truy cập, bảo vệ thông tin và tăng tốc độ lập chỉ mục của các trang quan trọng.
Việc tạo File robots.txt cho website giúp bạn kiểm soát việc truy cập của các con Bots đến các khu vực nhất định trên trang web. Điều này không chỉ cải thiện hiệu suất trang web mà còn giúp tối ưu hóa trải nghiệm người dùng và thứ hạng tìm kiếm, việc tạo file robots.txt vẫn thật sự hữu ích bởi nhiều lí do:
- Ngăn chặn nội dung trùng lặp (Duplicate Content) xuất hiện trong website
- Giữ một số phần của trang ở chế độ riêng tư
- Giữ các trang kết quả tìm kiếm nội bộ không hiển thị trên SERP
- Xác định vị trí sitemap (XML) của website cho các công cụ tìm kiếm.
- Ngăn các công cụ của Google Index một số tệp nhất định trên trang web của bạn (hình ảnh, PDF, …)
- Dùng lệnh Crawl-delay để cài đặt thời gian. Điều này sẽ ngăn việc máy chủ của bạn bị quá tải khi các trình thu thập dữ liệu tải nhiều nội dung cùng một lúc.
Nếu bạn không muốn ngăn các Web Crawler tiến hành thu thập dữ liệu từ website thì bạn hoàn toàn không cần tạo robots.txt.
Cú pháp của file robots.txt
Các cú pháp được xem là ngôn ngữ riêng của các tập tin robots.txt. Có 5 thuật ngữ phổ biến mà bạn sẽ bắt gặp trong một file robots.txt. Chúng bao gồm:
User-agent: Phần này là tên của các trình thu thập, truy cập dữ liệu web. (ví dụ: Googlebot, Bingbot,…)Disallow: Được sử dụng để thông báo cho các User-agent không thu thập bất kì dữ liệu URL cụ thể nào. Mỗi URL chỉ được sử dụng 1 dòng Disallow.Allow(chỉ áp dụng cho bọ tìm kiếm Googlebot): Lệnh thực hiện thông báo cho Googlebot rằng nó sẽ truy cập một trang hoặc thư mục con. Mặc dù các trang hoặc các thư mục con của nó có thể không được phép.Crawl-delay: Thông báo cho các Web Crawler biết rằng nó phải đợi bao nhiêu giây trước khi tải và thu thập nội dung của trang. Tuy nhiên, lưu ý rằng bọ tìm kiếm Googlebot không thừa nhận lệnh này. Bạn cài đặt tốc độ thu thập dữ liệu trong Google Search Console.Sitemap: Được sử dụng để cung cấp các vị trí của bất kì Sitemap XML nào được liên kết với URL này. Lưu ý lệnh này chỉ được hỗ trợ bởi công cụ Google, Ask, Bing và Yahoo.
Pattern – Matching
Trên thực tế các file robots.txt WordPress khá phức tạp để có thể chặn hoặc cho phép các con bot vì chúng cho phép sử dụng tính năng Pattern-Matching để bao quát một loạt các tùy chọn của URL.
Tất cả các công cụ của Google và Bing cho phép sử dụng 2 biểu thức chính để xác định các trang hoặc thư mục con mà SEO muốn loại trừ. Hai kí tự này là dấu hoa thị (*) và ký hiệu đô la ($).
*là kí tự đại diện cho bất kì chuỗi kí tự nào – Có nghĩa là nó được áp dụng cho mọi loại Bots của các công cụ Google.$là kí tự khớp với phần cuối của URL.
Định dạng cơ bản của file robots.txt
Tệp robots.txt có định dạng cơ bản sau:
User-agent:
Disallow:
Allow:
Crawl-delay:
Sitemap:Tuy nhiên, bạn vẫn có thể lược bỏ các phần Crawl-delay và Sitemap. Đây là định dạng cơ bản của robots.txt WordPress hoàn chỉnh. Tuy nhiên trên thực tế thì file robots.txt chứa nhiều dòng User-agent và nhiều chỉ thị của người dùng hơn.
Chẳng hạn như các dòng lệnh: Disallow, Allow, Crawl-delay, … Trong file robots.txt, bạn chỉ định cho nhiều con bot khác nhau. Mỗi lệnh thường được viết riêng biệt cách nhau bởi 1 dòng.
Trong một file robots.txt WordPress bạn có thể chỉ định nhiều lệnh cho các con bot bằng cách viết liên tục không cách dòng. Tuy nhiên trong trường hợp một file robots.txt có nhiều lệnh đối với 1 loại bot thì mặc định bot sẽ làm theo lệnh được viết rõ và đầy đủ nhất.
File robots.txt chuẩn
Để chặn tất cả các Web Crawler không được thu thập bất kì dữ liệu nào trên website bao gồm cả trang chủ. Chúng ta hãy sử dụng cú pháp sau:
User-agent: *
Disallow: /Để cho phép tất cả các trình thu thập thông tin truy cập vào tất cả các nội dung trên website bao gồm cả trang chủ. Chúng ta hãy sử dụng cú pháp sau:
User-agent: *
Disallow: Để chặn trình thu thập, tìm kiếm thông tin của Google (User-agent: Googlebot) không thu thập bất kì trang nào có chứa chuỗi URL www.example.com/example-subfolder/. Chúng ta hãy sử dụng cú pháp sau:
User-agent: Googlebot
Disallow: /example-subfolder/Để chặn trình thu thập thông tin của Bing (User-agent: Bing) tránh thu thập thông tin trên trang cụ thể tại www.example.com/example-subfolder/blocked-page. Chúng ta hãy sử dụng cú pháp sau:
User-agent: Bingbot
Disallow: /example-subfolder/blocked-page.htmlVí dụ cho file robots.txt chuẩn
Dưới đây là ví dụ về tệp robots.txt hoạt động cho trang web www.example.com:
User-agent: *
Disallow: /wp-admin/
Allow: /
Sitemap: https://www.example.com/sitemap_index.xmlTheo bạn, cấu trúc file robots.txt có ý nghĩa như thế nào? Để tôi giải thích. Điều này chứng tỏ bạn cho phép toàn bộ các công cụ của Google theo link www.example.com/sitemap_index.xml để tìm đến file robots.txt và phân tích. Cùng index toàn bộ các dữ liệu trong các trang trên website của bạn ngoại trừ trang www.example.com/wp-admin/.
Đừng quên đăng ký học thử ngay 3 ngày miễn phí khóa Entity Mastermind – Năng cấp kỹ năng SEO là gì giúp bạn X10 Organic Traffic sau 6 tháng.
Cách Submit File Robots.txt lên Công cụ Tìm kiếm
Mặc dù không bắt buộc, việc submit file robots.txt giúp đẩy nhanh quá trình thu thập dữ liệu của các công cụ tìm kiếm (search engine) cho website của bạn. Việc submit giúp:
- Xác định và sửa lỗi nhanh chóng trong file robots.txt.
- Giúp các công cụ tìm kiếm hiểu rõ cấu trúc website và nội dung bạn muốn được lập chỉ mục.
Các bước submit file robots.txt
1. Sử dụng Google Search Console:
- Truy cập Google Search Console và đăng nhập bằng tài khoản Google quản trị website.
- Chọn tab “Crawl”.
- Nhấp vào “Robots.txt Tester”.
- Nhập URL website của bạn và nhấp vào “Kiểm tra”.
- Nếu file robots.txt tồn tại, Google Search Console sẽ hiển thị nội dung của file.
- Nhấp vào “Submit” để submit file robots.txt.
2. Sử dụng Bing Webmaster Tools:
- Truy cập Bing Webmaster Tools và đăng nhập bằng tài khoản Microsoft quản trị website.
- Chọn tab “Crawl”.
- Nhấp vào “Robots.txt”.
- Nhập URL website của bạn và nhấp vào “Submit”.
Những hạn chế của file robots.txt
1. Một số trình duyệt tìm kiếm không hỗ trợ các lệnh trong tệp robots.txt
Không phải công cụ tìm kiếm nào cũng sẽ hỗ trợ các lệnh trong tệp robots.txt, vậy nên để bảo mật dữ liệu, cách tốt nhất bạn nên làm là đặt mật khẩu cho các tệp riêng tư trên máy chủ.
2. Mỗi trình dữ liệu có cú pháp phân tích dữ liệu riêng
Thông thường đối với các trình dữ liệu uy tín sẽ tuân theo quy chuẩn của các lệnh trong tệp robots.txt. Nhưng mỗi trình tìm kiếm sẽ có cách giải trình dữ liệu khác nhau, một số trình sẽ không thể hiểu được câu lệnh cài trong tệp robots.txt. Vậy nên, các web developers phải nắm rõ cú pháp của từng công cụ thu thập dữ liệu trên website.
3. Bị tệp robots.txt chặn nhưng Google vẫn có thể index
Cho dù trước đó bạn đã chặn một URL trên website của mình nhưng URL đó vẫn còn xuất hiện thì lúc này Google vẫn có thể Crawl và index cho URL đó của bạn.
Bạn nên xóa URL đó trên website nếu nội dung bên trong không quá quan trọng để bảo mật cao nhất. Bởi vì nội dung trong URL này vẫn có thể xuất hiện khi ai đó tìm kiếm chúng trên Google.
Một số lưu ý khi sử dụng tệp robots.txt
- Việc chỉ định các lệnh cho từng User-agent là không cần thiết, bởi vì hầu hết các User-agent đều từ một công cụ tìm kiếm và đều tuân theo một quy tắc chung.
- Tuyệt đối không được dùng file robots.txt để chặn các dữ liệu riêng tư như thông tin người dùng vì Googlebot sẽ bỏ qua các lệnh trong tệp robots.txt nên khả năng bảo mật không cao.
- Để bảo mật dữ liệu cho website cách tốt nhất là dùng mật khẩu riêng cho các tệp hoặc URL không muốn truy cập trên website. Tuy nhiên, bạn không nên lạm dụng các lệnh robots.txt vì đôi khi hiệu quả sẽ không cao như mong muốn.
File robots.txt hoạt động như thế nào?
Các công cụ tìm kiếm có 2 nhiệm vụ chính:
- Crawl (cào/ phân tích) dữ liệu trên trang web để khám phá nội dung
- Index nội dung đó để đáp ứng yêu cầu cho các tìm kiếm của người dùng
Để crawl được dữ liệu của website thì các công cụ sẽ đi theo các liên kết từ trang này đến trang khác. Cuối cùng, nó thu thập được dữ liệu thông qua hàng tỷ trang web khác nhau. Quá trình crawl dữ liệu này còn được biết đến với tên khác là “Spidering”.
Sau khi đến một trang web, trước khi spidering thì các con bot của công cụ Google sẽ tìm các file robots.txt WordPress. Nếu nó tìm thấy được 1 tệp robots.txt thì nó sẽ đọc tệp đó đầu tiên trước khi tiến hành các bước tiếp theo.
File robots.txt sẽ chứa các thông tin về cách các công cụ của Google nên thu thập dữ liệu của website. Tại đây các con bot này sẽ được hướng dẫn thêm nhiều thông tin cụ thể cho quá trình này.
Nếu tệp robots.txt không chứa bất kì chỉ thị nào cho các User-agent hoặc nếu bạn không tạo file robots.txt cho website thì các con bots sẽ tiến hành thu thập các thông tin khác trên web.
File robots.txt nằm ở đâu trên một website?
Khi bạn tạo website WordPress, nó sẽ tự động tạo ra một file robots.txt đặt ngay bên dưới thư mục gốc của server.
Ví dụ, nếu site của bạn đặt trong thư mục gốc của địa chỉ gtvseo.com, bạn sẽ có thể truy cập file robots.txt ở đường dẫn gtvseo.com/robots.txt, kết quả ban đầu sẽ tương tự như sau:
User-agent: *
Disallow: /wp-admin/
Disallow: /wp-includes/Như tôi đã nói ở trên, phần sau User-agent: dấu * có nghĩa là quy tắc được áp dụng cho mọi loại bots trên khắp nơi trên website. Trong trường hợp này, file này sẽ nói cho bots biết là chúng không được phép vào trong file thư mục wp-admin và wp-includes. Rất hợp lý phải không, vì 2 thư mục này chứa rất nhiều file thông tin nhạy cảm.
Hãy nhớ đây là một file ảo, do WordPress tự thiết lập mặc định khi cài đặt và không chỉnh sửa được (mặc dù nó vẫn hoạt động). Thường thì, vị trí file robots.txt WordPress chuẩn được đặt trong thư mục gốc, thường được gọi là public_html và www (hoặc tên website). Và để tạo file robots.txt cho riêng bạn thì bạn cần tạo một file mới để thay thế file cũ đặt trong thư mục gốc đó.
Ở phần bên dưới, tôi sẽ hướng dẫn bạn nhiều cách để tạo mới file robots.txt cho WordPress rất dễ dàng. Nhưng trước tiên, hãy nghiên cứu về các quy tắc bạn nên sử dụng trong file này.
Làm thế nào để kiểm tra website có file robots.txt không?
Nếu bạn đang băn khoăn không biết website của mình có tệp robots.txt không. Hãy nhập Root Domain của bạn, sau đó thêm /robots.txt vào cuối URL. Nếu bạn không có trang .txt xuất hiện, thì chắc chắn website bạn hiện không tạo robots.txt cho WordPress rồi. Rất đơn giản! Tương tự, bạn có thể kiểm tra website của tôi gtvseo.com có tạo file robots.txt hay không bằng cách như trên:
Nhập Root Domain (gtvseo.com) > chèn /robots.txt vào cuối (kết quả là gtvseo.com/robots.txt) > Nhấn Enter. Và đợi kết quả là biết ngay thôi!
Quy tắc nào cần được bổ sung vào trong file robots.txt WordPress?
Cho đến nay, tất cả đều xử lý một quy tắc tại một thời điểm. Nhưng nếu bạn muốn áp dụng các quy tắc khác nhau cho các bot khác nhau thì sao?
Bạn chỉ cần thêm từng bộ quy tắc trong phần khai báo User-agent cho mỗi bot.
Ví dụ: Nếu bạn muốn tạo một quy tắc áp dụng cho tất cả các bot và một quy tắc khác chỉ áp dụng cho Bingbot, bạn có thể thực hiện như sau:
User-agent: *
Disallow: /wp-admin/
User-agent: Bingbot
Disallow: /Ở đây, tất cả các bot sẽ bị chặn truy cập / wp-admin / nhưng Bingbot sẽ bị chặn truy cập toàn bộ trang web của bạn.
3 Cách tạo file robots.txt WordPress đơn giản
Nếu sau khi kiểm tra, bạn nhận thấy website của mình không có tệp robots.txt hay đơn giản là bạn đang muốn thay đổi tệp robots.txt của mình. Hãy tham khảo 3 cách tạo robots.txt cho WordPress dưới đây:
1. Sử dụng Yoast SEO
Bạn có thể chỉnh sửa hoặc tạo file robots.txt cho WordPress trên chính WordPress Dashboard với vài bước đơn giản. Đăng nhập vào website của bạn, khi đăng nhập vào bạn sẽ thấy giao diện của trang Dashboard.
Nhìn phía bên trái màn hình, click vào SEO > Tools > File editor.
Tính năng file editor sẽ không xuất hiện nếu WordPress của bạn vẫn chưa được kích hoạt trình quản lý chỉnh sửa file. Do vậy hãy kích hoạt chúng thông qua FTP (File Transfer Protocol – Giao thức truyền tập tin).
Lúc này bạn sẽ thấy mục robots.txt và .htaccess file – đây là nơi giúp bạn tạo file robots.txt đấy.
2. Qua bộ Plugin All in One SEO
Hoặc bạn có thể sử dụng bộ Plugin All in One SEO để tạo file robots.txt WordPress nhanh chóng. Đây cũng là một plugin tiện ích cho WordPress – Đơn giản, dễ sử dụng.
Để tạo file robots.txt WordPress, bạn phải đến giao diện chính của Plugin All in One SEO Pack. Chọn All in One SEO > Features Manager > Nhấp Active cho mục robots.txt
Lúc này, trên giao diện sẽ xuất hiện nhiều tính năng thú vị:
Và khi đó, mục robots.txt sẽ xuất hiện như một tab mới trong thư mục lớn All in One SEO. Bạn có thể tạo lập cũng như điều chỉnh file robots.txt WordPress tại đây.
Tuy nhiên, bộ plugin này có một chút khác biệt so với Yoast SEO tôi vừa đề cập ở trên.
All in One SEO làm mờ đi thông tin của file robots.txt thay vì bạn được chỉnh sửa file như công cụ Yoast SEO. Điều này có thể khiến bạn hơi bị động một chút khi chỉnh sửa file robots.txt WordPress. Tuy nhiên, tích cực mà nói, yếu tố này sẽ giúp bạn hạn chế thiệt hại cho website của mình. Đặc biệt một số Malware bots sẽ gây hại cho website mà bạn không ngờ tới.
3. Tạo rồi upload file robots.txt qua FTP
Nếu bạn không muốn sử dụng plugin để tạo file robots.txt WordPress thì tôi có 1 cách này cho bạn – Tự tạo file robots.txt thủ công cho WordPress của mình.
Bạn chỉ mất vài phút để tạo file robots.txt WordPress này bằng tay. Sử dụng Notepad hoặc Textedit để tạo mẫu file robots.txt WordPress theo Rule tôi đã giới thiệu ở đầu viết. Sau đó upload file này qua FTP không cần sử dụng plugin, quá trình này rất đơn giản không tốn bạn quá nhiều thời gian đâu.
Một số quy tắc khi tạo file robots.txt
- Để được các con bot tìm thấy thì các file robots.txt WordPress phải được đặt trong các thư mục cấp cao nhất của trang web.
- Txt phân biệt chữ hoa và chữ thường. Vì thế tệp phải được đặt tên là robots.txt. (không phải Robots.txt hay robots.TXT, …)
- Không nên đặt /wp-content/themes/ hay /wp-content/plugins/ vào mục Disallow. Điều đó sẽ cản trở các công cụ nhìn nhận chính xác về giao diện blog hay website của bạn.
- Một số User-agent chọn cách bỏ qua các file robots.txt chuẩn của bạn. Điều này khá phổ biến với các User-agent bất chính như:
- Malware robots (bot của các đoạn mã độc hại)
- Các trình Scraping (quá trình tự thu thập thông tin) địa chỉ Email
- Các tệp robots.txt thường có sẵn và được công khai trên web. Bạn chỉ cần thêm /robots.txt vào cuối bất kì Root Domain để xem các chỉ thị của trang web đó. Điều này có nghĩa là bất kì ai cũng thấy các trang bạn muốn hoặc không muốn crawl. Vì vậy đừng sử dụng các tệp này để ẩn thông tin cá nhân của người dùng.
- Mỗi Subdomain trên một một Root Domain sẽ sử dụng các file robots.txt riêng biệt. Điều này có nghĩa là cả blog.example.com và example.com nên có các tệp robots.txt riêng (blog.example.com/robots.txt và example.com/robots.txt). Tóm lại, đây được xem là cách tốt nhất để chỉ ra vị trí của bất kì sitemaps nào được liên kết với domain ở cuối tệp robots.txt.
Đọc thêm: 13 Lỗi gây “SEO mãi không lên TOP”
Một số lưu ý khi sử dụng file robots.txt
Hãy đảm bảo rằng bạn không chặn bất kì nội dung hoặc phần nào trên trang web mà bạn muốn Google index.
Các liên kết trên trang bị chặn bởi việc robots.txt sẽ không được các bot theo dõi. Trừ khi các link này có liên kết với các trang khác (các trang không bị chặn bởi robots.txt, Meta Robots,…). Nếu không, các tài nguyên được liên kết có thể sẽ không được thu thập và lập chỉ mục.
Link juice sẽ không được truyền từ các trang bị chặn đến các trang đích. Vì thế nếu muốn dòng sức mạnh Link juice truyền qua các trang này thì bạn hãy sử dụng một phương pháp khác thay vì tạo robots.txt WordPress.
Không nên sử dụng file robots.txt để ngăn dữ liệu nhạy cảm (như thông tin người dùng riêng tư) xuất hiện trong kết quả SERP. Bởi vì trang web chứa thông tin cá nhân này có thể liên kết với nhiều trang web khác. Do đó các con bot sẽ bỏ quá các chỉ thị của tệp robots.txt trên Root Domain hay trang chủ của bạn, nên trang web này vẫn có thể được lập chỉ mục.
Nếu bạn muốn chặn trang web này khỏi các kết quả tìm kiếm, hãy sử dụng một phương pháp khác thay vì tạo file robots.txt cho WordPress như dùng mật khẩu bảo vệ hay Noindex Meta Directive. Một số công cụ tìm kiếm có rất nhiều User-agent. Chẳng hạn, Google sử dụng Googlebot cho các tìm kiếm miễn phí và Googlebot-Image cho các tìm kiếm hình ảnh.
Hầu hết các User-agent từ cùng một công cụ đều tuân theo một quy tắc. Do đó bạn không cần chỉ định các lệnh cho từng User-agent. Tuy nhiên việc làm này vẫn có thể giúp bạn điều chỉnh được cách Index nội dung trang web.
Các công cụ tìm kiếm sẽ lưu trữ nội dung file robots.txt WordPress. Tuy nhiên nó vẫn thường cập nhật nội dung trong bộ nhớ cache ít nhất một lần một ngày. Nếu bạn thay đổi tệp và muốn cập nhật tệp của mình nhanh hơn thì hãy sử dụng ngay chức năng Gửi của Trình kiểm tra tệp robots.txt.
Câu hỏi thường gặp về robots.txt
Dưới đây là một số câu hỏi thường gặp, có thể là những thắc mắc của bạn về robots.txt bây giờ:
Kích thước tối đa của file robots.txt là bao nhiêu?
500 kilobyte (khoảng).
File robots.txt WordPress nằm ở đâu trên website?
Tại vị trí: domain.com/robots.txt.
Làm cách nào để chỉnh sửa robots.txt WordPress?
Bạn có thể thực hiện theo cách thủ công hoặc sử dụng một trong nhiều plugin WordPress SEO như Yoast cho phép bạn chỉnh sửa robots.txt từ WordPress backend.
Điều gì xảy ra nếu Disallow vào nội dung Noindex trong robots.txt?
Google sẽ không bao giờ thấy lệnh Noindex vì nó không thể Crawl dữ liệu trang.
Tôi dùng cùng một tệp robots.txt cho nhiều trang web. Tôi có thể dùng một URL đầy đủ thay cho một đường dẫn tương đối được không?
Không, các lệnh trong tệp robots.txt (ngoại trừ mã Sitemap:) chỉ áp dụng cho các đường dẫn tương đối.
Làm cách nào để tôi có thể tạm ngừng toàn bộ hoạt động thu thập dữ liệu trang web của mình?
Bạn có thể tạm ngừng toàn bộ hoạt động thu thập dữ liệu bằng cách trả về một mã kết quả HTTP 503 cho mọi URL, bao gồm cả tệp robots.txt. Bạn không nên thay đổi tệp robots.txt để chặn hoạt động thu thập dữ liệu.
Làm thế nào để chặn tất cả các Web Crawler?
Tất cả bạn cần làm là truy cập Settings > Reading và chọn ô bên cạnh tùy chọn Search Engine Visibility.
Khi đã được chọn, WordPress thêm dòng này vào tiêu đề của trang web của bạn:
meta name='robots' content='noindex,follow'WordPress cũng thay đổi file robots.txt của trang web của bạn và thêm những dòng này:
User-agent: *
Disallow: /Những dòng yêu cầu các robot (các web crawler) không index các trang của bạn. Tuy nhiên, nó hoàn toàn phụ thuộc vào việc các công cụ tìm kiếm chấp nhận yêu cầu này hay bỏ qua nó.
Chặn trình thu thập, tìm kiếm thông tin của Google:
Để chặn trình thu thập, tìm kiếm thông tin của Google (User-agent: Googlebot) không thu thập bất kỳ trang nào có chứa chuỗi URL www.example.com/example-subfolder/. Bạn hãy sử dụng cú pháp sau:
User-agent: Googlebot
Disallow: /example-subfolderChặn trình thu thập thông tin của Bing:
Bạn hãy sử dụng cú pháp sau:
User-agent: Bingbot
Disallow: /example-subfolder/blocked-page.htmlRobots.txt, Meta robot và X-robot khác nhau như thế nào?
Đầu tiên, robots.txt là một tệp văn bản trong khi Meta robot và X-robot là các Meta Directives. Ngoài ra, chức năng của 3 loại Robot này cũng hoàn toàn khác nhau.
Meta Robot là các đoạn mã cung cấp hướng dẫn cho trình thu thập thông tin về cách thu thập dữ liệu hoặc lập chỉ mục nội dung trang web.
Nó được đặt vào phầncủa trang web và trông giống như:
X-robot là một phần của tiêu đề HTTP được gửi từ máy chủ web. Không giống như thẻ meta robots, thẻ này không được đặt trong HTML của một trang (tức phầncủa trang web).
X-Robots được sử dụng để ngăn các công cụ tìm kiếm lập chỉ mục các loại tệp cụ thể như hình ảnh hoặc PDF, ngay cả đối với các tệp không phải HTML.
Bất kỳ lệnh nào dùng được trong thẻ meta robots cũng có thể được chỉ định là một X-Robots.
Bằng cách cho phép bạn kiểm soát cách các loại tệp cụ thể được lập chỉ mục, X-Robots cung cấp sự linh hoạt hơn thẻ Meta robots và tệp robots.txt.
Việc tạo file robots.txt ra lệnh cho việc Index toàn bộ trang web hoặc thư mục. Trong khi đó thì Meta robot và X-robot có thể ra lệnh cho việc Index ở cấp độ trang riêng lẻ.
Kết luận
Bây giờ đến lượt bạn rồi đấy! Bạn đã biết file robots.txt là gì chưa? Đã kiểm tra xem website của mình đã có file robots.txt hay chưa. Tạo lập và chỉnh sửa file robots.txt WordPress theo ý của bạn nhằm hỗ trợ các con bot của công cụ tìm kiếm thu thập dữ liệu và index trang web của bạn nhanh chóng.
Nếu sau khi đọc xong bài viết chi tiết này mà bạn vẫn cảm thấy khó hiểu, bạn hoàn toàn có thể cân nhắc đăng ký khóa học hay chương trình đào tạo SEO TPHCM hoặc tham khảo gói dịch vụ seo tổng thể , dịch vụ SEO TPHCM tại GTV nhé! Chúng tôi sẵn sàng báo giá seo đến bạn cụ thể và chi tiết nhất!
Chúc bạn thành công!
Đọc tiếp:
- Quy trình SEO web: Các bước SEO website tăng hạng Google
- Hướng dẫn SEO website: Lộ trình học SEO chi tiết cho người mới!
- 8 Công thức viết content sáng tạo, không bao giờ lỗi thời
- Phương pháp viết content chuẩn SEO mới và hiệu quả 2023
- SEO On Page: 22 Tiêu chuẩn Tối ưu Onpage “thần tốc” 2023
- Link wheel: Công thức thu hút traffic và tăng tỉ lệ chuyển đổi
- Internal links là gì? 3 Chiến lược tối ưu liên kết nội bộ cho SEO
- Thẻ Meta là gì? 15 Cách viết thẻ Meta hiệu quả
- Outbound link là gì? 3 Điều về liên kết ngoài không phải ai cũng biết
- Cấu trúc 1 trang web: Tổng 15 tiêu chuẩn tối ưu chuẩn SEO
- Link URL là gì? 11 Tuyệt chiêu tạo URL thân thiện trong SEO
- Crawl là gì? Những yếu tố bạn cần biết về Web Crawler (2023)
- Sitemap là gì? Cách tạo Sitemap và 13 Mẹo tối ưu Sitemap cho website
- Cách thêm “Hreflang” cho website WordPress từ A-Z
- Keyword Cannibalization là gì? Cách phát hiện và xử lý tận gốc!
Bạn cảm thấy hoang mang với lượng kiến thức SEO dồn dập trên mạng như hiện nay? Một khoá học SEO chuyên nghiệp có lộ trình rõ ràng, bài bản sẽ cùng bạn vượt qua cơn nhức đầu này!
Xem ngay:
- Khoá học SEO Fundamental – Thành thục SEO trong 29 ngày!
- 3 Ngày học thử khoá học SEO Online miễn phí Entity Mastermind!
