ví dụ về chặn botAhrefs |
C1 : Chặn bằng robots.txt
User-agent: AhrefsBot
Disallow: /Ngoài ra, mọi người có thể kiểm soát tần số của AhrefsBot đến trang web của mình bằng cách xác định sự chậm trễ tối thiểu chấp nhận được giữa hai yêu cầu liên tiếp từ bot như sau (trong robots.txt):
User-Agent: AhrefsBot
Crawl-Delay: 2
trong đó chú ý giá trị của tham số Crawl-Delay tính bằng giây
C2 : Hoặc Chặn bằng htaccess
#htaccess mod rewrite code
Options +FollowSymLinks -MultiViews
RewriteEngine On
RewriteBase /
RewriteCond %{HTTP_USER_AGENT} ^Rogerbot* [OR]
RewriteCond %{HTTP_USER_AGENT} ^Exabot* [OR]
RewriteCond %{HTTP_USER_AGENT} ^MJ12bot* [OR]
RewriteCond %{HTTP_USER_AGENT} ^Dotbot* [OR]
RewriteCond %{HTTP_USER_AGENT} ^Gigabot* [OR]
RewriteCond %{HTTP_USER_AGENT} ^AhrefsBot* [OR]
RewriteCond %{HTTP_USER_AGENT} ^BlackWidow* [OR]
RewriteRule ^(.*)$ <a>/</a> [L,R=301]
Đấy em viết hết rồi ạ,còn các nào nữa anh em bổ sung bên dưới
0 comments:
Post a Comment