robots.txt 中,我要屏蔽全部蜘[2026/10/3 11:20:44]
 

查看: 2  |  回复: 0
 robots.txt 中,我要屏蔽全部蜘蛛,只保留 baidu.combing.com google.com 的蜘蛛怎么做?
楼主
发表于 今天 10:04 

robots.txt:

# 先屏蔽所有蜘蛛
User-agent: *
Disallow: /

# 允许百度蜘蛛
User-agent: Baiduspider
Allow: /

# 允许必应Bing蜘蛛
User-agent: bingbot
Allow: /

# 允许谷歌蜘蛛
User-agent: Googlebot
Allow: /


您需要登录后才可以回帖 登录 | 立即注册
【本版规则】请勿发表违反国家法律的内容,否则会被冻结账号和删贴。
用户名: 立即注册
密码:
2020-2026 MaNongKu.com