SEO怎么禁止百度蜘蛛爬某个文件夹

重点导读：禁止搜索引擎抓取网站页面，最常用的就是使用robots文件，禁止百度蜘蛛爬行和抓取某个文件夹，可以用下面这段代码： User-agent: Baiduspider Disallow: wenjianjia/

问题：SEO怎么禁止百度蜘蛛爬某个文件夹？

回答：禁止搜索引擎抓取网站页面，最常用的就是使用robots文件，禁止百度蜘蛛爬行和抓取某个文件夹，可以用下面这段代码：

User-agent: Baiduspider

Disallow: wenjianjia/

这里简单解释下几个字段概念：

Baiduspider：这个是百度搜索引擎蜘蛛；

Disallow：这表示禁止，不需要蜘蛛抓取；

wenjianjia/：这里替换你要禁止百度蜘蛛爬行的文件夹名，这里要注意下，如果在文件夹名称的后面加了 / ，就表示禁止抓取文件夹下面的页面，比如说www.test.com/wenjianjia/abc.html，但是www.test.com/wenjianjia/这个栏目页面还是会被抓取的。所以，想要www.test.com/wenjianjia/也不被抓取的话，就要去掉后面的 / ，也就是下面这样的代码：

User-agent: Baiduspider

Disallow: wenjianjia

关于SEO怎么禁止百度蜘蛛爬某个文件夹的问题，本文就简单的介绍到这里，总之使用robots文件是比较方便的，大家可以使用上面的代码，修改成自己的文件夹名称即可。如果要禁止两个文件夹，那就多复制一行，比如：

User-agent: Baiduspider

Disallow: wenjianjia_one/

Disallow: wenjianjia_two/

本文 已帮助 2911 人！

本站内容大部分由易速博客原创，少部分内容来源于网络，如有侵权请与我们联系，我们会及时删除！
责任编辑:易速 | 发布时间:2021年12月02日08点31分19秒 | 本文永久地址为 http://seo.dfkj666.com/seo/2161.html

名称(*)

邮箱

网址

验证码(*)

正文(*)

◎欢迎参与讨论，请在这里发表您的看法、交流您的观点。