网站建设知识

网站建设 • 网站推广

从品牌网站建设到网络营销策划,从策略到执行的一站式服务

[SEO优化]如何防止假蜘蛛抓取内容?

来源:网站建设 | 2021-07-14 18:43:02

  高频率发布原创内容的网站很容易遭到虚假百度蜘蛛的攻击,以窃取网站原创内容!那么怎么分辨真假百度蜘蛛呢?分辨后又怎么去禁止虚假百度蜘蛛偷取网站内容呢?

  一、什么是假蜘蛛?

  搜索引擎爬虫我们称之为蜘蛛,假蜘蛛即伪装成搜索引擎的爬虫。目的就是掩人耳目的去爬取采集网站的内容。

  普通的爬虫很容易被站点发现屏蔽,对于搜索引擎蜘蛛站点都是没什么警惕心,希望多来抓取可以有效增加收录量和速度。

  二、如何鉴别假蜘蛛

  网站日志会记录所有访问ip的请求头即user-agent,通过修改蜘蛛的请求头为搜索引擎公布的蜘蛛的UA名。

  因此,我们光看日志是无法直接辨别真假蜘蛛的。大多数搜索引擎都是ip反查,比如我们通过windows电脑cmd中使用nslookp反查蜘蛛的ip能够获取到对应搜索引擎解析的为真蜘蛛,在这种方法下假蜘蛛无法遁形。

  但是问题是如果不能事实鉴别假蜘蛛,内容被采集走了在屏蔽也失去了意义。

  三、如何防止假蜘蛛抓取内容?

  1、添加蜘蛛白名单

  有些蜘蛛无法支持反查,我们可以把这类蜘蛛的ip段添加白名单,同时我们对于网站反查到的蜘蛛ip经过人工确定之后,也同样加入白名单。可以防止程序出错时误屏蔽蜘蛛,以及加快程序的响应速度。

  2、原创保护防采集

  对于其他的爬虫我们还是需要去检测同一个ip是否有大段时间大量访问的行为,对于异常ip我们可以使用验证码等方式验证,这也是基于我们拥有了通过ip鉴别蜘蛛的前提下,可以避免误伤搜索引擎的抓取任务采集。

  只要你的内容可以显示就可以有办法采集,要想完全避免是不可能的,是双方之间的一场博弈。

  以上就是《[SEO优化]如何防止假蜘蛛抓取内容?》的全部内容,仅供站长朋友们互动交流学习,SEO优化是一个需要坚持的过程,希望大家一起共同进步。

做网站 选禅诺网

多一份参考,总有益处

联系我们,获取专属《建站方案》及报价

咨询相关问题或预约面谈,可以通过以下方式与我们联系

业务热线:13710717775 / 微信咨询 + :13710717775