搜索引擎蜘蛛工作机制

我们都知道,我们已经建立了网站,通过百度蜘蛛抓取页面,包括进入搜索引擎索引库里面。但蜘蛛是通过什么原理掌握你的网站的内容的呢?
蜘蛛
第一个是深度抓取
深度优先爬是什么?蜘蛛抓取页面链接的时候会顺着你网站上的链接来抓取。一直抓取到完毕为止。这就是蜘蛛深度优先抓取的原则。

第二个是广度抓取
什么是广度抓取呢?蜘蛛会把你网站上的当前页面都抓取一次先,然后到下个页面的时候也是先抓取一个完整的页面上的url。如此的话,刚度抓取中,我们的网站外部链接就不能太多。如果太多,包括蜘蛛很难获取所有完。毕竟蜘蛛给你网站的时间是有限的。

第三个是种子站点抓取
什么是种子站点抓取?蜘蛛通常结合深度优先和广度优先来抓取。但各自有自己的特点,一般你的网站权重,蜘蛛将优先抓取。权重相反很低的网站,那么蜘蛛将采取广度优先的抓取方式。种子站点往往就是权重很高的网站,如好123这样的站点,所以如果想让你的页面快速被收录,你应该也想到了吧!

第四个是回访机制
什么是回访机制?就是蜘蛛会依据你网站的更新频率,网站的权重,来把握抓取的间隔
虽说百度的算法不停在改变,但是所做的东西都是围绕用户需求,只有的文章真正的解决用户需求,才能长远的走下去

搜索引擎蜘蛛工作机制》上有1条评论

发表评论

电子邮件地址不会被公开。