中国IDC圈3月6日报道:通过对网站日志的分析,我们可以很好的判断我们的网站的健康程度,并且还可以看到蜘蛛抓取的记录以及用户的一些行为记录,这样数据对于我们来讲无疑是提升网站的一个关键,可以时刻的让我们看到网站的不足之处,从而进行改正。然而今天小编与大家分享的主要是蜘蛛抓取的行为,希望对各位站长有所帮助。

(一)蜘蛛访问的次数、停留时间以及抓取的数量。

从小标题中的三个小编提到的数据我们可以了解到下面几点信息:

1、平均每次抓取页面数=总抓取量/访问次数

2、单页抓取停留=每次停留/每次抓取

3、平均每次停留时间=总停留时间/访问次数

以上三点载自百度百科。

从这些数据中我们可以很好的看出百度蜘蛛在我们网站上的活跃度、是否亲和,以及我们网站内容抓取的深度等等有效的数据。当我们网站中总的访问频次、蜘蛛停留的时间,以及网站抓取程度的是否高,从这些都是可以看出我们网站是否受到蜘蛛的喜爱。并且在我们单页面的蜘蛛停留时间的长短也可以看出我们的文章页面是否受蜘蛛的喜爱。

小提示:如果你想要长期发展一个网站的话,小编建议各位定期的整理出网站数据报表,这样对我们网站的发展也会有着很好的帮助。

(二)网站目录蜘蛛抓取的统计。

通过网站日志的分析,可以很好的看出我们的哪些目录比较受蜘蛛的喜爱,蜘蛛经常抓取收录,并且给予的排名权重状况。并且我们可以通过这些数据能够发现很多问题,对于我们想要突出的栏目可以通过内部结构来进行指向,从而有效的增加栏目的权重和蜘蛛抓取的程度。对于那些我们不希望蜘蛛抓取的页面,也可以进行屏蔽。

(三)网站页面的抓取。

通过日常的日志分析统计中,我们可以看出哪些网站页面比较受蜘蛛的喜爱,并且可以了解到蜘蛛在这些页面的抓取行为,例如说蜘蛛是否抓取了一些没有被收录价值的页面,或者重复的抓取了一些页面等,大家都知道这样会影响到我们网站其他页面的权重传递的。就比如说小编的网站皮肤栏目通常就要比名字栏目抓取的勤快,收录健康程度也较好,所以小编现在定期在名字栏目的文章中添加进入一些图片,不仅仅美观还有效的提升了名字栏目文章的收录,所以通过分析,我们可以屏蔽蜘蛛抓取这些没有价值的页面,也有效的提高了我们其他页面权重的传递,并且学习蜘蛛比较喜爱的页面优点来补充其他页面的不足。

(四)了解蜘蛛是否访问我们的页面以及访问页面的状态代码。

很多朋友的网站主页快照经常不正常,网站发布的文章也经常不收录,面对这样的情况我们都会想蜘蛛有没有到我们的网站抓取。这时候我们也可以通过网站日志来看是否有蜘蛛IP的记录就可以了解蜘蛛是否来爬行我们的网站,从而判断是否是我们网站质量的原因导致不收录。并且也可以看出蜘蛛访问我们网站页面的状态代码,例如说301、503、403等,当出现这样情况的时候,我们尽早做处理,以免成为网站降权的隐患。

(五)了解蜘蛛抓取的时间段。

通过日常日志分析总结中,你会很奇妙的发现一件事,那就是蜘蛛会在每天的一个特定时间内在网站爬行抓取的很活跃,当我们了解到这样的情况,我们就可以再特定的时间去更新网站内容,这个可以更加有效的让蜘蛛抓取我们网站内容,从而达到一个秒收的效果。

关注中国IDC圈官方微信:idc-quan或微信号:821496803 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2017-05-04 13:49:47
公众号 Gartner市场分析:分析、机器学习和AI是 CRM 未来发展方向
先进的分析、机器学习和人工智能 (AI) 将在未来三年内彻底改变 CRM。 <详情>
2016-11-16 09:02:00
空调制冷 基于精密空调系统安装的质量控制分析
近年来,因各类工程质量问题导致的使用性能和安全事故频发,这让各类工程的质量控制受到前所未有的重视。本文结合施工经验,阐述精密空调系统安装施工过程中常见的质量问题 <详情>
2016-11-16 08:54:00
UPS电力 UPS电源常见故障分析及维修技巧
UPS是UninterruptiblePowerSupply的简称,也就是我们常说的UPS不间断电源。它是一种含有储能装置、以逆变器为主要组成部分的恒压恒频的电源设备,是通信设备、计算机系统等 <详情>
2016-01-28 13:49:21
大数据应用 禅城运用一门式数据分析 助1.2万人实现就业
禅城通过应用大数据完善就业培训和援助体系,健全技能人才的引进培 养、评价激励的政策机制,技能人才总量增加至12万人,这是禅城区政府今年办 好的十件民生实事之一。 <详情>
2015-11-30 10:53:53
大数据应用 运用“大数据”技术对配网公变台区监测分析
国网山西电力通过运用“大数据”技术对配网公变台区监测分析,大幅度提高了配网公变台区的健康水平,今后将持续进行,满足城乡居民用电需求。 <详情>