对话百度站长平台:SEO实操中的技术问题

发布时间:2015-1-5 16:40:21

日前,百度站长平台2014年最后一场高端沙龙在广州落下帷幕。本次沙龙围绕着“搜索引擎优化”这一话题展开了一些列的讨论。百度站长平台专家王淘、草根个人站长代表搜外创始人夫唯、以及大型网站代表太平洋SEO负责人黄勇一起探讨了有关搜索引擎趋势,搜索引擎喜好以及工程师们在实操中遇到的技术问题。

在之前站长之家发布的文章《对话百度站长平台:搜索引擎的趋势和喜好》中分享了搜外创始人夫唯和百度lee代言人王淘关于搜索引擎趋势及喜好的对话内容。今天要分享的是技术男们最关注的SEO实操方面的相关知识。

主要内容如下:

黄勇:有一天我们有一个网站发现来了非常多的爬虫,给服务器造成了极大的压力。于是我们紧急屏蔽了所有爬虫IP和UA。可是等一段时间后,我们解除解禁后,却发现恢复起来非常缓慢,基本上两个月后才回到了当时的水平。大家的站越做越大,肯定会遇到庞大的访问压力、抓虫抓取方面的问题,所以想借此机会咨询一下,看在这方面有没有一个好的解决办法。

王淘:理论上讲,站点屏蔽了Baiduspider后的恢复周期的确比较长,但是有没有措施就请孙权讲一下了。

孙权:通过封禁UA或IP的方式来拒绝百度蜘蛛,一天以上后果都是非常严重的。就这个问题来说目前没有快速的方法可以让你在短时间内恢复。这是站点自身运行的一个故障,并不是百度策略上面有什么问题。还有就是,网站在无法访问期间,很多因子都会受到影响,百度在给网站进行综合打分时会综合计算多个因子,所以说,即使是网站访问恢复了,但其它因子的负面影响还在,网站恢复起来也还是非常困难的。

(接上)

观众提问:用闭站保护能解决这个问题吗?

孙权:不能。闭站保护前提是把网站死掉,指的是爬虫不能抓取,同时用户也访问不了。。

(接上)

王淘:其实我建议不管对什么样的IP或者UA都不要直接封禁,设置502会好一点。

黄勇:当时我们也有想过设置502,但考虑到这个问题不是短期内能够解决的,担心使用502被搜索引擎视为欺骗,毕竟是服务器的问题嘛,应该是403,干嘛告诉人家说是502。我们非常害怕因为使用取巧的做法而带来更严重的后果

王淘:这个还好,如果你网页明确不想让搜索引擎访问就403就好了,如果走屏蔽其实502也无所谓,仅仅是我们浪费流量重新抓几次,这是比较谨慎的情况。我们抓不到你们内容对我们来说也是损失。

(接上)

孙权:可能很多站长会问,为什么我的站持续一段时间访问不了后排名会掉得那么厉害,就是因为百度认为网站可访问性有问题,目前百度对可访问性有问题的网站打压是非常厉害的。所以,面对网站爬虫访问量突增的情况,我不建议站长立刻去封我们的爬虫,你可以通过百度站长平台抓取频次工具,把这个爬虫压力调低,但是不可以封掉。比如本来一天来抓50万,你调低到2万,我们后台的Spider策略都是认这个值的。

黄勇:《301跳转常见问题汇总》文章中提到站点设置301后,“百度不会删除旧网页,新旧网页同时存在,百度在搜索结果中会优先展现新网页”,但实际情况是,会发生新旧页面交替获得排名的现象,这是什么原因?

王淘:这个问题主要是由我们的系统造成的。我们系统有非常多的模块,每个模块都要去单独处理301更替,偶尔有一些模块的处理逻辑可能有出现问题,可能出现一些波动。我们在6月份左右时做过一次大规模的改进,基本上把所有的模块都理了一遍,把所有归一化都做了统一,现在这样的问题比较少了。

黄勇:百度快照时间与页面质量、抓取更新频率是否有什么关系?

王淘:快照时间没有任何参考价值,在排序时我们使用单独的抓取时间统计系统,外部不可见,站点完全不用关注百度的快照时间。

黄勇:文章页的边栏、底部部署大量与当前文章间接相关的链接,是否会认被为噪声?是否影响页面本身内容识别和收录?

王淘:网页在建库时会判断页面的主体内容,而边框这部分的内容基本不算在内,所以基本不会有影响,只有一些链接发现的作用。

黄勇:Canonical 的使用范围,百度提到“高度相似”,这个“高度相似”到底是什么标准?例如这两个页面:

http://v.duowan.com/u/122769172

http://v.duowan.com/index.php?r=user/videolist&uid=122769172

王淘:“高度相似”是指网站的标题、主体内容以及网站的结构都相似,从这个案例来看网站结构不同,对Baiduspider来说完全是两个不同页面,canonical标签不会生效。

黄勇:请问百度如何看待一个采集了优质内容,但浏览体验和访问性都好的网站?

王淘:对于百度来说,能够提供满足用户需求的内容、有良好用户体验的网站就是好网站。有些站点从从外站转载来内容,经过加工提供了内容增益,更好的满足了用户需求,同样可以得到好的展现

?
Copyright © 2013-2014 长沙节点电子商务有限公司 版权所有 Power by节点网络