证据表明百度蜘蛛可以爬行纯文本网址

2020-01-08    来源:liboseo.com

容器云强势上线!快速搭建集群,上万Linux镜像随意使用

很久之前我写过文本格式的网址对网站的权重有好处,今天我终于发现了纯文本网址可以吸引百度蜘蛛的证据。

大家知道百度站长平台已经对站长开放了,其中有很多有用的功能,包括提交网站地图、提交死链接、查看robots等等。其中有一项功能大家可能没有太注意,那就是站点抓取异常查询。

有时候我们的网站收录或者其他方面出现异常了,这时候还得分析网站日志等,查找原因。而这个工具可以直接查到,百度在抓取你的网站的时候出现了哪些错误,方便找到原因。

我今天检查的时候发现了有一个404抓取错误,本来抓取的是http://***.com/1227.html 但是后面多了个“>”,理论上不会出现这种链接错误啊。

经过搜索发现,有网站在转载文章的时候,出现了如上图的网址,而且是纯文本的网址:

百度因为抓取到了上面的网址,并把>也当做网址的一部分,并进行抓取,自然就出现了404错误。

从这个例子就可以知道,百度是可以抓取纯文本的网址的,这对广大SEO工作者和互联网从业人员是个好消息。

本文来自逍遥博客,本文地址:http://liboseo.com/1230.html,转载请注明出处和链接!

标签: 百度蜘蛛 

版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点!
本站所提供的图片等素材,版权归原作者所有,如需使用,请与原作者联系。

上一篇:网站内部优化应避免不利因素

下一篇:浅谈被K的网站问题以及新站优化