Feed on
Posts
Comments

不要禁止搜索引擎抓取RSS

艾瑞曾今因为禁止Google抓取RSS,导致一直无法被Google博客搜索收录,以至于在搜索引擎中经常出现他人转载文章出现在我的原创文章前面,很是悲哀.

说到这里要先了解下Google博客搜索,他可以通过ping 服务器实现即时收录网页.

但是由于之前Yahoo收录了feed,所以导致我将feed加到了robots中,就是下面这行代码.

Disallow: /feed/

一个月后发现还是没有被Google博客搜索,于是乎我尝试在robots.txt中删除Disallow: /feed/.

接着奇迹出现了,Google博客搜索终于收录我的blog.

上几张图.

google-search

google-blog-search

原创文章,转载请注明: 转载自艾瑞

本文链接地址: 不要禁止搜索引擎抓取RSS

Leave a Reply