直入话题,首先解释下网站robots文件的作用:
robots文件就是针对搜索引擎的指示文件,告诉搜索引擎那些内容可以收录那些内容不可以收录,当搜索引擎抓取网站内容的时候也是首先抓取robots文件的,如果网站没有设置robots文件,默认的是搜索引擎会抓取全站的内容。设置好的robots文件最好不要频繁修改,避免因修改robots出现一系列的问题。
修改robots对权重的影响
后期对robots的修改是对搜索引擎的一种不友好的表现,随着引擎的人性化,搜索引擎也是有“脾气”的,当在你的网站产生了一种习惯时,你网站的稍微改动很有可能会引起搜索引擎的反感,就像修改robots一样,除了对内容的收录有影响外,还会对网站的权重也有不可忽视的影响。比如引起网站快照不更新,收录减少,外链数目降低,网站主要关键字下降等。
修改robots对收录的影响
做好robots后,蜘蛛会习惯性的根据robots的设置抓取网站内容,从而会使搜索引擎产生习惯,如果此时修改robots,当搜索引擎再次访问网站的时候发现修改robots了,它会随之修改以前的收录的文章,所以这会导致某些网站的收录一下子下降很多。
修改robots时的注意事项:
robots文件是在建站初期就应该做好的,不是在后期随意修改的,修改robots有影响,需要慎重。

