广州网站建设公司|营销型网站制作|广州二月二网站建设

广州网站建设

关注我们:

百度关键词优化排名 先排名后收费
当前位置: 首页 > SEM搜索引擎营销 > 网站robots.txt使用中常见的误区 广州网站设计

 

网站robots.txt使用中常见的误区 广州网站设计

 
   发布时间:2015-04-19 13:17:49
 
 

前几天写了robots.txt的规则误区并介绍百度和Google的robots工具的使用,介绍了几个robots.txt文件的规则的误区,然后发现其实不止那些,还有很多大家没有注意的误区。

今天重新列举一下常见的robots.txt实际使用中的误区:

误区1.Allow包含的范围超过Disallow,并且位置在Disallow前面。

比如有很多人这样写:

User-agent: *

Allow: /

Disallow: /mulu/

想让所有蜘蛛抓取本站除/mulu/下面的url之外的所有页面,禁止抓取/mulu/下面的所有url。

搜索引擎蜘蛛执行的规则是从上到下,这样会造成第二句命令失效。也就是说禁止抓取/mulu/目录这条规则是无效的。正确的是Disallow应该在Allow之上,这样才会生效。

误区2.Disallow命令和Allow命令之后没有以斜杠&广广州网站设计州网站设计公司 rdquo;/”开头。

这个也很容易被忽视,比如有人这样写Disallow: 123.html ,这种是没有效果的。斜杠”/”表示的是文件对于根目录的位置,如果不带的话,自然无法判断url是哪个,所以是错误的。

正确的应该是Disallow: 百度首页排名 广州网站优化公司 /123.html,这样才能屏蔽/123.html这个文件,这条规则才能生效。

误区3.屏蔽的目录后没有带斜杠”/”。

也就是比如想屏蔽抓取/mulu/这个目录,有些人这样写Disallow:/mulu。那么这样是否正确呢?

首先这样写(Disallow: 广州网站设计/mulu)确实可以屏蔽/mulu/下面的所有url,不过同时也屏蔽了类似/mulu123.html这种开头为/mulu的所有页面,效果等同于Disallow: /mulu*。

正确的做法是,如果只想屏蔽目录,那么必须在结尾带上斜杠”/”百度关键词优化。

文章来自逍遥博客,更多广州网站建设资讯访问: www.SEOUEOSEM.com

 

 

SeoUeoSem企业网站建设8大功能

更多»
  •  

    基于搜索引擎优化营销型网站
    自然排名优先竞争对手

  •  

    整合所有网络营销资源
    一站式服务,打造企业级平台

  •  

    个性化企业网站设计
    让您企业网站与众不同

  •  

    会打字,就会自助建站
    全智能,即开即用

  •  

    顶级域名
    独一无二的品牌形象

  •  

    精准网络营销
    一击即中,实现高效率成交

  •  

    智能搜索引擎优化
    实现全部互联互通,优化排名

  •  

    智能CDN全球布置
    自由选择服务器,快速访问

服务与项目

广州网站制作

企业网站建站

基于网站优化SEO基础实践而开发的系统,自然排名超越竞争对手

整合网络营销

百度优化排名

百度关键词优化排名首页、先排名后收费、担保交易

在线客服软件

在线客服系统

即时网页对话,变流量为销量,抓住每一个潜在的客户

400电话

企业400号码

提升企业形象,400电话号码营销,成交更多

联系我们

客服热线:020-8844 7951
服务邮箱: info@seoueosem.com

联系在线客服

在线留言

 

如果您对我们有更多的功能需求或者建议,请到在线留言提出您的宝贵意见。