误区1.allow包含的范围超过disallow，并且位置在disallow前面。
比如有很多人这样写：
user-agent: *
allow: /
disallow: /mulu/
想让所有蜘蛛抓取本站除/mulu/下面的url之外的所有页面，禁止抓取/mulu/下面的所有url。
seo网站优化搜索引擎蜘蛛执行的规则是从上到下，这样会造成第二句命令失效。也就是说禁止抓取/mulu/目录这条规则是无效的。正确的是disallow应该在allow之上，这样才会生效。
误区2.disallow命令和allow命令之后没有以斜杠”/”开头。
这个也很容易被忽视，比如有人这样写disallow: 123.html ，这种是没有效果的。斜杠”/”表示的是文件对于根目录的位置，如果不带的话，自然无法判断url是哪个，所以是错误的。
正确的应该是disallow: /123.html，这样才能屏蔽/123.html这个文件，这条规则才能生效。
误区3.屏蔽的目录后没有带斜杠”/”。
也就是比如想屏蔽抓取/mulu/这个目录，有些人这样写disallow: /mulu。那么这样是否正确呢?
首先这样写(disallow: /mulu)确实可以屏蔽/mulu/下面的所有url，不过同时也屏蔽了类似/mulu123.html这种开头为/mulu的所有页面，效果等同于disallow: /mulu*。
正确的做法是，如果只想屏蔽目录，那么必须在结尾带上斜杠”/”。