Discuz! X1.5 还是不可避免的出现重复url的问题。 (希望有渠道的朋友能把这些问题反馈给Discuz相关人员)
这些重复的url即浪费了爬虫大量的时间，又使网站的原创性受到损害。所以一定要屏蔽很多重复页面。
另外还要干掉一些垃圾页面，所谓垃圾页面就是一些没什么SEO价值的页面，也帮助爬虫节约时间。

解决这个问题，最好是用robots.txt文件来解决。因为里面的规则是最强势的，所有爬虫第一次访问一个域名，第一个动作都是下载这个robots.txt文件并读取里面的规则。 其他一些nofollow和rel=canonical等标签适当的时候再用。

虽然Discuz默认写了一些robots规则，但是还是不够理想。

根据从首页的代码中发现的问题，需要在robots.txt里增加的规则有：
 

 

1. Disallow: /forum.php$    （这条规则在第3节中去掉了）
    

2. Disallow: /search-search-adv-yes.html
    

3. Disallow: /space-username-*
    

4. Disallow: /forum.php?gid=
    

5. Disallow: /home.php?mod=space&username=
    

6. Disallow: /forum.php?showoldetails=
    

7. Disallow: /home-space-do-friend-view-online-type-member.html
    

8. Disallow: /space-uid-*

    

根据在板块帖子列表页面发现的问题，需要在robots.txt里增加的规则有：

 

1. Disallow: /search.php$
    

2. Disallow: /forum-forumdisplay-fid-*

根据在帖子详细信息页面看到的问题，需要在robots.txt里增加的规则有：

 

至于为什么要写这些规则，由于描述起来实在啰嗦，所以大家自行到源代码里查看为什么。

robots的写法是很灵活的。
可以看一下百度的robots写法指南：
http://www.baidu.com/search/robots.html
以及google网站管理员中心的说明：
http://www.google.com/support/webmasters/bin/answer.py?hl=cn&answer=156449

robots.txt写到这里并不是结束，还有两件事情要做。

1，因为robots.txt和nofollow是不同的意思，所以robots.txt并不能代替nofollow。以上这些需要屏蔽的地方还需要用nofollow标注一下。 不过因为要改的源码太多，暂时先不动。需要用nofollow，还有一个原因是某些搜索引擎并不遵守自己所定下的robots规则。

2，因为只看过论坛中的三类主要页面，还有很多页面没查看过，难免会有漏掉的地方，所以需要以后经常到日志中查看爬虫的轨迹，看看爬虫还有哪些抓取问题。

对于上面那些屏蔽规则，如果有不明白为什么要这么屏蔽的地方，可以跟帖提问