robots协议是网站和搜索引擎爬虫的沟通方式，用来指导搜索引擎更好地抓取网站内容，更好的保护用户的隐私和版权信息。robots可以制止不必要的搜索引擎占用服务器，对于大多数非图形类网站来说也没有太大的意义，但是却耗用了大量的带宽。网站优化切忌的就是重复页面，但是不少人没有重视，现在的主流网站程序都很容易自动产生一些没用的页面，比如缓存页面，搜索页面等，这些页面内容往往和主体内容相重复，没有什么用，如果被蜘蛛抓到，那么对网站排名会有严重的负面影响。可以大大的增强蜘蛛网站的爬取效率，帮助搜索引擎理解哪些重要的内容，不再浪费到其它无用的页面上。搜索引擎喜欢原创内容，而这一方面并不是单单是指文章的原创度，另一方面网站模板的原创度也是非常重要的评分点，所以如果自己网站的模板不是原创，要屏蔽css目录和模板目录。可以制止搜索引擎对非公开页面的爬行与索引，如网站的后台程序、隐私页面、图片目录、管理程序，事实上，对于某些在运行中面临页面的网站来说，如果没有配置robots协议，搜索引擎甚至会索引那些临时文件。