先分清发明、抓取与收录

Sitemap用于集中告诉搜索引擎网站有哪些主要地点以及何时爆发更新，，，，，robots用于声明哪些路径允许或不允许抓取。
。。。。它们都不可直接包管收录，，，，，更不可替换页面质量、站内链接和正常状态码。
。。。。设置前应先区分三个阶段：蜘蛛发明URL、服务器允许抓取、搜索引擎判断是否进入索引。
。。。。只有明确界线，，，，，才不会用过失指令解决过失问题。
。。。。

例如一个页面未屎布，，，，，原因可能是没有入口、被榨取抓取、规范地点过失、正文重复或服务器不稳固。
。。。。纯粹重复提交站点地图无法解决后四种问题。
。。。。Sitemap与robots协同设置的目的，，，，，是把有限抓取资源指导到可会见、可索引且有价值的页面。
。。。。

制作清洁且可维护的站点地图

站点地图只应包括最终规范URL，，，，，地点返回正常状态、没有重定向、没有榨取抓取或不收录要求。
。。。。大站可以按栏目、内容类型或更新时间拆分多个文件，，，，，再用索引文件统一治理。
。。。。拆分的价值在于利便视察哪类页面被发明、哪类保存过失，，，，，而不是为了制造更多提交纪录。
。。。。

• 统一协议、主机名、巨细写与尾斜杠规则。
  。。。。
• 扫除登录页、搜索效果、无价值筛选和过失页面。
  。。。。
• 更新时间只在正文或主要字段真实转变时修改。
  。。。。
• 天生后验证XML名堂、编码、状态码与文件巨细。
  。。。。

动态天生时要防止数据库异常输出空文件，，，，，也要阻止每次会见都把所有页面标记为刚更新。
。。。。建议天生使命保存日志，，，，，包括URL数目、增删转变、天生耗时和过失样本。
。。。。当某次数目突然归零或暴增时，，，，，应阻止宣布并告警。
。。。。

编写精练明确的robots规则

robots文件应位于主机根路径，，，，，语法坚持简朴，，，，，每组规则清晰标明适用工具。
。。。。？？？？？勺柚购筇ā⒃菔蹦柯肌⒛诓克阉骱臀抟庖宀问肪，，，，，但不要榨取承载页面渲染所需的通用样式、剧本和图片。
。。。。若蜘蛛无法加载须要资源，，，，，就难以准确判断移动适配和页面内容。
。。。。

榨取抓取不即是删除索引。
。。。。已经被发明的URL纵然无法抓取，，，，，仍可能以地点形式保存。
。。。。需要整理已收录页面时，，，，，应让蜘蛛能够会见准确状态码或页面级指令，，，，，确认处理后再思量屏障无效路径。
。。。。因此，，，，，robots修改必需连系索引目的和历史状态，，，，，不可把整段目录直接封锁。
。。。。

站点地图认真推荐值得会见的入口，，，，，robots认真划定抓取界线；；；；；二者一进一出，，，，，必需围绕统一套规范URL战略事情。
。。。。

阻止设置相互冲突

常见冲突包括站点地图列出被robots榨取的页面、规范标签指向被屏障地点、移动资源目录被榨取、旧站地图仍一连提交，，，，，以及测试情形规则误宣布到正式站。
。。。。上线前应把站点地图URL与robots规则举行自动比对，，，，，发明交集连忙核查。
。。。。

1. 导出所有站点地图URL并请求现实状态码。
   。。。。
2. 凭证robots规则模拟判断是否允许抓取。
   。。。。
3. 读取页面规范地点与索引指令，，，，，检查是否一致。
   。。。。
4. 抽查页面是否保存至少一个通俗站内链接入口。
   。。。。
5. 移除冲突URL，，，，，重新天生文件并复测。
   。。。。

多子域网站要划分维护对应主机的robots和站点地图，，，，，不要假设根域规则自动治理所有子域。
。。。。替换域名或协议后，，，，，也应同步更新文件内的绝对地点，，，，，阻止搜索引擎继续发明旧版本。
。。。。

用日志判断抓取资源是否改善

设置生效后视察服务器日志，，，，，按百度蜘蛛、目录、状态码和页面类型统计请求。
。。。。理想转变不是抓取量越大越好，，，，，而是过失页、重复参数页镌汰，，，，，焦点栏目和新内容抓取更实时。
。。。。若是蜘蛛一连会见已关闭路径，，，，，检查站内入口、历史站点地图和外部引用是否仍在袒露地点。
。。。。

小站也应保存每周抽查：站点地图能否翻开、URL数目是否合理、robots是否被误改、主要页面是否正常返回。
。。。。大站则可建设逐日自动验证和异常阈值，，，，，阻止一次宣布让整个目录失去抓取。
。。。。

形成宣布与回滚制度

robots属于高风险设置文件，，，，，建议纳入版本治理并经由双人检查。
。。。。每次修改纪录目的、影响路径、预期效果和回滚方式。
。。。。站点地图天生逻辑也要在测试情形验证，，，，，宣布后连忙检查头尾样本和随机URL，，，，，不可只看文件能否翻开。
。。。。

验收报告可以列出站点地图总量、种种型占比、被榨取URL数目、过失状态样本和最近修改纪录。
。。。。Sitemap与robots的任何一项突然偏离历史规模，，，，，都应触发人工复核。
。。。。对多情形项目，，，，，还要明确测试、预宣布和正式站使用差别设置，，，，，阻止复制安排时把榨取抓取规则或测试地点一起带到线上。
。。。。

Sitemap与robots协同设置完成后，，，，，应把它们视为抓取治理系统的一部分，，，，，与规范地点、内链、状态码和宣布流程配合维护。
。。。。规则越清晰、文件越清洁，，，，，搜索引擎就越容易把请求用于真正值得收录的内容。
。。。。