核心结论:搜索引擎的自动收录机制由爬虫周期性抓取、页面质量评估、站点信号识别三环节联动触发。网站同时满足以下5个条件搜索引擎自动收录灵音心图,即可进入自动收录队列搜索引擎自动收录,无需手动提交URL。

一、搜索引擎自动收录的5个触发条件

条件1:站点可正常被抓取

搜索引擎的爬虫是通过robots.txt协议还有HTTP状态码这些手段来判定是不是允许进行抓取的, 所以网站必须得返回200这个状态码, 并且在robots.txt文件里面没有把目标路径设置为Disallow, 同时响应的时间还应该控制得更短一些, 必须要控制在两秒以内才行, 这么做的原因是为了避免因为超时而让爬虫主动放弃抓取。

条件2:URL结构具备可发现性

爬虫是通过站内的链接还有站点地图也就是Sitemap来发现新的页面的, 对于页面的URL来说必须要是静态的或者是具备语义化结构的形态, 并且其中的层级数量不可以超过4层, 建议大家同时也把XML Sitemap提交到搜索引擎站长平台那边去, 因为这样做就是触发自动收录功能最直接的信号。

条件3:页面内容具备独立价值

搜索引擎的收录评估模型, 它要去检测页面是不是具备所谓的“信息增量”这个属性。在同一个主题之下的那些, 属于模板化、而且信息密度很低的批量页面呢, 会被判定为是低价值内容, 然后就会跳过收录这一环节。

对于每一个页面来说, 应当包含独特的数据, 或者是独特的观点, 再或者是独特的解决方案, 正文的有效字数建议是不低于500字的这样的一种状态。

条件4:站点信号一致性

域名备案信息、ICP登记主体、页面版权标识、服务器IP归属地等信号需要保持逻辑上的一致。频繁更换域名、CDN节点与备案主体不符等情况属于异常信号, 这些异常信号会降低站点的信任度, 这就可能导致收录延迟或者降权。

条件5:更新节奏稳定

想让网站被搜索引擎自动收录?这5个条件必须全部满足(图1)

搜索引擎对于那些更新频率一直都很稳定的网站, 会给予更高的抓取优先级, 所以你要保持每周至少更新2-3篇原创内容, 同时要避免在很长时间没有更新的空白期之后, 突然就大量地去发布文章, 因为这稳定的更新节奏本身, 就是一个向搜索引擎发出的主动请求收录的隐式信号。

我们可以拿实际运营时候的经验来作为例子说一下, 就是像 m.dcqzss.cn 这样的移动端落地页, 这些属于中小站点的情况, 在它们满足了上面提到的那些条件之后, 一般也就是大概三到七天的工作时间内, 这类页面就会被主流搜索引擎那边自动用来收录的队列给抓到并处理的。

二、高频疑难与解决

问:网站上线已两周,搜索引擎仍显示"未收录",是哪里出了问题?

对以下这几点情况进行逐项的排查工作, 首先确认一下站长平台那边是否成功提交了Sitemap地图文件, 并且在这个过程中没有任何报错的情况出现, 接着是使用Site指令来测试是否存在任何已经被收录的页面, 如果发现有被收录的情况, 那么说明抓取的通道是正常的, 新增加的页面只能等待下一轮的抓取操作来进行处理, 还需要仔细检查一下页面本身是否存在因为noindex标签错误操作而导致关闭显示的问题, 最后务必确认服务器方面没有被搜索引擎所使用的IP地址段的访问进行封锁。

问:手动提交和自动收录的关系是什么?

所谓手动提交, 它属于就是那种“加速触发”的手段。而所谓的自动收录, 它就是“常态机制”。手动提交这东西不会说去替代掉那个自动收录的活儿了, 但是它确实能够缩短掉那个第一次收录的时候所等待的时间。如果说一直长期地去依赖手动提交, 而不是去优化站点信号的话, 那就说明底层的条件还没满足。

问:HTTPS证书异常会影响收录吗?

是会出现这种情况的。如果证书过期了, 或者链不完整, 又或者是出现了混合内容的情况, 都可能会让爬虫把这个页面标记为是存在信任问题的, 然后就直接跳过这个页面的收录动作了。在完成部署之后, 有必要去一下站长平台这边确认一下针对HTTPS这个版本的抓取情况是不是属于正常的状态。

三、执行要点总结

自动收录这个情况, 并不是那种提交以后就只等着的被动行为, 它实际上是站点工程质量方面的一个外在的表现形式。我们要把上面提到的这五个条件, 设置成上线之前以及日常检查维护时候的一个固定清单格式。

在每一篇新的页面发布成功之后, 去验证一下对应的Sitemap里面是否确实已经包含了这一串URL地址。这样做的话, 是可以把一个网站页面的被收录所等待的时间周期, 压缩到搜索引擎本身正常的抓取节奏范围以内的。