rss更新频率

如果目标网站提供了rss源,再写爬虫去匹配,就是智障了。
但是该以什么频率去访问rss源呢?网络上似乎不太容易找到这个问题的答案。

直接访问rss的官方文档:http://www.rssboard.org/rss-p...

里面写的很清楚,rss规定的xml语法中有三个地方可以指定更新频率:

  • <ttl>标签指定生存时间

  • <skipDays><skipHours>标签标明哪些日期(一般是周末)和小时不更新

当然,还有一句很重要的话:

By convention, most aggregators check an RSS feed for updates once an hour

所以,我们设置成半小时检查一次,或者是一个小时检查一次都可以。


官方文档同时规定了那些字段是必须的,那些是可选的。这对于我们撰写爬虫也是十分有必要的。
比如channel字段以及channel下的description, link, title字段。

相关文章
相关标签/搜索