彩-票18 研究框架体有没有大体方向?

实时机票/火车票抓取系统是一个帶有业余性质的系统主要是作为技术的训练场。比如说ActiveMqRMI,WebService即使最原始的Socket也在这里一展拳脚。

  1. 日志监控:提供对抓取的监控监控抓取网站的规则变化,如果出现抓取错误等提供Email报警
  2. 流量/性能监控:经过改造后的系统粒度非常细,运用了责任链的方式来把整个流程串起来这样可以实现比较细粒度的流量和性能监控,可以知道每个流程节点(Handler)的流量情况和性能情况5分钟把数据刷到DB。最后以报表图嘚方式展现出来实现限流/监控功能。
  3. 抓取工具:顾名思议作为业务最核心的部分,实现对网站规则的解析

我要回帖

更多关于 框架体 的文章

 

随机推荐