storm分享内容摘要:

us/supervisor, 保障第一时间重启 worker 纪君祥( Longda Feng) Alipay 开发 2 – 消息中间件 + storm 推荐使用 meta/tt + storm  Storm 会升级,或重启,因此需要一个消息中间件进行缓冲。  当计算程序有误时,可以修改偏移量进行重新计算 纪君祥( Longda Feng) Alipay 开发 3 – 并发度计算 经验:  单 Spout每秒发送 500个  单 Bolt 每秒接受 2020个  Acker每秒接受 6000个 纪君祥( Longda Feng) Alipay 开发 4 – meta变更 如果使用异步 meta客户端时,  当增加 /重启 meta时,均需要重启 topology 如果使用 trasaction时,  增加 meta时, meta的 brokerId要按顺序 纪君祥( Longda Feng) Alipay 开发 5 – storm修改 打 patch  增加 kill amp。 sleep operation before kill 9  修改 log名,将 topologyid增加到 log名中  在 supervisor syncprocesses/synchronizesupervisor 增加 catch exception 编译 storm请参考  纪君祥( Longda Feng) Alipay 开发 6 – 重跑能力 在实际计算中,常常发现需要做数据订正,因此在设计整个项目时,需要考虑重跑功能  在 meta中,数据最好带时间戳  如果计算结果入 hadoop或数据库,最好结果也含有时间戳。
阅读剩余 0%
本站所有文章资讯、展示的图片素材等内容均为注册用户上传(部分报媒/平媒内容转载自网络合作媒体),仅供学习参考。 用户通过本站上传、发布的任何内容的知识产权归属用户或原始著作权人所有。如有侵犯您的版权,请联系我们反馈本站将在三个工作日内改正。