基于hadoop和spark构建可扩展的网络安全分析平台内容摘要:

测平台,整个系统的架构如 图 : 分析 检测 流程 • 平台 基于 HDFS中的离线数据使用 Spark训练模型 ,然后将训练好的模型交给 Spark Streaming进行分析检测。 分析 检测 流程 • 采用 离线模型训练与在线分析检测结合的方法可以最大限度的利用大数据平台的高效计算能力,同时利用 Spark streaming的特性保证数据检测的实时性。 实验结果与分析 • 实验环境 – 6台服务器: 2颗 Xeon(R) E52407 V2 @ CPU(4核 ), 32GB内存 – HDFS本身提供了可靠的冗余备份机制, 所有服务器均不使用 RAID配置,硬盘采用直接挂载的方式,提高 I/O吞吐 能力 ; – 6台服务器安装在同一个机架中,服务。
阅读剩余 0%
本站所有文章资讯、展示的图片素材等内容均为注册用户上传(部分报媒/平媒内容转载自网络合作媒体),仅供学习参考。 用户通过本站上传、发布的任何内容的知识产权归属用户或原始著作权人所有。如有侵犯您的版权,请联系我们反馈本站将在三个工作日内改正。