大数据 : 安全分析“架构”_数据分析师
根据ESG研究公司表示,44%的大型企业(即拥有超过1000名员工的企业)认为其安全数据收集和分析是“大数据[注]”应用,而另外44%认为其安全数据收集和分析将会在未来2年内成为“大数据”应用。此外,86%的企业正在收集比两年前“更多”或“略多”的安全数据。
这种增长趋势非常明显,大型企业正在收集、处理和保存越来越多的数据用于分析,他们使用来自IBM、Lancope、LogRhythm、Raytheon、RSA Security和Splunk等供应商的工具和服务从数据中获取可操作情报用于风险管理和事故预防/检测/响应。
最近,笔者与安全专家以及供应商围绕大数据安全分析进行了很多探讨,这些讨论往往专注于分析应用程序方面。有时候这些讨论会围绕于安全分析基础设施,例如Hadoop、HDFS、Pig和Mahout,有时候则围绕UI、可视化分析、应用程序整合等。
每个人都对大数据安全分析应用程序感兴趣,但几乎没有人会问大数据安全分析所需要的IT基础设施基础。其结果是,很多企业会受到打击,他们甚至无法收集他们想要分析的安全数据。
收集和处理千兆或兆兆字节的安全数据需要对大数据安全分析管道进行一些规划和部署,包括如下:
· 数据包捕捉设备。这些设备包括来自Cavium、Emulex和Solarflare等供应商的高性能智能NIC卡,磁盘驱动器,以及来自Wireshark等供应商的PCAP软件,它们整合在一起作为数据包捕捉设备。这些设备需要足够快以捕捉和处理数据包,用于分析引擎的分类。PCAP硬件设备将出现在整个网络的关键连接点,而虚拟PCAP设备能够支持服务器虚拟化和云计算[注]平台。
· 分析分布网络。数据包捕捉设备收集和处理数据,但数据仍然需要接近实时地在多个分析引擎移动。这正是分析分布网络的工作,这种系统包括来自Anue、Apcon、BitTap、Gigamon、Netscout和Riverbed等供应商的设备。在某些情况下,分析分布网络将补充数据包捕捉设备,在其他情况下,分析分布网络将提供轻量级PCAP功能。(请注意,用来描述这个的行业术语是“网络数据包代理设备”,但笔者认为这太以设备为中心,所以换了名称。)
· SDN[注]。SDN可编程控制平面很可能会成为穷人的分析分布网络,但SDN不会很快就抢占分配网络设备的地位。SDN将会成为分析基础设施的一部分,补充PCAP和分析分布网络功能。SDN和分析分布网络整合给网络数据捕捉和分析引擎带来了强大的连接性。
· 分析中间件。在很多情况下,每个分析工具收集、处理和路由其自己的数据。虽然这是可行的,但这带来了很大的冗余性、资本成本和运营开销。这里需要的是某种类型的基于标准的中间件,以进行消息队列或发布和订阅。例如,RSA Security公司使用开源RabiitMQ作为其分析引擎之间的中间件。
从架构的角度来看,企业可以采用分层的方法来部署大数据安全分析,其中分析引擎从管道中抽象出来,但可以很容易地用来定制化安全数据收集、处理和分布。这能让首席信息官[注]、首席信息安全官和网络工程师来调整期基础设施、流程和分析引擎,满足其具体的企业和行业要求,以及管理资本和运营成本。
这里有一个很明确的教训:你不能通过简单地连接每个分析引擎到span端口来收集、处理和路由安全数据。为了避免这种情况,首席信息官、首席信息安全官和网络工程师需要通过适当的管道为大数据安全分析调整其计划。
数据分析咨询请扫描二维码
Excel是数据分析的重要工具,强大的内置功能使其成为许多分析师的首选。在日常工作中,启用Excel的数据分析工具库能够显著提升数 ...
2024-12-23在当今信息爆炸的时代,数据分析师如同一位现代社会的侦探,肩负着从海量数据中提炼出有价值信息的重任。在这个过程中,掌握一系 ...
2024-12-23在现代的职场中,制作吸引人的PPT已经成为展示信息的重要手段,而其中数据对比的有效呈现尤为关键。为了让数据在幻灯片上不仅准 ...
2024-12-23在信息泛滥的现代社会,数据分析师已成为企业决策过程中不可或缺的角色。他们的任务是从海量数据中提取有价值的洞察,帮助组织制 ...
2024-12-23在数据驱动时代,数据分析已成为各行各业的必需技能。无论是提升个人能力还是推动职业发展,选择一条适合自己的学习路线至关重要 ...
2024-12-23在准备数据分析师面试时,掌握高频考题及其解答是应对面试的关键。为了帮助大家轻松上岸,以下是10个高频考题及其详细解析,外加 ...
2024-12-20互联网数据分析师是一个热门且综合性的职业,他们通过数据挖掘和分析,为企业的业务决策和运营优化提供强有力的支持。尤其在如今 ...
2024-12-20在现代商业环境中,数据分析师是不可或缺的角色。他们的工作不仅仅是对数据进行深入分析,更是协助企业从复杂的数据信息中提炼出 ...
2024-12-20随着大数据时代的到来,数据驱动的决策方式开始受到越来越多企业的青睐。近年来,数据分析在人力资源管理中正在扮演着至关重要的 ...
2024-12-20在数据分析的世界里,表面上的技术操作只是“入门票”,而真正的高手则需要打破一些“看不见的墙”。这些“隐形天花板”限制了数 ...
2024-12-19在数据分析领域,尽管行业前景广阔、岗位需求旺盛,但实际的工作难度却远超很多人的想象。很多新手初入数据分析岗位时,常常被各 ...
2024-12-19入门数据分析,许多人都会感到“难”,但这“难”究竟难在哪儿?对于新手而言,往往不是技术不行,而是思维方式、业务理解和实践 ...
2024-12-19在如今的行业动荡背景下,数据分析师的职业前景虽然面临一些挑战,但也充满了许多新的机会。随着技术的不断发展和多领域需求的提 ...
2024-12-19在信息爆炸的时代,数据分析师如同探险家,在浩瀚的数据海洋中寻觅有价值的宝藏。这不仅需要技术上的过硬实力,还需要一种艺术家 ...
2024-12-19在当今信息化社会,大数据已成为各行各业不可或缺的宝贵资源。大数据专业应运而生,旨在培养具备扎实理论基础和实践能力,能够应 ...
2024-12-19阿里P8、P9失业都找不到工作?是我们孤陋寡闻还是世界真的已经“癫”成这样了? 案例一:本硕都是 985,所学的专业也是当红专业 ...
2024-12-19CDA持证人Louis CDA持证人基本情况 我大学是在一个二线城市的一所普通二本院校读的,专业是旅游管理,非计算机非统计学。毕业之 ...
2024-12-18最近,知乎上有个很火的话题:“一个人为何会陷入社会底层”? 有人说,这个世界上只有一个分水岭,就是“羊水”;还有人说,一 ...
2024-12-18在这个数据驱动的时代,数据分析师的技能需求快速增长。掌握适当的编程语言不仅能增强分析能力,还能帮助分析师从海量数据中提取 ...
2024-12-17在当今信息爆炸的时代,数据分析已经成为许多行业中不可或缺的一部分。想要在这个领域脱颖而出,除了热情和毅力外,你还需要掌握 ...
2024-12-17