热线电话:13121318867

登录
首页职业发展如何构建大数据网络​_数据分析师
如何构建大数据网络​_数据分析师
2014-12-04
收藏

如何构建大数据网络_数据分析师

随着数据分析技术的发展,人们在利用大数据应用程序需要处理大规模信息并出于弹性的考虑将数据复制到多个位置时,信息的规模变得越来越大。当将大规模和分布式架构组合在一起时,我们就能发现大数据网络有一组特殊的需求,这也是如何构建大数据网络的要求。


大数据应用程序不仅仅是规模大,而且还有一种我称为突发性的特性。当一个作业启动之后,数据就开始流转。在高流量时间段里,拥塞是一个严重的问题。然而,拥塞可能引起更多的队列延迟时间和丢包率。此外,拥塞还可能触发重转,这可能让本身负载繁重的网络无法承受。因此,网络架构设计时应该尽可能减少拥塞点。按照可用性的设计标准,减少拥塞要求网络具有较高的路径多样性,这样才能允许网络将流量分散到大量不同的路径上。


实际上,大多数大数据应用程序对网络延迟并不敏感。如果计算时间的数量级为几秒钟或几分钟,那么即使网络上出现较大延迟也是无所谓的——数量级大概为几千毫秒。这意味着作业是并行执行的,而各个作业之间较大的性能差异可能会引发应用程序的故障。因此,网络不仅要足够高效,而且要在空间和时间上具有一致的性能。分割可能意味着要将大数据流量与其他网络流量分离,这样应用程序产生的突发流量才不会影响其他关键任务工作负载。我们还需要处理运行多个作业的多个租户,以满足性能、合规性和/或审计的要求。CDA数据分析师培训官网

数据分析咨询请扫描二维码

最新资讯
更多
客服在线
立即咨询