Spark会成为大数据分析的新里程碑_数据分析师
在年初于纽约举行的Spark Summit East大会上,Databrick成为了焦点所在,通过新发布的数据处理云服务,该公司力图将Spark与MapReduce及Hadoop系统划清界限。
经过本次大会,Spark在业界的逐渐普及已是不争的事实。Apache Spark是一个开源的大数据处理引擎,能够被用于解决各界面临的高难度问题:如何快速识别针对比特币网络的拒绝服务攻击?如何将车辆与物联网或互联网相连接?如何识别出那些极为隐秘的洗钱行为?
对于Spark的兴趣不仅仅局限于具有纯天然数字化基因的企业,或者提供Spark相关技术的厂商。诺华制药(Novartis)、有线电视网Comcast和高盛等公司也在会上为Spark唱起了赞歌。但是,本次Spark Summit与其说是一次会议,不如说是一次Databrick的专场演出。Databrick发布了商业版的Spark系统,并且撇清与Hadoop生态的任何关系 -- 既非敌人也不是朋友。Databrick这次发布的是基于云的Spark服务。
顺势而生
Databrick由加州伯克利大学AMP实验室团队所创建,即Apache Spark的开发者。自从诞生伊始,Spark就被拿来与MapReduce进行比较,MapReduce是Hadoop最初的数据处理引擎。MapReduce因其对大数据集的分布式处理能力而广受关注,但是也一直在效率方面饱受责难。MapReduce以批处理方式进行计算,无法很好地应对流处理模式(比如物联网项目)。而且,MapReduce没有内存计算的选项,每次计算后都要将结果写入外部存储,这使得迭代式的任务相当耗时。
MapReduce的种种缺陷,使得诸如Spark之类的新一代处理引擎应运而生。“MapReduce的设计始于15年以前,”Databrick的联合创始人Patrick Wendell表示:“而Spark则是基于当代最新的硬件,完全重新设计而成的。”
同时,Databrick实现了Spark与Hadoop环境的兼容,并坚信Spark将在大数据生态中扮演更重要的角色。“我认为Spark将凌驾于Hadoop之上,在更多的场景中发挥作用。目前,在很大程度上这一点已经成为现实。”Wendell说。
去年春季,Databrick与DataStax建立了合作伙伴关系,后者专注于提供NoSQL数据库Cassandra的商业版。去年秋天,Databrick发布了Databrick云,基于Amazon S3存储提供Spark环境,实现所谓的大数据即服务。由于在可用性方面受限,有传闻Databrick云最终将驻留在Google Compute Engine和微软Azure云上。与MapReduce不同,Databrick尽量让使用Spark的技术门槛降低,能够面向更为广泛的受众。比如,Databrick为用户提供了各种高级和低级的API接口 – 所谓高级接口,主要针对那些对数据科学或分布式系统不熟悉的用户,使之同样能从复杂的机器学习算法中受益。
应者云集
如果说本次Spark Summit East大会带来的影响,应该就是CIO们,或者更确切地说是那些一直追踪大数据技术发展的数据分析师们会认为Spark将是继Hadoop之后的新里程碑。Databrick宣称Spark大数据处理引擎将改变企业分析的形态(过去的情况是,诸如Cloudera一类的Hadoop提供商一直扮演着支撑的角色)。Databrick同样让与会者相信,即使那些“普通”(normal,先前举行的Hadoop World大会上,Cloudera使用了这个词)的公司,也能够从Spark中受益,比如诺华制药和Comcast,以及不那么有名的Automatic和Shopify公司。
对于Spark的赞美同样来自于其他与会者。Tresata的创始人和首席执行官Abhishek Mehta表示:“我认为Spark应对了当前大数据研究中的所有热点问题。”高盛的Matt Glickman表示,Spark代表了未来发展的方向,将成为大数据分析的通用工具。Alteryx(致力于为普通用户提供分析语言R和大数据分析能力)的首席运营官George Mattew则描述了在集成R和MapReduce时的遭遇。
“有人说,旧约中并没有对地狱的具体描述。”Mathew回忆到:“但是,当我们试图将R和MapReduce集成时,却有了切身体会。在引入其他通用的计算能力时,MapReduce的步伐是如此艰难。”
这听起来非常刺耳,曾经的大数据明星,如今被Spark的光芒所掩盖 – 至少在某些大数据信徒看来,事实就是如此。
数据分析咨询请扫描二维码
在现代信息技术的广阔世界中,大数据架构师扮演着至关重要的角色。他们不仅引领着企业的数据战略,还通过技术创新推动业务的不断 ...
2024-11-04在当今数字化时代,数据分析师已成为企业关键角色,帮助决策者通过数据驱动的洞察实现业务目标。成为一名成功的数据分析师,需要 ...
2024-11-03在当今数字化的世界中,数据分析已经成为推动商业决策的关键因素。随着公司和组织越来越依赖数据来驱动业务战略,对数据分析专 ...
2024-11-03《Python数据分析极简入门》 第2节 2 Pandas数据类型 Pandas 有两种自己独有的基本数据结构。需要注意的是,它固然有着两种数据 ...
2024-11-01《Python数据分析极简入门》 第2节 1 Pandas简介 说好开始学Python,怎么到了Pandas? 前面说过,既然定义为极简入门,我们只抓 ...
2024-10-31在当今数据驱动的世界中,数据科学与工程专业的重要性愈发凸显。无论是推动技术进步,还是在商业决策中提供精准分析,这一专业都 ...
2024-10-30在当今信息爆炸的时代,数据已成为企业决策和战略制定的核心资源。爬虫工程师因此成为数据获取和挖掘的关键角色。本文将详细介绍 ...
2024-10-30在当今数据驱动的世界中,数据分析是揭示商业洞察和推动决策的核心力量。选择合适的数据分析工具对于数据专业人士而言至关重要。 ...
2024-10-30能源企业在全球经济和环境保护双重压力下,正面临前所未有的挑战与机遇。数字化转型作为应对这些挑战的关键手段,正在深刻变革传 ...
2024-10-30近年来,随着数据科学的逐步发展,Python语言的使用率也越来越高,不仅可以做数据处理,网页开发,更是数据科学、机器学习、深度 ...
2024-10-30大数据分析师证书 针对不同知识,掌握程度的要求分为【领会】、【熟知】、【应用】三个级别,考生应按照不同知识要求进行学习。 ...
2024-10-30《Python数据分析极简入门》 附:Anaconda安装教程 注:分Windows系统下安装和MacOS系统安装 1. Windows系统下安装 第一步清华大 ...
2024-10-29拥抱数据分析的世界 - 成为一名数据分析工程师是一个充满挑战和机遇的职业选择。要成功地进入这个领域,你需要掌握一系列关键技 ...
2024-10-28降本增效:管理战略的关键 企业管理中的降本增效不仅是一项重要的战略举措,更是激发竞争力、提高盈利能力的关键。这一理念在当 ...
2024-10-28企业数字化是指利用数字技术和信息化手段,对企业的各个方面进行改造和优化,以提升生产效率、服务质量和市场竞争力的过程。实现 ...
2024-10-28数据科学专业毕业后,毕业生可以选择从事多种不同的岗位和领域。数据科学是一个快速发展且广泛应用的领域,毕业生在企业、学术界 ...
2024-10-28学习数据科学与大数据技术是当今职业发展中至关重要的一环。从基础到高级,以下是一些建议的课程路径: 基础课程: Python编程 ...
2024-10-28在信息技术和数据科学领域,数据架构师扮演着至关重要的角色。他们负责设计和管理企业中复杂的数据基础设施,以支持数据驱动的决 ...
2024-10-28进入21世纪以来,随着信息技术的迅猛发展,大数据已经成为全球最具影响力的技术之一,并成为企业数字化转型的核心驱动力。大数据 ...
2024-10-28随着科技的迅猛发展,数字化转型已成为现代企业保持竞争力和推动增长的关键战略之一。数字化不仅仅是技术的应用,它代表着一种全 ...
2024-10-28