大数据:网络时代的“蒸汽机”
有人说大数据是大“忽悠”,有人说大数据没商业模式,凡此种种都反映出一个问题——大数据落地难。但就此否定大数据,无疑又走到了一个极端。可以把大数据理解为最初的蒸汽机,初期不是也有人驾马车一教高低吗?大数据也是如此!
传统数据挖掘和应用
从业务开始应用IT之日起,人们就没有停止过对数据的挖掘和利用。人们总是希望透过一定的技术方法,透视数据背后所隐藏的秘密。
在传统数据挖掘应用中,OLTP(On-Line Transaction Processing,联机事务处理系统)和OLAP(On-Line Analytical Processing,联机分析处理)是用户最为熟悉的技术应用。
大数据价值和路径
如今,大数据也是如此,根据IDC调查显示,“提高竞争优势”、“削减成本”和“提高客户忠诚度”是用户对于大数据分析的期待。
谈到大数据,很多人知道大数据具有4个V的特点,即Volume、Variety、Value、Velocity,其中,价值密度低(Value)的特点,就注定了没有办法用传统OLAP方法进行大数据处理。
但价值密度低并不意味着数据价值低。众所周知,奥巴马竞选总统,大数据功不可没。大数据带给人们无限的遐想。不要小看Facebook、微博、微信等社交媒体的一个“顶”或“赞”,尽管从个体来讲,其传递的信息价值有限,但从群体高度进行审视,结果将大大不同。
大数据不仅需要思考问题的方法,也需要可以挖掘、探索数据的平台和工具。鉴于传统OLAP的局限,NoSQL和列式数据库技术应运而生。
英特尔至强和大数据先行者们
大数据真正开始落地,始于互联网行业。以Google为代表,他们以x86服务器作为基础硬件平台,在其上构建了以NoSQL为核心的数据存储和处理方式,对外提供各种基于大数据分析和处理的服务,开创了大数据服务的先河。
目前没有人能够准确说出Google有多少台服务器,有人说100万台,也有消息称高达1000万台服务器。这是一个相当惊人的数量。根据相关统计显示,目前全球每年服务器的销量不过120万台。因此,大数据对于计算能力的需求高的惊人。
大数据具有海量、价值密度低的特征。因此,对于掌握大数据的互联网公司而言,如何按照其应用场景及需求对,对如此海量数据进行处理、分析,才是至关重要的。而他们也对于底层基础设施提出了更高的要求。,除了处理能力之外,成本是一个必须考量的因素开放的平台以及超高的性价比也是必须考量的因素。
与之相比,如果采用RISC处理大数据,其成本将难以支撑。很难想象Google用100万台RISC服务器处理数据,不要说100万台,1万台都不是Google可以承受的。随着大数据时代的来临,英特尔也敏锐洞察到了大数据市场的需求和发展,在硬件与软件层面对用户进行全面的大数据技术支持为此,英特尔推出了Hadoop分发版,从技术给用户以支持。
小结
目前大数据应用已经不局限在互联网企业,而是开始向传统行业/企业市场蔓延,以x86服务器为基础,无论是Vertica、Greenplum、GBase等列式数据库,还是Cloudera等Hadoop分布式数据库管理和开发工具,大数据服务提供商,如Splunk、Acitan、SAS、Tibco,从硬件、软件平台到大数据分析、应用和展示,一个完整的产业生态链已经比较成熟,未来值得期待。
毫无疑问,我们正处于一个数据爆炸的时代,移动互联网、社交媒体的发达,为行业/企业研究消费者提供了充足的数据,如何驾驭好大数据,将关系到企业的业务创新。可以说,生长在当下这样的一个时代,企业与用户从没有今日如此之接近,因此大数据堪称未来行业/企业的胜负手。
未来的市场不再是看不见,摸不着的市场,大数据能力的强与弱,既有可能成为企业、社会乃至一个国家、民族的分水岭,人类文明将迎来前所未有的高速成长,历史的车轮将会提速,滚滚向前!
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
如何构建数据分析整体框架? 要让数据分析发挥其最大效能,建立一个清晰、完善的整体框架至关重要。今天,就让我们一同深入探讨 ...
2024-12-27AI来了,数分人也可以很省力,今天给大家介绍7个AI+数据分析工具,建议收藏。 01酷表 EXCEL 网址:https://chatexcel.com/ 这是 ...
2024-12-26一个好的数据分析模型不仅能使分析具备条理性和逻辑性,而且还更具备结构化和体系化,并保证分析结果的有效性和准确性。好的数据 ...
2024-12-26当下,AI 的发展堪称狂飙猛进。从 ChatGPT 横空出世到各种大语言模型(LLM)接连上线,似乎每个人的朋友圈都在讨论 AI 会不会“ ...
2024-12-26数据分析师这个职业已经成为了职场中的“香饽饽”,无论是互联网公司还是传统行业,都离不开数据支持。想成为一名优秀的数据分析 ...
2024-12-26在数据驱动决策成为商业常态的今天,数据分析师这一职业正迎来前所未有的机遇与挑战。很多希望转行或初入职场的人士不禁询问:数 ...
2024-12-25数据分析师,这一近年来炙手可热的职业,吸引了大量求职者的注意。凭借在大数据时代中的关键作用,数据分析师不仅需要具备处理数 ...
2024-12-25在当今数字化变革的浪潮中,数据分析师这一职业正迎来前所未有的发展机遇。回想我自己初入数据分析行业时,那种既兴奋又略显谨慎 ...
2024-12-25在当今信息爆炸的时代,数据已经像空气一样无处不在,而数据分析则是解锁这些信息宝藏的钥匙。数据分析的过程就像是一次探险,从 ...
2024-12-25在职场上,拍脑袋做决策的时代早已过去。数据分析正在成为每个职场人的核心竞争力,不仅能帮你找到问题,还能提供解决方案,提升 ...
2024-12-24Excel是数据分析的重要工具,强大的内置功能使其成为许多分析师的首选。在日常工作中,启用Excel的数据分析工具库能够显著提升数 ...
2024-12-23在当今信息爆炸的时代,数据分析师如同一位现代社会的侦探,肩负着从海量数据中提炼出有价值信息的重任。在这个过程中,掌握一系 ...
2024-12-23在现代的职场中,制作吸引人的PPT已经成为展示信息的重要手段,而其中数据对比的有效呈现尤为关键。为了让数据在幻灯片上不仅准 ...
2024-12-23在信息泛滥的现代社会,数据分析师已成为企业决策过程中不可或缺的角色。他们的任务是从海量数据中提取有价值的洞察,帮助组织制 ...
2024-12-23在数据驱动时代,数据分析已成为各行各业的必需技能。无论是提升个人能力还是推动职业发展,选择一条适合自己的学习路线至关重要 ...
2024-12-23在准备数据分析师面试时,掌握高频考题及其解答是应对面试的关键。为了帮助大家轻松上岸,以下是10个高频考题及其详细解析,外加 ...
2024-12-20互联网数据分析师是一个热门且综合性的职业,他们通过数据挖掘和分析,为企业的业务决策和运营优化提供强有力的支持。尤其在如今 ...
2024-12-20在现代商业环境中,数据分析师是不可或缺的角色。他们的工作不仅仅是对数据进行深入分析,更是协助企业从复杂的数据信息中提炼出 ...
2024-12-20随着大数据时代的到来,数据驱动的决策方式开始受到越来越多企业的青睐。近年来,数据分析在人力资源管理中正在扮演着至关重要的 ...
2024-12-20在数据分析的世界里,表面上的技术操作只是“入门票”,而真正的高手则需要打破一些“看不见的墙”。这些“隐形天花板”限制了数 ...
2024-12-19