全球数据每两年翻番 催生大数据机遇和IT新职位
EMC公司今天宣布,由EMC赞助的题为“从混乱中挖掘价值”的IDC最新“数字宇宙”研究结果,全世界的信息量每两年以超过翻番的速度增长,2011年将产生和复制1.8ZB的海量数据,其增长速度超过摩尔定律。
今年是IDC第五次进行每年一次的“数字宇宙”研究,该研究衡量和预测每年产生及复制的数字信息量,并分析这些数字信息对个人、企业以及IT专业人士的意义。今年的IDC“数字宇宙”研究对大数据而言有着巨大的经济、社会和技术意义,而且揭示了其他一些商机。
仅就数据量而言,1.8ZB数据相当于:
中国每个人每分钟发送3条微博且连续6217年不间断。
全世界每个人每天进行逾2.15亿次高分辨率核磁共振成像(MRI)扫描。
超过2000亿个高清电影(每个长度为两小时),一个人24小时不间断地看这些电影,全部看完需要4700万年。
这些信息将填满575亿个32GB的苹果iPad。如果有这么多iPad,我们可以:
建起一堵长4005英里、高61英尺、从美国阿拉斯加安克雷奇一直延伸到佛罗里达迈阿密的iPad墙。
在中国建起一堵iPad长城,平均高度是真实长城的两倍。
围着南美建起一堵高20英尺的墙。
覆盖86%的墨西哥城。
建起一座比富士山高25倍的山峰。
这种数据持续增长背后的驱动力是技术和金钱。新的“掌控与利用信息”的技术正在促使信息产生、获取、管理和存储成本的下降,现在该成本是2005年的1/6。此外,自2005年以来,企业在数字宇宙领域的年度投资已经增加了50%,达到了4万亿美元。这些投资指云计算、硬件、软件、服务和人员的投资,以产生、管理和存储信息并从信息产生收入。
研究结果要点:
服务器、数据管理和文件的海量增长与人员配备不匹配:IDC特别提到,管理海量数据所需的技能、经验和资源根本跟不上所有领域的增长。在下一个10年(到2020年),全世界的IT部门都将看到:
服务器数量增加10倍(虚拟的和物理的)。
有待管理的信息量增加50倍。
文件或在数字宇宙中封装信息的器件的数量增加75倍,文件或容器甚至比信息本身增加得还快,因为出现了越来越多的嵌入式系统,如衣服、桥梁或医疗设备中的传感器。
能够管理这一切的IT专业人员的数量增加1.5倍。
云计算的成本和运营效率:尽管在今天的IT支出中,云计算占不到2%,但是IDC估计,到2015年,将近20%的信息要通过云计算服务提供商才能接触到,这意味着,字节在从产生到废弃的过程中,将经过在云中存储或处理这一环。也许多达10%将存储在云中。
数字影子有自己的头脑:个人产生的信息量(写文件、拍照片、下载音乐等的信息量)远远少于在数字宇宙中产生的有关这些人的信息量。
企业负有大部分责任和义务:尽管数字宇宙中75%的信息由个人产生,但是在信息数字生命的某个点上,企业对数字宇宙中80%的信息负有某种责任。
EMC公司首席市场官Jeremy Burton表示:“大量杂乱无章的信息无休止地增加,带来了无穷无尽的机会,将促使社会、技术、科学和经济发生根本性改变。信息是企业最重要的资产,大数据正在促使企业改变信息管理方式,并从信息中挖掘出更大的价值。EMC正处于云计算与大数据的理想交汇点,从全世界最大的企业、政府机构到成长型企业,所有客户在云计算之旅中,都可以在EMC的帮助下,利用数字宇宙中隐藏的价值。”
其他重要结果
新的获取、搜索、发现和分析工具可以帮助企业获得有关非结构化数据的深入信息,非结构化数据在数字宇宙中所占比超过90%。与标记Facebook照片的面部识别程序类似,这些工具可以自动产生有关数据的资料。有关数据的资料或称元数据的增长率是数字宇宙总体增长率的两倍。
商务智能工具越来越多地用来处理实时数据,无论是基于驾车目的地收取汽车保险费、通过智能电网送电,还是基于社交网络的反应实时更改市场信息,都可以使用商务智能工具。
新的存储管理工具,如重复数据消除、自动分层和虚拟化,可用来降低我们在数字宇宙存储内容方面的成本,并帮助我们准确地决定存储什么,就像采用内容管理解决方案一样。
新的信息安全实践和工具可帮助企业确定,哪些信息需要保证安全性,需要保证什么级别的安全性,并利用特定预防安全威胁的设备和软件、欺诈管理系统、声誉保护服务等来保护信息安全。
云计算解决方案:与传统IT环境相比,公有云、私有云及混合云为企业提供了更高的规模经济性、敏捷性和灵活性。长远来看,云计算将成为应对数字宇宙复杂性的关键方法。
云计算使IT即服务成为可能,再加上与大数据交汇,企业将越来越多地将IT作为外部服务而非内部基础设施投资。
数字宇宙的增速将继续超过存储容量的增速。不过请记住,1GB的存储内容可能产生1PB或更多的瞬态数据,我们一般不会存储这种瞬态数据(例如:我们观看数字电视但不会录制;在主干网络中数字化的语音仅在通话期间存在)。
数字宇宙中有不到1/3的信息,其安全性或保护至少是最低限度的;应该得到保护的信息仅约一半得到了保护。
数据分析咨询请扫描二维码
统计学基础 - 理解统计学的基本概念和方法是数据分析师必备的技能之一。统计学为他们提供了处理数据、进行推断和建模的基础。 数 ...
2024-11-25数据分析师在如今信息爆炸的时代扮演着至关重要的角色。他们不仅需要具备扎实的数据分析技能,还需要不断学习和适应不断发展的技 ...
2024-11-25数据分析师的工作职责涉及多个关键方面,从数据的获取到处理、分析再到可视化,旨在为企业的决策提供有力支持。让我们深入了解数 ...
2024-11-25数据分析师:洞察力量的引擎 数据分析师的兴起 数据分析师行业目前正处于快速发展阶段,市场需求持续增长,薪资水平也有所提升。 ...
2024-11-25数据收集与整理 - 从各种来源收集数据,清洗和整理以确保数据质量和可用性。 数据分析与建模 - 运用统计学方法和机器学习模型对 ...
2024-11-25数据分析是当今社会中不可或缺的一项技能,涵盖了广泛的工具和技术。其中,掌握各种数据处理函数对于数据分析师至关重要。本文将 ...
2024-11-25“大数据治理”是一个涵盖广泛的复杂概念,其核心在于确保大规模、多样化的数据资源能够被有效管理和利用。不仅涉及数据的采集、 ...
2024-11-25一、引言 背景介绍 随着信息技术的快速发展和互联网的普及,大数据已经成为现代社会的重要资产。大数据的兴起不仅推动了各行各业 ...
2024-11-25《Python数据分析极简入门》 第2节 7 Pandas分组聚合 分组聚合(group by)顾名思义就是分2步: 先分组:根据某列数据的值进行 ...
2024-11-25数据分析需要学习的内容非常广泛,涵盖了从理论知识到实际技能的多个方面。以下是数据分析所需学习的主要内容: 数学和统计学 ...
2024-11-24数据分析师需要具备一系列多方面的技能和能力,以应对复杂的数据分析任务和业务需求。以下是数据分析师所需的主要能力: 统计 ...
2024-11-24数据分析师需要学习的课程内容非常广泛,涵盖了从基础理论到实际应用的多个方面。以下是根据我搜索到的资料整理出的数据分析师需 ...
2024-11-24《Python数据分析极简入门》 第2节 6 Pandas合并连接 在pandas中,有多种方法可以合并和拼接数据。常见的方法包括append()、conc ...
2024-11-24《Python数据分析极简入门》 第2节 5 Pandas数学计算 importpandasaspdd=np.array([[81,&n ...
2024-11-23数据分析涉及多个方面的学习,包括理论知识和实践技能。以下是数据分析需要学习的主要方面: 基础知识: 数据分析的基本概念 ...
2024-11-22数据分析适合在多个单位工作,包括但不限于以下领域: 金融行业:金融行业对数据分析人才的需求非常大,数据分析师可以从事经 ...
2024-11-22数据分析是一种涉及从大量数据中提取有用信息和洞察力的过程。其工作内容主要包括以下几个方面: 数据收集与整理:数据分析师 ...
2024-11-22数据分析师需要掌握多种技能,以确保能够有效地处理和分析数据,并为业务决策提供支持。以下是数据分析师需要掌握的主要技能: ...
2024-11-22数据开发和数据分析是两个密切相关但又有所区别的领域。以下是它们的主要区别: 定义和目标: 数据开发:数据开发涉及数据的 ...
2024-11-22数据架构师是负责设计和管理企业数据架构的关键角色,其职责涵盖了多个方面,包括数据治理、数据模型设计、数据仓库构建、数据安 ...
2024-11-22