数据分析师在物联网的哪个环节?
物联网(Internet of Things)用最简单的一句话就是各种感知器的广泛应用,具体来说,要实现“物-物互联”,主要分三个层次:
(1)感知层:由各种传感器以及传感器网关构成,包括二氧化碳浓度传感器、温度传感器、湿度传感器、二维码标签、RFID 标签和读写器、摄像头、GPS等感知终端。感知层的作用相当于人的眼耳鼻喉和皮肤等神经末梢,它是物联网识别物体、采集信息的来源,其主要功能是识别物体,采集信息。
(2)网络层:由各种私有网络、互联网、有线和无线通信网、网络管理系统和云计算平台等组成,相当于人的神经中枢和大脑,负责传递和处理感知层获取的信息。
(3)应用层:物联网和用户(包括人、组织和其他系统)的接口,它与行业需求结合,利用云计算、模式识别等智能技术对数据进行处理分析。
比如,监测飞机喷气引擎中一些不易察觉的警报信号,以此来预测哪些设备需要进行维护,甚至能提前一个月预测其维护需求,预测准确率达到70%,这可以极大减少飞行延误。这也是跟我们数据分析师最相关一层。
聚焦在应用层,看数据分析师如何发挥他们的“雄才大略”:
刚刚说的飞机喷气引擎的例子,这个实际上是GE(通用电气)机器学习专家AnilVarma正在做的事情。这些传感器将温度、压力和电压等数据实时传输回GE进行分析。虽然资料中没有提及具体的算法,但数说君认为应该是:结合业务经验,构建一定的模型或者指标,监测“危险”信号,预测未来一段时间内的维护需求——一个典型的数据分析师的任务。
实际上,GE在这一块已经相当领先,涉及各个领域,比如GE与加拿大一家电力公司通过分析卫星影像、天气地图当地停电记录等数据预测树木修剪的热点地区(掉落的树枝是雷电导致停电的主要原因之一)。
GE全球董事长伊梅尔特戏言:“GE昨天还是一家制造业公司,一觉醒来已经成为一家软件和数据公司了。”
那么GE对数据人才是怎样的?数说君在GE的官网上搜集了一些人才需求,以数据科学家 Data Scientist为例,这个职位在上海:
职位:
The Data Scientist will work in the Digital Foundry addressing statistical, machine learning and data understanding problems in a commercial technology and consultancy development environment. In this role, you will contribute to the development and deployment of modern machine learning, operational research, semantic analysis, and statistical methods for finding structure in large data sets.
主要涉及机器学习、运筹学、语义分析、大数据的数据结构方法等。
要求:
Basic Qualifications:
Bachelor’s Degree in a “STEM” major (Science, Technology, Engineering, Mathematics)
Minimum 2 years analytics development in a commercial setting
Demonstrated skill in the use of one or more analytic software tools or languages (e.g., SAS, SPSS, R, Python)
Demonstrated skill at data cleansing, data quality assessment, and using analytics for data assessment
Demonstrated skill in the use of applied analytics, deive statistics, and predictive analytics on industrial datasets
简单而言就是STEM专业(科学、技术、工程、数学)的学士以上,至少2年工作经验、掌握统计软件如R、SAS、SPSS、Python,有数据清洗、数据质量评估和分析的技能,可以对工业数据进行应用分析、描述统计以及预测分析等。
我们非常熟悉的SAS公司,也在物联网上进行了布局,实际上,SAS已经推出了专门的物联网分析产品。
SAS®物联网分析(SAS® Analytics for IoT)是在SAS成熟的数据分析产品基础上组合而成的全新套装产品,成功将SAS大数据分析的核心技术应用到了物联网连接的传感器和设备上。SAS物联网分析结合了流技术、数据分析和其他领域专长,把物联网数据转化为深刻洞察。
例如SAS可向企业提供稳健的维保需求预测方案,实现当即制定个性化产品,促使企业采取具有商业价值的行动等。
SAS物联网分析可以帮助企业解读快速流转并积累的数据,协助客户根据数据信息做出正确决策。由此产生的收益,例如安全性和产品质量的提高、人身伤害的减少等,能转化为更有益的利润。制造业、能源、零售业等相关行业都可以从SAS®物联网分析中获益。
科尼集团是一家工业起重机制造商,利用SAS,他们分析设备和客户数据,以及使用情况、撞击数据,把大数据同可靠性分析与模拟相结合,提高预测能力。
另外在农业上,我们也介绍过在畜牧场、农场如何使用传感器进行监测分析的例子(Farmeron:农场主的数据分析工具;德强农场—一家国内大数据农场)。
从以上内容,我们稍稍提炼一下数据分析师在物联网大数据的实践技能:
1)语义引擎、多元数据融合技术
物联网中数据的存储方式、组织结构以及时效性呈现出多样性。我们需要一系列的工具去解析、提取、分析数据,语义引擎需要被设计成能够从“文档”中智能提取信息。
2)海量数据挖掘技术
MapReduce架构可以作为海量数据资源知识元挖掘算法的统一处理机制,在Hadoop分布式系统平台上,能够实现分类、聚类和关联知识挖掘等算法,深入数据内部,挖掘价值,这些算法不仅要处理大数据的量,也要处理大数据的速度。
3)可视化分析
近随着处理的数据量越来越大,可视化的需求越高越高。对体量大、多源的物联网数据而言,可视化呈现是一个非常重要的技能。
4)预测分析能力
预测是物联网的一个重要应用,无论是农业产量、物流,还是工业设备维护,预测效果直接显像在应用层面。
12年GE发布的报告显示,每提高1%的燃油效率,航空业每年能节省20亿美元,而能源行业则能节省40亿美元。到2020年全球工业互联网年产值将达到2250亿美元,大大超越消费物联网1700亿美元的产值。
最后,物联网是个陌生又有点熟悉的行业,对我而言更多的是一个学习的态度,非常非常希望能有这方面的专家赐文指导。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
随着大数据时代的深入发展,数据运营成为企业不可或缺的岗位之一。这个职位的核心是通过收集、整理和分析数据,帮助企业做出科 ...
2025-04-11持证人简介:CDA持证人黄葛英,ICF国际教练联盟认证教练,前字节跳动销售主管,拥有丰富的行业经验。 本次分享我将以教培行业为 ...
2025-04-11近日《2025中国城市长租市场发展蓝皮书》(下称《蓝皮书》)正式发布。《蓝皮书》指出,当前我国城市住房正经历从“增量扩张”向 ...
2025-04-10在数字化时代的浪潮中,数据已经成为企业决策和运营的核心。每一位客户,每一次交易,都承载着丰富的信息和价值。 如何在海量客 ...
2025-04-09数据是数字化的基础。随着工业4.0的推进,企业生产运作过程中的在线数据变得更加丰富;而互联网、新零售等C端应用的丰富多彩,产 ...
2025-04-094月7日,美国关税政策对全球金融市场的冲击仍在肆虐,周一亚市早盘,美股股指、原油期货、加密货币、贵金属等资产齐齐重挫,市场 ...
2025-04-08背景 3月26日,科技圈迎来一则重磅消息,苹果公司宣布向浙江大学捐赠 3000 万元人民币,用于支持编程教育。 这一举措并非偶然, ...
2025-04-07在当今数据驱动的时代,数据分析能力备受青睐,数据分析能力频繁出现在岗位需求的描述中,不分岗位的任职要求中,会特意标出“熟 ...
2025-04-03在当今数字化时代,数据分析师的重要性与日俱增。但许多人在踏上这条职业道路时,往往充满疑惑: 如何成为一名数据分析师?成为 ...
2025-04-02最近我发现一个绝招,用DeepSeek AI处理Excel数据简直太爽了!处理速度嘎嘎快! 平常一整天的表格处理工作,现在只要三步就能搞 ...
2025-04-01你是否被统计学复杂的理论和晦涩的公式劝退过?别担心,“山有木兮:统计学极简入门(Python)” 将为你一一化解这些难题。课程 ...
2025-03-31在电商、零售、甚至内容付费业务中,你真的了解你的客户吗? 有些客户下了一两次单就消失了,有些人每个月都回购,有些人曾经是 ...
2025-03-31在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的需求持续飙升。世界经济论坛发布的《未来就业报告》, ...
2025-03-28你有没有遇到过这样的情况?流量进来了,转化率却不高,辛辛苦苦拉来的用户,最后大部分都悄无声息地离开了,这时候漏斗分析就非 ...
2025-03-27TensorFlow Datasets(TFDS)是一个用于下载、管理和预处理机器学习数据集的库。它提供了易于使用的API,允许用户从现有集合中 ...
2025-03-26"不谋全局者,不足谋一域。"在数据驱动的商业时代,战略级数据分析能力已成为职场核心竞争力。《CDA二级教材:商业策略数据分析 ...
2025-03-26当你在某宝刷到【猜你喜欢】时,当抖音精准推来你的梦中情猫时,当美团外卖弹窗刚好是你想吃的火锅店…… 恭喜你,你正在被用户 ...
2025-03-26当面试官问起随机森林时,他到底在考察什么? ""请解释随机森林的原理""——这是数据分析岗位面试中的经典问题。但你可能不知道 ...
2025-03-25在数字化浪潮席卷的当下,数据俨然成为企业的命脉,贯穿于业务运作的各个环节。从线上到线下,从平台的交易数据,到门店的运营 ...
2025-03-25在互联网和移动应用领域,DAU(日活跃用户数)是一个耳熟能详的指标。无论是产品经理、运营,还是数据分析师,DAU都是衡量产品 ...
2025-03-24