数据分析师会被机器学习和算法取代么?
《疑犯追踪》里的那个“机器”,主要工作就是分析人的行为,然后找出一些“目标人员”,再由业务人员去接触。看上去,这个机器完全是代替了数据分析师的工作啊。
抛开美剧里的这种有所夸张的内容,在现实中,当一个数据分析师跟别人聊天的时候,经常会被问一些问题:
Q:数据分析人员能做什么?
A:从纷繁的数据里提炼出有价值的信息并给公司提供支持啊。
Q:你怎么提炼啊?
A:写程序采集啊,清洗啊,用一定的算法计算数据内部联系,根据业务做出判断啊……
Q:如果都是用已有的算法,这些事情为什么不能用现成的流程来做呢?或者为什么不能写成程序,让机器自己实现呢?
A:呃…………
作为一名数据分析师,跟人聊天聊成这样,非常常见也非常令人不爽。但我们数据分析师是不是仅能手工操作一些算法,等着机器和算法逐步取代我们么?并不是!
照例观点先行:数据分析不等于数据分析算法/程序,数据分析算法/程序只是分析师手中的工具,数据分析要取得成功必须依赖人的力量,数据分析师的作用在于根据对业务的理解,合理使用分析工具,完成分析目标。
结合业务的数据分析才是科学的,一切只看计算机输出结果不考虑业务实际情况的数据分析都是无(shua)用(liu)功(mang)。计算机能实现的算法也好,程序也好,只是数据分析中的一部分;如何选择分析切入点,如何选择数据来源,如何确定算法,如何解读结论,这些机器统统做不了,需要我们数据分析师来解决。
观点在上边两段里已经充分展示了,接下来我要愉快的展(che)开(dan)观点内容了:
数据分析通常包括几个阶段:提出/发现问题——获取并清洗数据——建模——调整优化——输出结论。
这是一个闭环流程,每一步都需要人工参与,程序会参与中间三步,算法在建模中会用到,而数据分析的最重要两步,问题和结论,目前是不可能完全交给计算机去处理的(其实我个人认为这两步在真正的人工智能出现前,绝不可能由计算机自动处理),因此数据分析人员最大的优势,就是“经验”,也就是业务理解能力和数据分析经验。
详细解释一下数据分析的几个阶段:
提出/发现问题阶段:
大多数时候,数据分析都是为了解决一个问题(锁定某个产品的目标客户,对同样的人群做营销活动用A方案好还是B方案好,等等),或者验证一个猜想(不让旅游者上班高峰坐地铁是不是会大幅度缓解拥挤现象,啤酒和尿布放一起是不是真的会提升啤酒的销售额,等等),总之需要达到一个目标。即使是探索性分析(拿着一大堆数据看看能不能找出点什么结论),那也需要先预设一个或多个目标作为切入点,然后在探索过程中逐步修正。
提出和发现问题的过程,交给计算机干不太靠谱,首先计算机不会提出问题(因为笨),其次计算机能发现的问题也一定是人已经发现了的问题(还是因为笨),需要先有人来设定规则,然后计算机才能根据规则发现问题。而数据分析师,就是设定规则的人。
目标和规则的设定,一定要基于业务,这样分析结果才有用,否则会得出正确但无用的结论。举个栗子,订阅报纸的数据扔给计算机去分析关联关系,看有哪些报纸可以进行组合促销,最后得出个光明日报和人民日报关联系数90%多,所以这俩报纸可以组合起来卖,问题是这俩报纸本来就是要求党政机关订阅的党报,组合起来毫无意义,该订的还是要订,不订的还是不订,这就是典型的正确但无用的分析结果。懂业务能让分析师少做这种无用功,但是计算机要想懂业务就得由人来教,教还不一定能教会,教完了又不能触类旁通(报纸的关联算法拿到电商去完全不能用啊),这样的计算机永远都不如分析师懂业务。
获取并清洗数据:
这个阶段计算机参与的较多,分析师的工作是指出拿什么数据,拿哪些字段,数据获取到以后用哪些规则进行清洗整理。如果数据源不变,需要重复或定期进行分析时,这个阶段的规则可以固化,由计算机来自动执行,但规则仍然是由分析师来制定的。
建模、调整优化:
这两个阶段中,分析算法出场了,描述分析、关联分析、回归、分类、聚类、时间序列,每个类别里都有一大堆的固定算法,分析师不能通过手算得出结论,需要借助封装好算法的分析工具(图形化的SPSS,命令行方式的R,等等),看来这一阶段计算机要超越分析师了!
等等,建模哪有这么简单,计算机解决不了的问题一大堆呢:什么时候用哪个类别的算法(该做分类还是聚类),同一类别不同算法哪个更适合当前情况(K-means还是两步聚类,这是个问题),同一个算法怎么调整参数能使效果更好(到底该把用户聚成几类呢),算法输出的结果是否正常(有一部分数据出了问题导致分析结果出现偏差)等等。这些问题计算机统统不知道耶,需要分析师来告诉它该做什么事。
打个比方,数据分析就是打仗,算法是机枪、大炮、坦克等等技术兵器,分析师是士兵、炮手、驾驶员(操纵者),不能因为士兵自己不能一分钟吐出几百发子弹或者炮手自己不能一下子拆掉一个碉堡,就让机枪大炮坦克把操纵者扔下,自己上阵去打仗……就算是无人机,那也得有个拿遥控器的驾驶员蹲在办公室里操作啊……
算法始终只是工具,数据分析效果如何还是要看用工具的分析师功力如何。一个做过几十个分析项目的分析师,功力通常来说比刚入行的分析师或者纯开发人员要深厚一些(极少数天赋异禀的不算……),选算法调参数建模型的能力更强一些,分析出来的结果也会相对靠谱一些——没错,经验在这两个阶段就是优势。
输出结论:
这一阶段计算机的工作已经基本完成了,对模型输出的数据进行解读,那完全是分析师的天下——同一份数据给不同的分析师,可能会得出不同的结论,很多时候分析师并不单单根据数据本身得出结论,还要结合很多外界因素来修正结论。分析师的经验越丰富,拥有的有效信息量越多,得出的结论就越接近事实(之所以用接近,是因为对数据解读的准确度永远达不到100%,影响结果的因素太多了,比如一个企业销售额连续增长10年,分析师根据公司数据和市场情况判断下一年还会继续增长,结果老板出事跑路了,企业直接倒闭),而这个过程是计算机目前没办法自主进行的,商业智能系统做的再好,也需要由分析师来设定规则,告诉计算机在什么时间需要做什么。
也许随着大数据和人工智能的发展,有一天计算机可以完全不依赖人工设定的规则(不需要确定数据来源,不需要选择算法和模型,不需要人工干预来修正模型,等等),自己对数据进行全方位的分析,加入所有因素的影响,并输出准确度非常高的报告,只有到那时候,分析师才会失业啊。
不过,真到了那一天,恐怕不光是分析师失业的问题吧……
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
“最近复购率一直在下降,我们的营销力度不小啊,为什么用户还是走了?” “是不是广告投放的用户质量不高?还是我们的产品问题 ...
2025-02-21以下文章来源于数有道 ,作者数据星爷 SQL查询是数据分析工作的基础,也是CDA数据分析师一级的核心考点,人工智能时代,AI能为 ...
2025-02-19在当今这个数据驱动的时代,几乎每一个业务决策都离不开对数据的深入分析。而其中,指标波动归因分析更是至关重要的一环。无论是 ...
2025-02-18当数据开始说谎:那些年我们交过的学费 你有没有经历过这样的场景?熬了三个通宵做的数据分析报告,在会议上被老板一句"这数据靠 ...
2025-02-17数据分析作为一门跨学科领域,融合了统计学、编程、业务理解和可视化技术。无论是初学者还是有一定经验的从业者,系统化的学习路 ...
2025-02-17挖掘用户价值本质是让企业从‘赚今天的钱’升级为‘赚未来的钱’,同时让用户从‘被推销’变为‘被满足’。询问deepseek关于挖 ...
2025-02-17近来deepseek爆火,看看deepseek能否帮我们快速实现数据看板实时更新。 可以看出这对不知道怎么动手的小白来说是相当友好的, ...
2025-02-14一秒精通 Deepseek,不用找教程,不用买资料,更不用报一堆垃圾课程,所有这么去做的,都是舍近求远,因为你忽略了 deepseek 的 ...
2025-02-12自学 Python 的关键在于高效规划 + 实践驱动。以下是一份适合零基础快速入门的自学路径,结合资源推荐和实用技巧: 一、快速入 ...
2025-02-12“我们的利润率上升了,但销售额却没变,这是为什么?” “某个业务的市场份额在下滑,到底是什么原因?” “公司整体业绩 ...
2025-02-08活动介绍 为了助力大家在数据分析领域不断精进技能,我们特别举办本期打卡活动。在这里,你可以充分利用碎片化时间在线学习,让 ...
2025-02-071、闺女,醒醒,媒人把相亲的带来了。 我。。。。。。。 2、前年春节相亲相了40个, 去年春节相亲50个, 祖宗,今年你想相多少个 ...
2025-02-06在数据科学的广阔领域中,统计分析与数据挖掘占据了重要位置。尽管它们常常被视为有关联的领域,但两者在理论基础、目标、方法及 ...
2025-02-05在数据分析的世界里,“对比”是一种简单且有效的方法。这就像两个女孩子穿同一款式的衣服,效果不一样。 很多人都听过“货比三 ...
2025-02-05当我们只有非常少量的已标记数据,同时有大量未标记数据点时,可以使用半监督学习算法来处理。在sklearn中,基于图算法的半监督 ...
2025-02-05考虑一种棘手的情况:训练数据中大部分样本没有标签。此时,我们可以考虑使用半监督学习方法来处理。半监督学习能够利用这些额 ...
2025-02-04一、数学函数 1、取整 =INT(数字) 2、求余数 =MOD(除数,被除数) 3、四舍五入 =ROUND(数字,保留小数位数) 4、取绝对值 =AB ...
2025-02-03作者:CDA持证人 余治国 一般各平台出薪资报告,都会哀嚎遍野。举个例子,去年某招聘平台发布《中国女性职场现状调查报告》, ...
2025-02-02真正的数据分析大神是什么样的呢?有人认为他们能轻松驾驭各种分析工具,能够从海量数据中找到潜在关联,或者一眼识别报告中的数 ...
2025-02-01现今社会,“转行”似乎成无数职场人无法回避的话题。但行业就像座围城:外行人看光鲜,内行人看心酸。数据分析这个行业,近几年 ...
2025-01-31