回顾与展望丨数据科学 机器学习:2017年的主要发展和2018年的关键趋势
KDnuggets邀请了数据科学相关领域杰出的代表人物对2017年的主要发展和2018年的趋势进行了总结和预测。主要内容涉及到 AI 、深度学习、机器学习、安全、AlphaGo Zero等等。
Kirk D. Borne
BoozAllen的首席数据科学家,天体物理学博士。数据科学和大数据领域的影响者。
回顾 2017
在2017年,技术成熟度曲线(Technology Hype Cycle)的中心位置由原来的大数据渐渐被 AI 取代。媒体和从业者对 AI 的关注在正面新闻,比如越来越强大的机器学习算法和 AI 在汽车、医疗影像、金融服务等行业的应用;以及负面新闻,关于机器将抢走人类工作的威胁。
我们还见证了数据方面创新的发展,包括更多地使用API,即服务提供、数据科学平台、深度学习,以及云机器学习服务。大数据、机器学习和 AI 的专业应用,包括机器智能、规范性分析、行为分析和物联网。
展望 2018
在2018年,我们还需要关注 AI 的其他方面。比如 AI 的价值,衡量它的投资回报率,让其可以实际操作。
主要的发展领域与2017年没有太大差别,主要包括过程自动化、机器智能、客户服务。我们还将见证物联网的日益成熟,包括更强大的安全特性、模块化平台、传感器数据流的AP等。在2018年,更多的从业人员将面对挑战,向持怀疑态度的公众传达 AI 的好处。
Tom Davenport
巴布森学院信息技术与管理专业的杰出教授,国际分析研究所联合创始人,麻省理工学院数字经济学的研究员,德勤分析的高级顾问。
回顾 2017
企业 AI 成为主流,许多大型的知名公司正在进行 AI 或机器学习。一些公司拥有超过50个用到各种技术的项目。大型供应商开始转为开源、自己动手的项目类型。当然,这意味着公司必须提高其数据科学技能。
机器学习应用到数据集成,数据分析和数据管理中之前存在的挑战现在能通过机器学习解决。通过劳动密集型方法对数据进行集成和管理正在被替换,至少是通过不同数据库中相似数据元素的“概率匹配”来实现的。这能够减少整合数据的时间。
开放源代码的企业接受开源,传统的银行、保险和医疗等行业,正在积极地接受开源分析、 AI 和数据管理软件。
展望 2018
我们已经进入了“后算法”时代。之前分析师和数据科学家需要一定的知识来确定使用哪种算法。但是,分析和机器学习过程的自动化能够思考100种以上的不同算法。重要的是模型的效果和整体表现。
独立的 AI 创业公司的吸引力开始减弱。在风险投资基金的推动下,过去几年中成立了数百家 AI 创业公司。当中大多数解决的是较小的问题。然而,即使能够有效地运作,能够与现有流程和系统集成是其主要挑战。因此,成熟的企业更倾向于开发自己的 AI “微服务”,这些服务相对更容易集成,或者从那些将 AI 嵌入到交易系统的供应商购买。
Jill Dyche
SAS Best Practice的副总裁,畅销商业书籍的作者。
回顾 2017
如今几乎每个人都会应用到 AI 和机器学习。2017年,许多供应商都在开发自己的 AI 产品。
展望 2018
在2018年,商业对话和案例中,AI/ML方面会显著增长。这是因为企业有许多业务问题需要解决,管理者不关心神经网络是否要处理稀疏的数据;对自然语言处理中的词汇推理挑战。相反,他们想要加速供应链,知道客户下一步想做什么,然后简单地告诉电脑他们想要什么。这是一种规范性分析,那些能够以简便的方式解决该问题的供应商能够笑到最后。
Carla Gentry
Analytical Solution的数据科学家
回顾 2017
2017年,每个人都开始讨论机器学习、AI 和预测分析。但实际上许多这些公司,供应商只是热衷于这些热词,而并没有他们宣称的相关背景。在这些领域的经验需要时间和才干,而不仅仅是盲目的呼吁行动。总之,经验才是最重要的!
展望 2018
2018年,我们需要关注数据科学和预测分析的领导者。不是因为这很热门,而是因为这能给你的企业带来巨大的变化。
对招聘进行预测可以节省数百万人的成本;AI 和机器学习可以在几秒钟内完成你需要几天去做的事情。技术可以把我们提升到新的高度,但作为数据科学家,需要通过法律和社会的基本道德。
Bob E. Hayes
研究人员,作家,Business Over Broadway的出版商,组织心理学博士。
回顾 2017
数据科学和机器学习越来越多地应用于各种行业和领域。在2017年,我们目睹了 AI 的巨大进步。虽然之前深度学习模型需要大量的数据教算法,但是神经网络和强化学习表明,创建高性能的算法时并不需要数据集。DeepMind采用了这些技术,开发了Alpha Go Zero,这更优于之前版本的算法。
展望 2018
随着 AI 在刑事司法、金融、教育等领域的持续发展,我们将需要建立算法标准,用来评估其不准确性和偏差。包括建立 AI 的使用规则(例如,避免决策中的暗箱操作),并理解深度学习算法如何做出决定。
数据中心的安全漏洞将继续攀升,即使互联网时代出现的公司(例如imgur, Uber)。因此,我们将看到安全措施方面的改革的,将增加区块链的可见性作为一种可行的方式,用来改善公司如何获得其选区的数据。
Gregory Piatetsky-Shapiro
KDnuggets总裁,数据科学家,KDD和SIGKDD会议(知识发现和数据挖掘专业组织)的联合创始人。
回顾 2017
·AlphaGo Zero可能是2017年 AI 最重要的研究进展。
· 数据科学方面自动化的增长,提供了更多提供自动化工具的机器学习平台。
· AI 的舆论热度和期望的增长甚至比 AI 和深度学习的发展还快。
展望 2018
· GDPR(欧洲通用数据保护条例)将在2018年5月25日生效,这将对数据科学产生重大影响,其中包括解释的权利(你的深度学习方法是否可以解释为什么某人被拒绝贷款等),以及防止偏见和歧视。
· 谷歌 DeepMind 团队将跟进AlphaGo Zero的惊人结果,并实现另一个强大的性能。在几年前,许多人认为这是计算机无法做到的。
(注: DeepMind 取得的另一个突破进展发生在2017年12月,AlphaZero在4个小时内就能熟练掌握国际象棋,同样的自我博弈学习程序可以在国际象棋、围棋和日本将棋方面达到超人般的表现。)
·我们将会看到更多的自动驾驶汽车的发展,包括首次出现的问题正在被解决(比如拉斯维加斯的无人驾驶飞机,一开始不知道如何让道,但之后能够让道)。
· AI 的泡沫将继续存在,但我们将看到重组和整合的迹象。
Paul Gearan,Heather Allen,Karl Rexer
Rexer Analytics的负责人,Rexer Analytics是一家数据挖掘和高级分析咨询公司。
回顾 2017
对于没有研究或分析背景的人群,使用商业智能软件仍然面临许多障碍。当然出现了Tableau、IBM Watson、Microsoft Power BI等软件。然而,根据Rexer Analytics在2017年收集的数据,只有近一半的受访者表示,除了数据科学团队,他们公司其他员工也有使用相关自助工具。工具使用时,常见的问题有难以理解分析过程以及对分析结果的误解。
展望 2018
对于2018年,实现推广数据科学工具的目标是扩大分析的使用范围,从而得出有效的结果,这是至关重要的。通常情况下,向非数据分析方面的员工和管理人员提供工具,让他们对自己的假设进行探索和可视化是很重要的。但同样重要的是,团队要与数据科学专业人员一起开发模型并解读得出的见解,这些专业人员经过培训,能够掌握特定分析技术的应用。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在当今数据驱动的时代,数据分析能力备受青睐,数据分析能力频繁出现在岗位需求的描述中,不分岗位的任职要求中,会特意标出“熟 ...
2025-04-03在当今数字化时代,数据分析师的重要性与日俱增。但许多人在踏上这条职业道路时,往往充满疑惑: 如何成为一名数据分析师?成为 ...
2025-04-02最近我发现一个绝招,用DeepSeek AI处理Excel数据简直太爽了!处理速度嘎嘎快! 平常一整天的表格处理工作,现在只要三步就能搞 ...
2025-04-01你是否被统计学复杂的理论和晦涩的公式劝退过?别担心,“山有木兮:统计学极简入门(Python)” 将为你一一化解这些难题。课程 ...
2025-03-31在电商、零售、甚至内容付费业务中,你真的了解你的客户吗? 有些客户下了一两次单就消失了,有些人每个月都回购,有些人曾经是 ...
2025-03-31在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的需求持续飙升。世界经济论坛发布的《未来就业报告》, ...
2025-03-28你有没有遇到过这样的情况?流量进来了,转化率却不高,辛辛苦苦拉来的用户,最后大部分都悄无声息地离开了,这时候漏斗分析就非 ...
2025-03-27TensorFlow Datasets(TFDS)是一个用于下载、管理和预处理机器学习数据集的库。它提供了易于使用的API,允许用户从现有集合中 ...
2025-03-26"不谋全局者,不足谋一域。"在数据驱动的商业时代,战略级数据分析能力已成为职场核心竞争力。《CDA二级教材:商业策略数据分析 ...
2025-03-26当你在某宝刷到【猜你喜欢】时,当抖音精准推来你的梦中情猫时,当美团外卖弹窗刚好是你想吃的火锅店…… 恭喜你,你正在被用户 ...
2025-03-26当面试官问起随机森林时,他到底在考察什么? ""请解释随机森林的原理""——这是数据分析岗位面试中的经典问题。但你可能不知道 ...
2025-03-25在数字化浪潮席卷的当下,数据俨然成为企业的命脉,贯穿于业务运作的各个环节。从线上到线下,从平台的交易数据,到门店的运营 ...
2025-03-25在互联网和移动应用领域,DAU(日活跃用户数)是一个耳熟能详的指标。无论是产品经理、运营,还是数据分析师,DAU都是衡量产品 ...
2025-03-24ABtest做的好,产品优化效果差不了!可见ABtest在评估优化策略的效果方面地位还是很高的,那么如何在业务中应用ABtest? 结合企业 ...
2025-03-21在企业数据分析中,指标体系是至关重要的工具。不仅帮助企业统一数据标准、提升数据质量,还能为业务决策提供有力支持。本文将围 ...
2025-03-20解锁数据分析师高薪密码,CDA 脱产就业班助你逆袭! 在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的 ...
2025-03-19在 MySQL 数据库中,查询一张表但是不包含某个字段可以通过以下两种方法实现:使用 SELECT 子句以明确指定想要的字段,或者使 ...
2025-03-17在当今数字化时代,数据成为企业发展的关键驱动力,而用户画像作为数据分析的重要成果,改变了企业理解用户、开展业务的方式。无 ...
2025-03-172025年是智能体(AI Agent)的元年,大模型和智能体的发展比较迅猛。感觉年初的deepseek刚火没多久,这几天Manus又成为媒体头条 ...
2025-03-14以下的文章内容来源于柯家媛老师的专栏,如果您想阅读专栏《小白必备的数据思维课》,点击下方链接 https://edu.cda.cn/goods/sh ...
2025-03-13