马云在2012年网商大会上的演讲中说过:“假如我们有了一个数据预报台,就像为企业装上了一个GPS和雷达,企业的出海将会更有把握。”。这里的数据预报台就是下文所述的商业智能。
什么是商业智能(Business Intelligence)
数据挖掘的最终目的是要实现数据的价值,而商业智能是在企业中实现数据价值的最佳方式之一。商业智能(Business Intelligence,简 称BI)的概念最早是Gartner公司于1996年提出来的。当时将商业智能定义为一类由数据仓库(或数据集市)、查询报表、数据分析、数据挖掘、数据备份和恢复等部分组成的,以帮助企业决策为目的技术及其应用。Gartner 公司的Howard Dressner把商业智能定义成为把数据转化成信息,并通过迭代发现(Iterative Discoveries)把信息转化成商业上可用的知识。
在我们看来,商业智能就是能够从(海量)业务和相关数据中提取有用的信息,把信息转化成知识,然后根据这些知识采用正确的商务行为的工具。在本书的范畴内,我们提到的BI(商业智能)工具都是指在数据挖掘基础上的工具。
现在数据挖掘技术在商业应用中已经相当广泛,因为对数据挖掘技术进行支持的三种基础技术已经发展成熟,这三种基础技术是:
商业数据库现在正在以一个空前的速度增长,并且数据仓库正在广泛地应用于各种行业。对计算机硬件性能越来越高的要求,也可以用现在已经成熟的并行多处理机的技术来满足。另外数据挖掘算法经过了这10多年的发展也已经成为一种成熟、稳定,且易于理解和操作的技术。
现在面临的尴尬的境地是数据丰富,信息匮乏(Data Rich But Information Poor)。快速增长的海量数据,已经远远地超过了人们的理解能力,如果不借助强有力的工具,很难弄清大堆数据中所蕴含的知识。结果,重要决策只是基于制定决策者的个人经验,而不是基于信息丰富的数据。数据挖掘就这样应运而生,数据挖掘填补了数据和信息之间的鸿沟。Erik Brynjolfsson曾经说过:有数据支持的(商业)决定总是更好的决定。数据在商业运营上要能起到作用,我们必须要做到:
在最开始制定商业智能数据战略时,考虑的不应该是技术,而是从商业角度出发,看到底需要完成怎样的商业目标,再来制定数据挖掘过程。
比如在商业银行信用卡部门,我们需要做信用卡欺诈监测。商业目的很明确,就是要以最快的速度发现90%以上的欺诈交易,而可以提供的数据就是之前所有的交易记录。那么如何判别某一个交易可能是欺诈行为呢?常用的数据挖掘方式是通过神经网络。我们通过正面和负面的实例训练这个神经网络,然后给每个交易打分,如果低于某个数值,那么就判定这条交易是正常的,否则就判定它为欺诈交易。
商业智能还有一个重要的原因是竞争。现在的企业竞争对象不一定来自身边,甚至不一定来自于同一个国家,商业竞争的全球化导致了中国企业必须提高对商业智能的重视,因为商业智能在欧美的企业中正相当普及。
当我们已经建立了一套完整的商业智能系统之后,可以通过看趋势——寻扎变异——分析原因——制定对策的流程来定期做数据分析。
看趋势:即观察关键考核指标KPI数据的日、周、月、季度、年的图表曲线趋势。KPI数据是上升了还是下降了。关联的其他相关KPI曲线,是否呈现了应该有的关联性。环比同比的百分比如何等。
寻找变异:即找到单一KPI数据中的异常值,或者关联数据中非关联的异常部分。
分析原因:当我们找到了异常值,就需要分析造成这一异常的原因。看异常发生的时间节点,看内部和外部的关联活动,看问题发生原因的构成,并把原因分解成独立的元素一一列出,标出权重,哪些是相对影响较大的,哪些又是可能的原因等。
制定对策:在正确的分析了相关原因后,就需要给出解决方法和策略。一般来说,一个原因对应一个解决策略。当然也可能有多个解决策略对应于同一个原因。我们选择最切合实际,最可执行的对策和行动策略。
数据挖掘通用流程CRISP-DM的缔造者之一Tom Khabaza曾总结了在数据挖掘上的九大定律,如下所示。
(1)Business Goals Law:每个数据挖掘解决方案的根源都是有商业目的的。
(2)Business Knowledge Law:数据挖掘过程的每一步都需要以商业信息为中心。
(3)Data Preparation Law:数据挖掘过程前期的数据准备工作要超过整个过程的一半。
(4)NFL Law:NFL(没有免费午餐,No Free Lunch)。 对于数据挖掘者来说没有免费的午餐,数据挖掘的任何一个过程都是来之不易的。
(5)Watkins’ Law:此定律以此命名是因为David Watkins首次提出这个概念。这个定律说的是在数据的世界里,总是有模式可循的。您找不到规律不是因为规律不存在,而是因为您还没有发现它。
(6)Insight Law:数据挖掘可以把商业领域的信息放大。
(7)Prediction Law:预测可以为我们增加信息。
(8)Value Law:数据挖掘模式的精准和稳定并不决定数据挖掘过程的价值,换句话说技术手段再精妙,没有商业意义和合适的商业应用是没有价值的。
(9)Law of Change:所有的模式都会变化。
上面这九条其实归根到底就是一条,商业决定数据挖掘。数据挖掘各类技术和算法的飞速发展不能让我们偏离以商业行为为核心的方向,只是纯粹为了追求高深的技术而忽略或损害到商业目的就本末倒置了。
数据挖掘的世界既是地雷阵,同时又是金矿。大量的数据没能被及时处理,称得上是暴殄天物。虽然通过保存相关数据,我们可以保证以后对数据信息的方便使用,但是对于工作量日趋繁
重的数据保存工作,很多企业可能还是选择荒废部分数据。大数据时代已经来临,不管有多大困难,我们从现在开始都需要考虑评估和集成数据挖掘应用。即使不能找到合适的数据挖掘方法来处理数据,至少我们需要用数据仓库把原始数据保留起来,以供将来使用。
下面列举一些我们在给企业做数据挖掘时看到的问题:
对于数据挖掘需要解决的问题,很少有现成的解决方案,而且于某个问题,可能有多种数据挖掘算法可以使用,但通常只有一个最好的算法。当我们选择了一个数据挖掘算法时,首先要弄清楚它是否适合想解决的问题。如果本身方法选择不合适,那么再好的执行也没有用。
从市场角度来看,数据挖掘依旧面临其他因素的挑战。数据挖掘非常有前景,但是市场中数据噪声太多,会导致数据价值大大降低。以无线营销为例,大量的虚假应用下载和使用以及虚假好评差评等数据严重干扰了数据的准确性,大大降低了数据的价值。
在中国,数据挖掘市场整体来说还不成熟。首先在意识上,一些商业领袖们对数据挖掘将信将疑,不愿意做投入;另一方面,采用了数据挖掘的公司只追求最后的结果,而对数据挖掘过程、数据的存储、数据挖掘结果的知识积累和呈现不重视。
数据挖掘有时导出的结果是不完善的,每次导出的结果和应用的数据集直接相关。如果数据集发生变化,就需要重新进行挖掘。如果没有考虑数据变化而盲目采用数据变化之前的策略,那么结果是不可预料的。
这些问题都是确实存在的,其中关于市场的问题在一定时间之后会有好转,而数据挖掘过程中的这些问题就需要数据分析师和数据应用使用者提高自己的经验来解决了。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析领域,Excel作为一种普及率极高且功能强大的工具,无疑为无数专业人士提供了便捷的解决方案。尽管Excel自带了丰富的功 ...
2025-01-17在这个瞬息万变的时代,许多人都在寻找能让他们脱颖而出的职业。而数据分析师,作为大数据和人工智能时代的热门职业,自然吸引了 ...
2025-01-14Python作为一门功能强大的编程语言,已经成为数据分析和可视化领域的重要工具。无论你是数据分析的新手,还是经验丰富的专业人士 ...
2025-01-10完全靠数据决策,真的靠谱吗? 最近几年,“数据驱动”成了商界最火的关键词之一,但靠数据就能走天下?其实不然!那些真正成功 ...
2025-01-09SparkSQL 结构化数据处理流程及原理是什么?Spark SQL 可以使用现有的Hive元存储、SerDes 和 UDF。它可以使用 JDBC/ODB ...
2025-01-09在如今这个信息爆炸的时代,数据已然成为企业的生命线。无论是科技公司还是传统行业,数据分析正在深刻地影响着商业决策以及未来 ...
2025-01-08“数据为王”相信大家都听说过。当前,数据信息不再仅仅是传递的媒介,它成为了驱动经济发展的新燃料。对于企业而言,数据指标体 ...
2025-01-07在职场中,当你遇到问题的时候,如果感到无从下手,或者抓不到重点,可能是因为你掌握的思维模型不够多。 一个好用的思维模型, ...
2025-01-06在现代企业中,数据分析师扮演着至关重要的角色。每天都有大量数据涌入,从社交媒体到交易平台,数据以空前的速度和规模生成。面 ...
2025-01-06在职场中,许多言辞并非表面意思那么简单,有时需要听懂背后的“潜台词”。尤其在数据分析的领域里,掌握常用术语就像掌握一门新 ...
2025-01-04在当今信息化社会,数据分析已成为各行各业的核心驱动力。它不仅仅是对数字进行整理与计算,而是在数据的海洋中探寻规律,从而指 ...
2025-01-03又到一年年终时,各位打工人也迎来了展示成果的关键时刻 —— 年终述职。一份出色的年终述职报告,不仅能全面呈现你的工作价值, ...
2025-01-03在竞争激烈的商业世界中,竞品分析对于企业的发展至关重要。今天,我们就来详细聊聊数据分析师写竞品分析的那些事儿。 一、明确 ...
2025-01-03在数据分析的江湖里,有两个阵营总是争论不休。一派信奉“大即是美”,认为数据越多越好;另一派坚守“小而精”,力挺质量胜于规 ...
2025-01-02数据分析是一个复杂且多维度的过程,从数据收集到分析结果应用,每一步都是对信息的提炼与升华。可视化分析结果,以图表的形式展 ...
2025-01-02在当今的数字化时代,数据分析师扮演着一个至关重要的角色。他们如同现代企业的“解密专家”,通过解析数据为企业提供决策支持。 ...
2025-01-02数据分析报告至关重要 一份高质量的数据分析报告不仅能够揭示数据背后的真相,还能为企业决策者提供有价值的洞察和建议。 年薪 ...
2024-12-31数据分析,听起来好像是技术大咖的专属技能,但其实是一项人人都能学会的职场硬核能力!今天,我们来聊聊数据分析的核心流程,拆 ...
2024-12-31提到数据分析,你脑海里可能会浮现出一群“数字控”抱着电脑,在海量数据里疯狂敲代码的画面。但事实是,数据分析并没有你想象的 ...
2024-12-31关于数据分析师是否会成为失业高危职业,近年来的讨论层出不穷。在这个快速变化的时代,技术进步让人既兴奋又不安。今天,我们从 ...
2024-12-30