企业数据挖掘实际运用的模型
这是好几年前写的一篇文章,今天突然翻出来看到,我觉得对于很多在做数据挖掘的朋友有一定参考。
听了几位从公司几位同事和外面专家介绍关于数据挖掘、数据模型的一些东西。总的来说,很有收获,当然收获并不在具体的技术细节上。更多是在看法,理念上。
我以前也搞过很多模型,从最基本的聚类、决策树、logisitic、回归分析、生存分析、神经网络,还有市场调研中一些联合分析、感知分析、因子分析/主成分分析,当然还有更高级一点的结构方程。在期货公司呆的一年中,还搞过计量模型:ARMA簇、ARCH簇、VaR等,当时对自己产生的模型,感觉很不自信。因为当时的模型识别率指标(例如:R方,并没有达到传说中在学校做论文或者平时玩模型的90%以上),感觉这个模型就是不好的,并不完美。
去年抱着学习的心态,去一家数据量极其丰富的互联网公司,想去看看大公司玩数据到什么程度,虽然以前和许多牛人们交流过,但当时一直觉得应该不是这么简单。
到新公司后同几位做modeling的同事和听了外部专家的演讲,某种程度上我释然的。感觉自己以前在做模型的时候,更多是在做学术研究一样,也许和我是一个追求完美的人有关。
例如:模型成立的假设条件,与变量选择。
模型的假设条件,对数据的分布要求;
模型的变量选择,以及变量的各种预处理;
针对最终的目的理论上可以使用的模型,都去尝试。比如:会员流失问题:决策树、逻辑回归、生存分析,我都会去尝试使用,根据其最终的LIFT值最大的,然后选择。
但实际上,从几位同事与朋友的介绍来看,逻辑回归是许多公司是都在用的模型,
为什么不用更“高级”,更先进的模型呢?原因有二个:
第一个:模型的健壮性。这些模型都是被之前实践证明是最好的,或者性能相对来说最稳定的。衡量的指标不外乎:稳定性、可解释性(这点在商业很重要)、简单性。
第二个:商业运用,已经是流程式的过程,不会轻易去改变,就是你生产线上一样。模型的轻微改变可以要牵动许多方面,是一个大工程。
从与他们的交流来说,我好像忘记了一个东西:这些都是为商业服务的,商业过程不要太复杂,最好的商业模式往往是最简单,不是吗?
我的观点:也许和自己的工作经历有关,但是我觉得对于一个数据分析师或者是数据建模师来说,虽然你用的很简单。但是你掌握的东西应该很多,很复杂,也正是因为有这些基础,你才能选择最好的模型,所以在玩数据挖掘或者数学建模为商业服务的时候,经验很重要,当然这些专业知识的扎实也是最根本的之一。
数据分析咨询请扫描二维码
数据分析师的工作内容涉及多个方面,主要包括数据的收集、整理、分析和可视化,以支持商业决策和问题解决。以下是数据分析师的一 ...
2024-11-21数据分析师必须掌握的技能可以从多个方面进行归纳和总结。以下是数据分析师需要具备的主要技能: 统计学基础:数据分析师需要 ...
2024-11-21数据分析入门的难易程度因人而异,总体来看,入门并不算特别困难,但需要一定的学习和实践积累。 入门难度:数据分析入门相对 ...
2024-11-21数据分析是一项通过收集、整理和解释数据来发现有用信息的过程,它在现代社会中具有广泛的应用和重要性。数据分析能够帮助人们更 ...
2024-11-21数据分析行业正在迅速发展,随着技术的不断进步和数据量的爆炸式增长,企业对数据分析人才的需求也与日俱增。本文将探讨数据分析 ...
2024-11-21数据分析的常用方法包括多种技术,每种方法都有其特定的应用场景和优势。以下是几种常见的数据分析方法: 对比分析法:通过比 ...
2024-11-21企业数字化转型是指企业利用数字技术对其业务进行改造和升级,以实现提高效率、降低成本、创新业务模式等目标的过程。这一过程不 ...
2024-11-21数据分析作为一个备受追捧的职业领域,吸引着越来越多的女性加入其中。对于女生而言,在选择成为一名数据分析师时,行业选择至关 ...
2024-11-21大数据技术专业主要学习计算机科学、数学、统计学和信息技术等领域的基础理论和技能,旨在培养具备大数据处理、分析和应用能力的 ...
2024-11-21《Python数据分析极简入门》 第2节 3 Pandas数据查看 这里我们创建一个DataFrame命名为df: importnumpyasnpi ...
2024-11-21越老越吃香的行业主要集中在需要长时间经验积累和专业知识的领域。这些行业通常知识更新换代较慢,因此随着年龄的增长,从业者能 ...
2024-11-20数据导入 使用pandas库的read_csv()函数读取CSV文件或使用read_excel()函数读取Excel文件。 支持处理不同格式数据,可指定分隔 ...
2024-11-20大数据与会计专业是一门结合了大数据分析技术和会计财务理论知识的新型复合型学科,旨在培养能够适应现代会计业务新特征的高层次 ...
2024-11-20要成为一名数据分析师,需要掌握一系列硬技能和软技能。以下是成为数据分析师所需的关键技能: 统计学基础 理解基本的统计概念 ...
2024-11-20是的,Python可以用于数据分析。Python在数据分析领域非常流行,因为它拥有丰富的库和工具,能够高效地处理从数据清洗到可视化的 ...
2024-11-20在这个数据驱动的时代,数据分析师的角色变得愈发不可或缺。他们承担着帮助企业从数据中提取有价值信息的责任,而这些信息可以大 ...
2024-11-20数据分析作为现代信息时代的支柱之一,已经成为各行业不可或缺的工具。无论是在商业、科研还是日常决策中,数据分析都扮演着至关 ...
2024-11-20数字化转型已成为当今商业世界的热点话题。它不仅代表着技术的提升,还涉及企业业务流程、组织结构和文化的深层次变革。理解数字 ...
2024-11-20在现代社会的快速变迁中,选择一个具有长期增长潜力的行业显得至关重要。了解未来发展前景好的行业不仅能帮助我们进行职业选择, ...
2024-11-20统计学专业的就业方向和前景非常广泛且充满机遇。随着大数据、人工智能等技术的快速发展,统计学的重要性进一步凸显,相关人才的 ...
2024-11-20