数据预处理的一些方法
现实世界中，数据集存在着不完整、包含噪声和不一致等特点，无法直接用来挖掘知识。收集数据的设备可能出故障，人为输入数据时出错或缺失，数据传输中引起的错误都将造成数据集含有不正确的属性值。数据中各个属性的单位不同，也可能造成分析过程以及预测模型的不精确。可以使用以下方法预处理数据集。
（1）删除缺失值。
（2）箱线图
R语言使用boxplot()命令绘制箱线图，箱线图也是我们常说的五数分布，通过计算 IQR=Q3-Q1，即第三个四分位数减去第一个四分位数。常用经验是剔除至少高于第三个四分位数或低于第一个四分位数1.5*IQR处的值。但在实际生产过程中，1.5只是经验带给人们的参考值，具体情况应修改这个数值。例如本次试验中，如果使用1.5这个数字，将会剔除大部分数据点，使得数据集失去意义。部分属性甚至高达10才可达到既剔除无用数据又最大限度的保留原本数据的目的。如图1所示。图中用o代替的点即为需要剔除的离群点。
图1
（3）数据标准化/归一化
数据中心化是指讲每一项数据减去该数据集的均值。值得注意的是，标准化会对原始数据产生改变，需要保存所使用的标准化方法的参数，以便对后续的数据进行统一的标准化。数据标准化有几种不同的方法：
1. min-max标准化公式：新数据=（原数据-极小值）/（极大值-极小值）。这样能将原始值映射在[0,1]区间中的某值。
2. z-score法：将中心化后的数据除以数据集的标准差，这样做的意义是消除量纲对数据结构的影响。R语言中使用scale(x,center = T,scale =T)命令进行z-score标准化。
3. 小数定标标准化
4. 对数Logistic模式公式：新数据=1/(1+e^(-原数据))
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
Python凭借简洁的语法、丰富的生态库，成为算法开发、数据处理、机器学习等领域的首选语言。但受限于动态类型、解释性执行的特性 ...
2026-04-03在深度学习神经网络中，卷积操作是实现数据特征提取的核心引擎，更是让模型“看懂”数据、“解读”数据的关键所在。不同于传统机 ...
2026-04-03当数字化转型从企业的“战略口号”落地为“生存之战”，越来越多的企业意识到，转型的核心并非技术的堆砌，而是数据价值的深度挖 ...
2026-04-03在日常办公数据分析中，数据透视表凭借高效的汇总、分组功能，成为Excel、WPS等办公软件中最常用的数据分析工具之一。其中，“计 ...
2026-04-02在数字化交互的全场景中，用户的每一次操作都在生成动态的行为轨迹——电商用户的“浏览商品→点击详情→加入购物车”，内容APP ...
2026-04-02在数字化转型深度推进的今天，企业数据已成为驱动业务增长、构建核心竞争力的战略资产，而数据安全则是守护这份资产的“生命线” ...
2026-04-02在数据驱动决策的浪潮中，数据挖掘与数据分析是两个高频出现且极易被混淆的概念。有人将二者等同看待，认为“做数据分析就是做数 ...
2026-04-01在数据驱动决策的时代，企业与从业者每天都会面对海量数据——电商平台的用户行为数据、金融机构的信贷风险数据、快消品牌的营销 ...
2026-04-01在数字化转型的浪潮中，企业数据已从“辅助运营的附属资源”升级为“驱动增长的核心资产”，而一套科学、可落地的企业数据管理方 ...
2026-04-01在数字化时代，每一位用户与产品的交互都会留下可追溯的行为轨迹——电商用户的浏览、加购、下单，APP用户的注册、登录、功能使 ...
2026-03-31在日常数据统计、市场调研、学术分析等场景中，我们常常需要判断两个分类变量之间是否存在关联（如性别与消费偏好、产品类型与满 ...
2026-03-31在CDA（Certified Data Analyst）数据分析师的职场实战与认证考核中，“可解释性建模”是核心需求之一——企业决策中，不仅需要 ...
2026-03-31多层感知机（MLP，Multilayer Perceptron）作为深度学习中最基础、最经典的神经网络模型，其结构设计直接决定了模型的拟合能力、 ...
2026-03-30在TensorFlow深度学习实战中，数据集的加载与预处理是基础且关键的第一步。手动下载、解压、解析数据集不仅耗时费力，还容易出现 ...
2026-03-30在CDA（Certified Data Analyst）数据分析师的日常工作中，“无监督分组、挖掘数据内在聚类规律”是高频核心需求——电商场景中 ...
2026-03-30机器学习的本质，是让模型通过对数据的学习，自主挖掘规律、实现预测与决策，而这一过程的核心驱动力，并非单一参数的独立作用， ...
2026-03-27在SQL Server数据库操作中，日期时间处理是高频核心需求——无论是报表统计中的日期格式化、数据筛选时的日期类型匹配，还是业务 ...
2026-03-27在CDA（Certified Data Analyst）数据分析师的能力体系与职场实操中，高维数据处理是高频且核心的痛点——随着业务场景的复杂化 ...
2026-03-27在机器学习建模与数据分析实战中，特征维度爆炸、冗余信息干扰、模型泛化能力差是高频痛点。面对用户画像、企业经营、医疗检测、 ...
2026-03-26在这个数据无处不在的时代，数据分析能力已不再是数据从业者的专属技能，而是成为了职场人、管理者、创业者乃至个人发展的核心竞 ...
2026-03-26
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
