京公网安备 11010802034615号
经营许可证编号:京B2-20210330
sas信用评分之不用检查异常值的最优分组
今天的更新比以往晚了一天,假期综合症第一天,我到现在已经喝了第三杯咖啡,实现上周的预告,这种更新一个不用检查异常值的数值变量最优分组。其实这代码我本来不想拿出来,我觉得这代码估计能卖点钱,但是介于我是一个不敢赚你们钱的博主,所以还是拿出来吧。本篇文章最后有惊喜。
首先我们先说下,这的代码的思路,为什么不用检查异常值呢。其实是这样子的,我把等量分组和最优分组结合起来了,即保证了最小组的数量也保证了不要因为某些异常值导致分组的过拟合。也少去人工的手动分组。
譬如,有一个年龄的分组,那么我会先用等量分组先分成20组,这时候注意了,就是前后会有极小极大值,就算是异常值,这时候因为你分成了20组,所以极小值以及极大值就被包含在第一组以及最后一组中,以1和20代替了。我相信我这么说你应该可以理解。
至于这等量分组的代码用的是proc rank过程去分的,具体可以参考:proc rank过程
等量分组的代码在这篇文章中:sas信用评分之手动对数值变量分组
然后将产出的结果映射到原数据中再丢进去最优分组,最优分组的代码在这篇文章中:sas信用评分之第二步变量筛选。再丢进去最优分组的代码的时候,需要将等量分组映射到原数据集中,映射代码如下:
/*这个宏是在%data_split后面的执行的,所以这里需要的数据集有%data_split中产生的以"_iv"为后缀的,"_RANK"的数据集*/
data:填入原数据集
id:填入主键
ddvar:因变量
%macro map(data,id,ddvar);
proc sql noprint;
select col_name into: varlist separated by ' ' from &data._IV;
%let nVar=&SQLOBS;
quit;/*从细分后的字典表中得到待填充的变量*/
%put &varlist.;
data &data._woe;
set &data.(keep=&id. &ddvar.);
run;/*首先获取相应的识别标识及Y值*/
data &data._1(drop=i);
set &data.;
array arr1{*} _NUMERIC_;
do i = 1 to dim(arr1);
if missing(arr1(i)) then do;
arr1(i)=-999;
end;
end;
run;
%do i=1 %to &nVar;
%let var = %scan(&varlist, &i);
data V ;
set &data._1(keep=&id. &var.);
run;/*找出待填充变量的取值,将空值填充为1000000000*/
data rank;
set &data._RANK;
where col_name="&var.";
run;/*找出待填充变量的配置表相关信息*/
proc sql noprint;
create table WOE AS
select I.&id., B.clus as &var.
from V AS I
left join rank AS B
ON I.&var. > b.low AND I.&var. <= B.up
;
quit;/*通过上、下界进行填充*/
proc sort data=WOE;
by &id.;
run;
proc sort data=&data._woe;
by &id.;
run;
data &data._woe;
merge &data._woe woe;
by &id.;
run;/*合并所有的变量woe*/
%end;
%mend;
我希望你们真心想用这部分代码分组的,你们要自己看懂代码,学习这种东西不是问出来,都是要自己动手琢磨的。我自认为我不是一个聪明的人,但我是喜欢的东西,我会很乐于去探索,所以你也可以。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
多层感知机(MLP,Multilayer Perceptron)作为深度学习中最基础、最经典的神经网络模型,其结构设计直接决定了模型的拟合能力、 ...
2026-03-30在TensorFlow深度学习实战中,数据集的加载与预处理是基础且关键的第一步。手动下载、解压、解析数据集不仅耗时费力,还容易出现 ...
2026-03-30在CDA(Certified Data Analyst)数据分析师的日常工作中,“无监督分组、挖掘数据内在聚类规律”是高频核心需求——电商场景中 ...
2026-03-30机器学习的本质,是让模型通过对数据的学习,自主挖掘规律、实现预测与决策,而这一过程的核心驱动力,并非单一参数的独立作用, ...
2026-03-27在SQL Server数据库操作中,日期时间处理是高频核心需求——无论是报表统计中的日期格式化、数据筛选时的日期类型匹配,还是业务 ...
2026-03-27在CDA(Certified Data Analyst)数据分析师的能力体系与职场实操中,高维数据处理是高频且核心的痛点——随着业务场景的复杂化 ...
2026-03-27在机器学习建模与数据分析实战中,特征维度爆炸、冗余信息干扰、模型泛化能力差是高频痛点。面对用户画像、企业经营、医疗检测、 ...
2026-03-26在这个数据无处不在的时代,数据分析能力已不再是数据从业者的专属技能,而是成为了职场人、管理者、创业者乃至个人发展的核心竞 ...
2026-03-26在CDA(Certified Data Analyst)数据分析师的能力体系中,线性回归是连接描述性统计与预测性分析的关键桥梁,也是CDA二级认证的 ...
2026-03-26在数据分析、市场研究、用户画像构建、学术研究等场景中,我们常常会遇到多维度、多指标的数据难题:比如调研用户消费行为时,收 ...
2026-03-25在流量红利见顶、获客成本持续攀升的当下,营销正从“广撒网”的经验主义,转向“精耕细作”的数据驱动主义。数据不再是营销的辅 ...
2026-03-25在CDA(Certified Data Analyst)数据分析师的全流程工作中,无论是前期的数据探索、影响因素排查,还是中期的特征筛选、模型搭 ...
2026-03-25在当下数据驱动决策的职场环境中,A/B测试早已成为互联网产品、运营、营销乃至产品迭代优化的核心手段,小到一个按钮的颜色、文 ...
2026-03-24在统计学数据分析中,尤其是分类数据的分析场景里,卡方检验和显著性检验是两个高频出现的概念,很多初学者甚至有一定统计基础的 ...
2026-03-24在CDA(Certified Data Analyst)数据分析师的日常业务分析与统计建模工作中,多组数据差异对比是高频且核心的分析场景。比如验 ...
2026-03-24日常用Excel做数据管理、台账维护、报表整理时,添加备注列是高频操作——用来标注异常、说明业务背景、记录处理进度、补充关键 ...
2026-03-23作为业内主流的自助式数据可视化工具,Tableau凭借拖拽式操作、强大的数据联动能力、灵活的仪表板搭建,成为数据分析师、业务人 ...
2026-03-23在CDA(Certified Data Analyst)数据分析师的日常工作与认证考核中,分类变量的关联分析是高频核心场景。用户性别是否影响商品 ...
2026-03-23在数据工作的全流程中,数据清洗是最基础、最耗时,同时也是最关键的核心环节,无论后续是做常规数据分析、可视化报表,还是开展 ...
2026-03-20在大数据与数据驱动决策的当下,“数据分析”与“数据挖掘”是高频出现的两个核心概念,也是很多职场人、入门学习者容易混淆的术 ...
2026-03-20