sas信用评分之变量筛选
今天介绍变量初步选择。这部分的内容我就只介绍information –value,我这次做的模型用的逻辑回归,后面会更新以基尼系数或者信息熵基础的筛选变量,期待我把。
Iv值的介绍你们已经很熟悉了,我这次就简单粗暴的说下变量iv值到那个数就可以用的啦。
(1):
在很多书上说要达到0.1-0.3才是中等相关,达到0.3是强相关,但是这里必须提及,变量的iv值本来就是变量多个分段的iv值的相加。所以我们做这部分工作的时候就发现,一个变量我要是变态一点,分成1000分,他可以达到1.5,iv值是很高啊,这个变量你一旦用下聚类或者是决策树分下类,就发现iv值其实是很低的,所以这个iv值的计算我们需要大概的给个分多少段。
(2):
在第一点中提到分几份,但是分几份是针对连续变量,对于字符变量的。我建议可以先使用最优分段分下组再进行计算iv值。但是如果字符变量的分类在4-10类的话还是可以直接计算iv值的。
(3):
对于在日常的建模中,其实并不是iv值大于0.1才会被筛选出来,我就在建模中碰见一个问题,就是iv值大于0.1都是同类变量,相关性极高,这些变量虽然iv值很高,但是丢进逻辑回归中是不会被全部选中的,因为我们都知道共线性强的变量对于我们模型其实是不好的。讲了这么多就是为了说,变量初步选择的时候我一般是大于iv值0.02我会筛选出来,不为什么,宁可错杀一千,不可放过一个,我对变量就是这么残暴。在这里我考虑到一点,就是可能一个变量单独对因变量的预测力不是很强,但是跟其他变量结合的时候,可能会产生不一样的结果哈。
例如哈,我举一个很不恰当的例子哈,不恰当的例子哈,不要喷我。譬如婚姻状况和年纪,可能这两个变量单独对因变量没什么明显的体现,但是结合在一起呢,譬如25岁下离婚的人是不是会比25岁以上离婚不一样呢。你们顺着这个思路想下去就可以啦,我再说下去25岁以下离婚怎么怎么样,我就要被喷了。毕竟我还是怕键盘侠。
这篇文章的代码我之前是发过的。路径在这里:sas输出变量的基尼系数以及iv值。在这篇文章中我介绍下结果:
代码的使用在上面路径中有介绍,点下去就可以看了。介绍下结果,score2是分组后的变量就是譬如说年龄中52岁分组后是第3组,那么他观测的值就是3。score3输出基尼系数,这部分的内容之后用到基尼系数再说哈。我们着重说下score4以及score5.
Score4的表格是长这样子的:
你看到的var_name这一列的变量是每个变量名价格前缀“p_”如果是字符变量就不加前缀“p_”,_freq_这一变量是分组数,我这边设定的是分成5组,你问我为什么上面写着6,因为我这批数据中有缺失,缺失不参与分组,就是第6组啦。最后一列就是iv值啦,我刚才说的同类变量iv值都很高啦,就是这个图,q_开头的都是同类的变量,iv值基本相近,假设说这些都进去模型的,模型也不会全都要了。
score5的表格是长这样子的:
这图可能在这里比较小,但是你单独点开还是可以看的。
score5是score4的具体每段的iv值的分布,其中m就是观测缺失的组别。后面的start end这两个变量是这个组别的区间。这里的woe值其实我不建议使用,因为我这边的分区是全部都是等分的5份,但是某些变量有更好的分法,后面对于筛选出来的变量也会进行进一次的最优分段再计算woe值,这里的woe只是为计算iv,顺便显示在数据集中。
其实到了这里,iv值的代码以及iv值运用,我也都讲完了。但是在业务上,还会做这样子一个步骤,就是对于iv值极高的变量会单独拿出来再分析。下面分享一个其中的一个的分析例子,这部分的工作可能不是全部公司都会做,因为很耗费时间。
这是建模中我的一个次数变量至于代表是什么变量因为公司的保密性质,所以我就不说了。分区是计算iv值时分段出来的。假设这个是拨打贷款公司的电话的次数,当他打的次数是3次以下的时候,批核率以及逾期率是比较高的,但是当达到13次以上的时候,批核率不仅降了9%左右,而且逾期率也高了4%,那么这个变量就可以跟领导讨论一下,将这条规则做到前端,让审批审核人员多了一个可以参考的条件,当然这个变量的体现可能相对于其他变量来说是很明显的。但是真正做成规则或者说人工审批的决策还可能不能。具体的情况还是要看自己公司的数据,我这里也只是分享我工作中的一个小小的经验。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
Excel是数据分析的重要工具,强大的内置功能使其成为许多分析师的首选。在日常工作中,启用Excel的数据分析工具库能够显著提升数 ...
2024-12-23在当今信息爆炸的时代,数据分析师如同一位现代社会的侦探,肩负着从海量数据中提炼出有价值信息的重任。在这个过程中,掌握一系 ...
2024-12-23在现代的职场中,制作吸引人的PPT已经成为展示信息的重要手段,而其中数据对比的有效呈现尤为关键。为了让数据在幻灯片上不仅准 ...
2024-12-23在信息泛滥的现代社会,数据分析师已成为企业决策过程中不可或缺的角色。他们的任务是从海量数据中提取有价值的洞察,帮助组织制 ...
2024-12-23在数据驱动时代,数据分析已成为各行各业的必需技能。无论是提升个人能力还是推动职业发展,选择一条适合自己的学习路线至关重要 ...
2024-12-23在准备数据分析师面试时,掌握高频考题及其解答是应对面试的关键。为了帮助大家轻松上岸,以下是10个高频考题及其详细解析,外加 ...
2024-12-20互联网数据分析师是一个热门且综合性的职业,他们通过数据挖掘和分析,为企业的业务决策和运营优化提供强有力的支持。尤其在如今 ...
2024-12-20在现代商业环境中,数据分析师是不可或缺的角色。他们的工作不仅仅是对数据进行深入分析,更是协助企业从复杂的数据信息中提炼出 ...
2024-12-20随着大数据时代的到来,数据驱动的决策方式开始受到越来越多企业的青睐。近年来,数据分析在人力资源管理中正在扮演着至关重要的 ...
2024-12-20在数据分析的世界里,表面上的技术操作只是“入门票”,而真正的高手则需要打破一些“看不见的墙”。这些“隐形天花板”限制了数 ...
2024-12-19在数据分析领域,尽管行业前景广阔、岗位需求旺盛,但实际的工作难度却远超很多人的想象。很多新手初入数据分析岗位时,常常被各 ...
2024-12-19入门数据分析,许多人都会感到“难”,但这“难”究竟难在哪儿?对于新手而言,往往不是技术不行,而是思维方式、业务理解和实践 ...
2024-12-19在如今的行业动荡背景下,数据分析师的职业前景虽然面临一些挑战,但也充满了许多新的机会。随着技术的不断发展和多领域需求的提 ...
2024-12-19在信息爆炸的时代,数据分析师如同探险家,在浩瀚的数据海洋中寻觅有价值的宝藏。这不仅需要技术上的过硬实力,还需要一种艺术家 ...
2024-12-19在当今信息化社会,大数据已成为各行各业不可或缺的宝贵资源。大数据专业应运而生,旨在培养具备扎实理论基础和实践能力,能够应 ...
2024-12-19阿里P8、P9失业都找不到工作?是我们孤陋寡闻还是世界真的已经“癫”成这样了? 案例一:本硕都是 985,所学的专业也是当红专业 ...
2024-12-19CDA持证人Louis CDA持证人基本情况 我大学是在一个二线城市的一所普通二本院校读的,专业是旅游管理,非计算机非统计学。毕业之 ...
2024-12-18最近,知乎上有个很火的话题:“一个人为何会陷入社会底层”? 有人说,这个世界上只有一个分水岭,就是“羊水”;还有人说,一 ...
2024-12-18在这个数据驱动的时代,数据分析师的技能需求快速增长。掌握适当的编程语言不仅能增强分析能力,还能帮助分析师从海量数据中提取 ...
2024-12-17在当今信息爆炸的时代,数据分析已经成为许多行业中不可或缺的一部分。想要在这个领域脱颖而出,除了热情和毅力外,你还需要掌握 ...
2024-12-17