
浅谈数据分析师的必备技能SQL
很久没写东西了,正好群里有童鞋最近要换工作,提到有关数据库方面的问题,个人认为,做数据分析的并没有必要把数据库开发之类的弄懂,你只需要从相应的数据库中调用你需要的数据即可,至于数据库设计相关的安全事务,开发之类的问题那是数据库工程师的事情,而作数据分析师的你了解SQL语言即可。当然,谁都不会嫌自己的知识多,掌握的东西越多对自己的发展当然也就越有利。
了解SQL的必要性
俗话说“巧妇难为无米之炊”,没有数据怎么分析。而SQL对于你来说就好比电脑的键盘鼠标,虽说没有了它也能照常运行,但对使用它的人来说灵活性却下降了许多。而这一点也正是许多数据分析从业者所缺少的(包括我),记得白鸦曾在他的博客中发表过数据分析师很少的言论。不管数据分析师在什么样的团队,其所起的作用都是统计和调查,数据挖掘、可行性及策略分析等类似的功能。真正的数据分析师,或者能达到企业期望要求的数据分析师为什么凤毛麟角。为什么满足企业要求的数据分析师凤毛麟角,其中一个主要的原因就是学统计的人不会数据库,而学计算机的同学不会建模分析。
SQL使得数据的采集过程变得更加方便快捷,此处的方便快捷可以从2方面得以体现,1.在分析数据时候不必再苦苦请求其他同事,自己需要什么数据自己直接去导,而不再是从别人手中接过譬如.xls或.csv之类的数据文档;2.便捷快速的清洗出自己所需要的原始数据,譬如你需要的是每个月销售额排名前20的产品相关数据,这时你就可以直接从数据库导出数据时来完成数据筛选的过程,而不是傻傻的导出所有产品销售数据再进行二次处理。关于如何利用SPSS从数据库中挑选自己所需要的数据参见Syntax代码旅途。此外,在EXCEL的多表操作中也涉及相关SQL语句,如数据透视表的应用等。
SQL查询相关小技巧
·使用AND时,将不为真的条件放在前面
数据库系统遵循运算符的优先级,并且运算过程是从左至右的,将条件不为真的放在前面,则能够省去and后面的相关运算,以达到减少数据库系统运算工作量的目的,提高工作效率。
·使用OR运算符时,则将最可能为真的条件放在前面
和上面and的原理类似,and运算符要求两边条件都为真,整个条件才为真,而or只需要一边为真,将条件为真的放在前面可使or运算符不需要检查右边的条件,从而节约时间,提高工作效率。
·distinct比group by更快
distinct和group by通常起限制结果为唯一的记录行的作用,处理此类问题时distinct往往比group by更加迅速。
·限制联合的结果
从数据库中提取的信息量越少,速度也就越快,而加适当的限制条件除了满足自身的需求之外,另外一个原因就是为了加快处理查询速度。e.g:
select var1, var2 from table1 inner join table2 on table1.id=table2.id where condition;
·对子查询使用in运算符
在子查询过程中,运用select语句往往会使数据库系统考虑更多的东西,从而降低工作效率,相比较而言,运用in运算符则可以有效的解决这个问题。e.g:下面的子查询中第1句将比第2句更加有效
select var1, var2 from table1 where var1 in (select var1 from table2 where condition);
select var1, var2 from table1 where var1=(select var1 from table2 where condition) ;
·尽量避免使用select * from
指定确定的列可以让你清楚的了解你所需要采集的变量,利用select * from不只是效率低下,更不利于你的后续分析,所以对于select * from则是能避免则尽量避免。数据分析师培训
·对整数类型列进行搜索
这类问题主要针对字符变量的查询而言,对应的字符变量如果有相应的编码对应,直接将编码设置为查询条件将比直接查询字符变量来得更加迅速。
数据采集中常用的SQL语句
相同的SQL语句运用到不同数据库中会有略微的差别,对字符变量的要求,相关函数的变化,以及语法规则的不同等等,例如:oracle数据库中对字段命名别名时不需要as 字符,没有month(),year()等时间函数等等,access数据库中在使用inner join执行内部联合时条件需用(),当然还有很多的细微差别,大家可以自己去寻找总结。下面的示例以SQL SERVER为基础编写。
1. 抽取非重复数据
select distinct var1 from tableName;
2. 抽取某个时间段间的数据
select var1,var2 from 数据表 where 字段名 between 时间1 and 时间2;
3. 连接多个变量
select ‘123’+cast(456 as varchar);
select ‘123’+cast(456 as varchar)+’789′;
4. 用SQL语句找出表名为Table1中的处在ID字段中1-200条记录中Name字段包含w的所有记录
select * from Table1 where id between 1 and 200 and Name like ‘%w%’;
5. 找出拥有超过10名客户的地区的列表
select country from test group by country having count(customerId)>10;
6. 关于取出每个部门工资最高的前三人
select * from table t where 工资 in (select top 3 工资 from table where 部门 = t.部门 order by 工资 desc);
7. 两个结构完全相同的表a和b,主键为index,使用SQL语句,把a表中存在但在b表中不存在的数据插入的b表中
insert into b select * from a where not exists(select * from b where “index”=a.”index”);
8.从一个数据库中的多个数据表提取相关变量
Select table1.var1,table2.var2,table2.var3,
From table1 inner join table2
On tabel1.var1=table2.var1
Inner join table3
On tabel1.var2=table3.var2
(order by ……)
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
BI 大数据分析师:连接数据与业务的价值转化者 在大数据与商业智能(Business Intelligence,简称 BI)深度融合的时代,BI ...
2025-07-10SQL 在预测分析中的应用:从数据查询到趋势预判 在数据驱动决策的时代,预测分析作为挖掘数据潜在价值的核心手段,正被广泛 ...
2025-07-10数据查询结束后:分析师的收尾工作与价值深化 在数据分析的全流程中,“query end”(查询结束)并非工作的终点,而是将数 ...
2025-07-10尊敬的考生: 您好! 我们诚挚通知您,CDA Level I和 Level II考试大纲将于 2025年7月25日 实施重大更新。 此次更新旨在确保认 ...
2025-07-09CDA 数据分析师考试:从报考到取证的全攻略 在数字经济蓬勃发展的今天,数据分析师已成为各行业争抢的核心人才,而 CDA(Certi ...
2025-07-09【CDA干货】单样本趋势性检验:捕捉数据背后的时间轨迹 在数据分析的版图中,单样本趋势性检验如同一位耐心的侦探,专注于从单 ...
2025-07-09year_month数据类型:时间维度的精准切片 在数据的世界里,时间是最不可或缺的维度之一,而year_month数据类型就像一把精准 ...
2025-07-09CDA 备考干货:Python 在数据分析中的核心应用与实战技巧 在 CDA 数据分析师认证考试中,Python 作为数据处理与分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 检验:数据趋势与突变分析的有力工具 在数据分析的广袤领域中,准确捕捉数据的趋势变化以及识别 ...
2025-07-08备战 CDA 数据分析师考试:需要多久?如何规划? CDA(Certified Data Analyst)数据分析师认证作为国内权威的数据分析能力认证 ...
2025-07-08LSTM 输出不确定的成因、影响与应对策略 长短期记忆网络(LSTM)作为循环神经网络(RNN)的一种变体,凭借独特的门控机制,在 ...
2025-07-07统计学方法在市场调研数据中的深度应用 市场调研是企业洞察市场动态、了解消费者需求的重要途径,而统计学方法则是市场调研数 ...
2025-07-07CDA数据分析师证书考试全攻略 在数字化浪潮席卷全球的当下,数据已成为企业决策、行业发展的核心驱动力,数据分析师也因此成为 ...
2025-07-07剖析 CDA 数据分析师考试题型:解锁高效备考与答题策略 CDA(Certified Data Analyst)数据分析师考试作为衡量数据专业能力的 ...
2025-07-04SQL Server 字符串截取转日期:解锁数据处理的关键技能 在数据处理与分析工作中,数据格式的规范性是保证后续分析准确性的基础 ...
2025-07-04CDA 数据分析师视角:从数据迷雾中探寻商业真相 在数字化浪潮席卷全球的今天,数据已成为企业决策的核心驱动力,CDA(Certifie ...
2025-07-04CDA 数据分析师:开启数据职业发展新征程 在数据成为核心生产要素的今天,数据分析师的职业价值愈发凸显。CDA(Certified D ...
2025-07-03从招聘要求看数据分析师的能力素养与职业发展 在数字化浪潮席卷全球的当下,数据已成为企业的核心资产,数据分析师岗位也随 ...
2025-07-03Power BI 中如何控制过滤器选择项目数并在超限时报错 引言 在使用 Power BI 进行数据可视化和分析的过程中,对过滤器的有 ...
2025-07-03把握 CDA 考试时间,开启数据分析职业之路 在数字化转型的时代浪潮下,数据已成为企业决策的核心驱动力。CDA(Certified Da ...
2025-07-02