超详细的大数据分析师职业规划
最近有不少同学咨询有关数据分析职业发展的问题，由此可见，随着大数据的飞速发展，数据分析职业也成为很多同学关注的目标。不要急，这就给大家介绍数据分析的职业发展。
入门和职业规划应该从两个角度考虑：领域和路线。
领域是不少新人常忽略的要素，其实数据分析不会脱离业务存在。你进入哪个行业，很大程度会决定你初期的技能树和技能点。譬如金融领域的风控模型、营销领域的生命周期、广告领域的点击率预估等，各有各的特色。
如果是一位应届生，不妨多了解自己感兴趣的领域，和专业相关是最好的，并且积累相关的经验，为面试做准备。
如果已经有一定行业履历，只是想要转岗数据分析师，那么跨岗不跨行，避免跳到一个陌生的领域。
领域经验太宽泛，我给不了太多的指点，主要也就三点：1.自己感兴趣的，2.自己擅长的，3.有钱途的。从职场生涯看，成为某领域的数据专家，会是一个更好的筹码。
而路线大致可以划分成四大方向：数据分析，
数据挖掘，数据产品，数据工程。
这是业务方向的数据分析师。
绝大部分人，都是从这个岗位开始自己的数据之路，也是基数最大的岗位。
因为基数大，所以这类岗位通常鱼龙混杂。有些虽然叫数据分析师，但是每天只需要和Excel打交道，完成leader布置的表格整理工作就行。混个几年，成为一位数据分析主管，给下面的新人继续布置Excel任务。
又有一种数据分析师，岗位职责要求你掌握常用的
机器学习算法，面试首先推导一个
决策树或者
逻辑回归。入职后也是各类代码，和分析打交道的情况不多。
都叫数据分析师，其实天差地别。
这里更多指互联网行业，偏业务的数据分析师，一般属于运营部门。不少公司也称数据运营或者
商业分析。
这类岗位的职位描述一般是：
负责和支撑各部门相关的报表；
建立和优化指标体系；
监控数据的波动和异常，找出问题；
优化和驱动业务，推动数据化运营；
找出可增长的市场或产品优化空间；
输出专题分析报告；
实际情况是，不少业务端的数据分析师，主要工作只做第一点。别管它用汇总、分析、数据支持什么修饰词，基本是跑
SQL，做报表。硬生生活成了业务端的表哥。
这是很常见的情况，也是入门新人的第一个坑。因为从头到尾，这类分析师，都没有解决问题。
业务部门往往更关心，某个指标为什么下跌或者上升。产品的用户是什么样的？怎么能更好的完成自己的KPI。
以活跃指标的下跌举例：
活跃指标下跌了多少？是属于合理的数据波动，还是突发式？
什么时候开始的下跌？
是整体的活跃用户下跌，还是部分用户？
为什么下跌？是产品版本，还是运营失误？
怎么解决下跌的问题
这是一套标准的解决思维。分别对应what、when、who、why、how，每一部分都不是三言两语可以解释清楚。不要看它简单，例如你通过多维分析，发现某个地区的活跃下跌了，不要急着把它作为分析的结论，这是不合格的数据分析。某地区的活跃下跌，只是现象，不是原因，把它作为结论提交，肯定会被骂的。
你要解决的是，为什么这个地区的活跃下跌了。是该地渠道，是该地竞争对手，是该地市场环境？这些问题都是细化深入的范畴。并且，它们要能以量化解释，而不是我认为。
做好了这点，才是一个真正的业务端的数据分析师。
解决问题是一方面工作，另外一方面，数据分析师的职责是将业务数据体系化，建立一套指标框架。活跃下跌的问题，本质上也是指标问题。什么时候开始下跌，哪部分下跌，都能转化成对应指标，如日活跃用户数，新老用户活跃数，地区活跃数。
你不能衡量它，就无法增长它，指的就是指标体系。指标体系可以是业务部门建立，但数据分析师也挺合适。一方面他们比
数据挖掘这类技术岗位更贴合业务，一方面不像业务岗位对数据抓瞎。
两者结合，这岗位也能称为数据运营。
指标体系如果工程化自动化，也就是BI，所以数据分析师可以算半个BI分析师，这里不包括BI报表开发。BI如果采购第三方，数据分析师负责BI没问题，如果自有开发，那么BI岗技术的色彩更浓厚。
数据分析思维和业务的理解，是分析师赖以生存的技能。很多时候，工具是锦上添花的作用。掌握Excel+
SQL/hive，了解描述统计学，知道常见的可视化表达，足够完成大部分任务。
机器学习这类能力，对此类数据分析师不是必须的，Python也一样，只是加分项。毕竟为什么下跌，你无法用
数据挖掘解答。
数据分析师是一个基础岗位，如果专精于业务，更适合往管理端发展，单纯的工具和技巧很难拉开差距。数据分析的管理岗，比较常见的有数据运营经理/总监，数据分析经理等，相对应的能力是能建立指标体系，并且解决日常的各类「为什么」问题。
商业/市场分析是另外一个方向，更多见于传统行业。你要开一家超市，你得考虑哪里开，这就要考虑居民密度，居民消费能力，竞争对手的多寡，步行交通距离，开车交通距离等。这些数据是宏观的大指标，往往靠搜索和调研完成，这是和互联网数据分析师最大的差异。
若往其他分支发展，比如
数据挖掘工程师，则要继续掌握Python和
机器学习等。从业务型发展上来的好处是接地气，具备商业洞察力（天天搞报表，怎么可能不熟），这点是直接做
数据挖掘，或者程序员转岗，所不具备的。
新人，比较普适的发展路线是先成为一位数据分析师。积累相关的经验，在一两年后，决定往后的发展，是
数据挖掘，还是专精数据分析成为管理岗。
这是技术向的数据岗，有些归类在研发部门，有些则单独成立数据部门。
数据挖掘工程师要求更高的统计学能力、数理能力以及编程技巧。
从概念上说，
数据挖掘Data mining是一种方式，
机器学习Machine Learning是一门方法/学科。
机器学习主要是
有监督和
无监督学习，
有监督又可划分成回归和分类，它们是从过去的历史数据中学习到一个模型，模型可以针对特定问题求解。
除此之外，还有一个领域，属于最优化问题的运筹学。现实中的问题往往有很多约束，比如护士排班，一共有三班（早、中、晚），现在要求每班满足最低护士人数，每位护士尽量不能连班，每位护士不能连续工作5天。每位护士的夜班数要均衡，每位护士每月的班数要均衡…这些问题很难用
机器学习的方法完成，而在最优化领域，则有遗传算法、模拟退火算法、蚁群算法等。
实际的应用场景中，如外卖行业，如何寻找骑手效率最大化的最优路径，同样属于最优化，也是
数据挖掘的工作范畴。
数据挖掘工程师，除了掌握算法，同样需要编程能力去实现，不论R、Python、Scala/Java，至少掌握一种。模型的实施，往往也要求
Hadoop/Spark的工程实践经验，精通
SQL/
Hive是必须的。
定义问题
数据抽取
数据模型
数据验证
迭代优化
单看环节，
数据挖掘对分析能力没有业务型那么高。这不代表业务不重要，尤其在
特征选取方面，对业务的理解很大程度会影响
特征怎么选取，进而影响模型质量。用户流失是一个经典的考题，如何选取合适的
特征，预测用户会否流失，能够考察对业务是否深刻洞察。
数据挖掘的业务领域一样可以细分。金融行业的信用模型和风控模型/反欺诈模型、广告模型的点击预估模型、电商行业的
推荐系统和
用户画像系统。从需求提出到落地，
数据挖掘工程师除了全程跟进也要熟悉业务。
因为要求高，所以
数据挖掘的平均薪资高于数据分析师。
一个分工明确的团队，数据分析师负责将业务需求抽象成一个具体的数据假设或者模型。比如，运营希望减少用户流失，那么设立一个流失指标，现在需要预测用户流失率的模型。模型可以是数据分析师完成，也能是
数据挖掘工程师。最终由
数据挖掘团队部署到线上。
在一些公司，高级数据分析师会等价于
数据挖掘工程师（其实行业内，对Title并没有严格的标准），只是工程能力可以稍弱，模型部署由专门的工程团队完成。
数据挖掘工程师，往后发展，称为算法专家。后者对理论要求更严苛，几乎都要阅读国外的前沿论文。方向不局限于简单的分类或者回归，还包括图像识别、自然语言处理、智能量化投顾这种复合领域。这里开始会对从业者的学校和学历提出要求，名校+硕士无疑是一个大优势，也有很多人直接做
数据挖掘。
深度学习则更前沿，它由
神经网络发展而来，是
机器学习的一个子集。因为各类框架开枝散叶，诸多模型百花齐放，也可以算一个全新的分支。除了要求熟悉TensorFlow,
Caffe,
MXNet等
深度学习框架，对模型的应用和调参也是必备的，后者往往是划分普通人和大牛的天堑。
算法专家和
深度学习专家，薪资level会更高一级，一般对应于业务型的数据运营/分析总监。
数据科学家是上述岗位的最终形态之一，要么理论能力非常强，往往担任研究院的一把手。要么工程能力突出，上述的系统都能完成平台化的部署。
（三）数据产品经理
这个岗位比较新兴，它有两种理解，一种是具备强数据分析能力的PM，一种是公司数据产品的规划者。
前者，以数据导向优化和改进产品。在产品强势的公司，数据分析也会划归到产品部门，甚至运营也属于产品部。这类产品经理有更多的机会接触业务，属于顺便把分析师的活也干了，一专多能的典型。
他们会运用不同的数据源，对用户的行为
特征分析和挖掘，达到改进产品。最典型的场景就是AB测试。大到页面布局、路径规划、小到按钮的颜色和样式，均可以通过数据指标评估。
俗话说，再优秀的产品经理也跑不过一半AB测试。此类数据产品经理，更多是注重数据分析能力，擅长用分析进行决策。数据是能力的一部分。
后者，是真正意义上的数据产品经理。在公司迈大迈强后，数据量与日俱增，此时会有不少数据相关的产品项目：包括大数据平台、埋点采集系统、BI、
推荐系统、广告平台等。这些当然也是产品，自然需要提炼需求、设计、规划、项目排期，乃至落地。
我们不妨看几个数据产品经理要求：
负责大数据产品的设计，输出需求文档、产品原型；
负责推荐算法的产品策略，完成相关推荐及个性化推荐产品的需求分析；
负责分析和挖掘用户消费内容的行为数据，为改进算法策略提供依据；
负责客户端数据需求的对接，制定相关埋点规范及口径，相关业务指标验证；
报表展示工具的落地和应用；
和C端注重用户体验不同，数据产品，更注重整体的分析能力和逻辑。除了产品经理最基础的Axure、Visio、MindManager等工具。往往还需要很多技术型的能力。比如了解BI/DW原理和实施、了解常用的推荐算法、了解
机器学习模型等。这也很容易理解，C端要求你了解用户需求，而在数据端，主要用户就是数据。
这当然不是说，用户体验不重要，拿推荐算法来说，除了满足用户最基本的感兴趣，也要考虑时效性，考虑新兴趣的挖掘，考虑无数据时的冷启动问题…这些一样是用户体验，只是解决方案也得从数据出发。再多思考一步，模型是离线还是实时，实时怎么实现它？技术细则不用多考虑，但你要知道会有这些坑。后端的数据产品，如报表，用户往往是你隔壁工位的小秦或小路，设计得丑一点不要紧，要是数据指标口径不统一，那才会分分钟骂街。
虽然数据PM需要熟悉各类数据模型、指标、
数据挖掘和数据工程的实现，但是聚焦点是把它作为一个项目去实现，故而不用精通。
数据产品经理是一个比较新兴的岗位，所以有丰富经验的从业者并不多，我个人认为，还是存在比较大的职业缺口。当然也有其他问题，一是因为新兴，部门负责人本身也没有想好他们能干什么，不少数据PM还从事表哥的工作。二是数据产品本身可借鉴的经验不多，像APP产品，可以下载体验，总归有一个学习的过程。然而
用户画像、BI、算法策略，都是其他公司的内部机密，无从参考，我就遇到不少对
用户画像实现非常感兴趣的数据PM。
从职业发展上看，数据分析师做数据产品经理更合适。普通的产品经理，对前端、后端的技术栈尚未熟悉，何况日新月异的数据栈。这个岗位，适合对数据特别感兴趣，但是数理天赋不高的职场人，那么以沟通、项目管理和需求规划为能力，也不错。
（四）数据工程师
数据工程师其实更偏技术，从职业道路上看，程序员走这条路更开阔。
在很多中小型的公司，一方面数据是无序的、缺失的、原始的，另外一方面各种业务报表又嗷嗷待哺。没办法，分析师只能自己撸起袖子，一个人当三个人用。兼做
数据清洗+
ETL+BI。
经历过的大概都懂，数据分析踏上数据工程的不归路如下：
每天都要从五六张表上join，那么不妨加工成一张中间表；
ETL的依赖关系越来越复杂，尝试用kettle/airflow等框架搞定，弄个DAG美滋滋；
运营部门的周报次次都要这几个指标，看看能否做一个自动化BI；
数据量逐日增多，最近T+1的日报需要几个小时完成，研究下查询语句的优化；
查询语句的优化空间也不大了，开始迁移到
Hadoop/Spark分布式平台，新技术栈的学习；
新平台，原有的工具也不管用了，某大牛说apache上有工具能解决这个问题，于是阅读文档；
公司部署了私有化的埋点采集，数据缺失比较厉害，业务部门天天骂娘，继续埋Flume/
Kafka的坑；
等等…
这也是一个不错的发展方向，因为
数据挖掘需要了解算法/模型，理论知识要求过高，不少硕士和博士还过来抢饭碗，自己不擅长容易遇到天花板。选择更底层的工程实现和架构，也是出路，薪资也不会低于
数据挖掘/算法专家。
部分归属到技术部的数据分析师，虽然Title叫数据分析（其实应该叫数据分析开发工程师），很多工作也是围绕
ETL/DW/BI进行，那么这就是标准的数据工程路线。
部分公司会将
机器学习模型的部署和实现交给数据工程团队，这要求数据工程师熟悉
sparkMLlib、Mahout此类框架。
数据工程师，可以从数据分析师的
SQL技能，往数据的底层收集、存储、计算、运维拓展。往后发展则是数据总监、或者
数据架构师。因为数据分析出身，与纯技术栈的程序员比，思考会更贴合业务，比如指标背后的数据模型，但是技术底子的薄弱需要弥补。
另外，DBA、BI这些传统的数据库从业者，也是能按这条路线进阶，或者选择数据产品经理方向。
（五）总结：
以上四个岗位就是数据分析的发展方向，它们互有关联，如果从整个架构来看，
我们可以将其划分为数据收集—数据加工—数据运营—数据触达。
数据收集负责收集各种各样的原始数据，比如用户何时何地做了什么事情。它依赖于埋点采集系统，而埋点采集，需要收集什么类型数据，往往由数据产品经理确定规范（还是看公司，数据运营和数据分析师也能负责）。
收集上来的数据需要存储，往往因为高吞吐量，需要保证数据和日志的稳定性，会采用Flume+
Kafka，如果有实时统计要求，也得考虑流数据。这块则是数据工程的范畴，包括原始数据的再加工，
数据清洗，都是专门的数据团队完成。
当获得数据后，首先第一点是讲各种明细数据加工业务指标，没有指标不成方圆，这里由数据分析师定义的。有了指标，配合各种数据产品输出，如
用户画像用户标签、BI报表，这些数据产品都由数据PM统筹排期…另外一方面，
数据挖掘工程师和算法专家则凭各种数据建立模型，进行实时或离线运算。
模型可能会预测用户会不会购买某个商品，可能是做出一系列的推荐，可能是判断用户属于哪个类型，不一而足。
更上面一层是业务相关，数据分析师会监控和分析BI上指标的波动、
数据挖掘工程是通过用户反馈数据，衡量算法的优劣、数据PM按AB测试的结果改进产品。数据工程师保证系统的稳定。
所有层次一环扣一环，每个岗位在其中都发挥特有的作用。数据工程偏底层技术，数据分析偏上层业务，
数据挖掘和数据产品处于中间形态。不同公司虽然业务形态不一致，架构会有差异，但是职责不会
偏差太大。这也是
数据分析为什么会有四个方向。
