从曲线拟合问题窥视机器学习中的相关概念

2017-03-20

从曲线拟合问题窥视机器学习中的相关概念 一直徘徊在机器学习的边缘未敢轻易造次并畏惧其基本原理思想，从每一本厚厚的参考资料中都可以看出机器学习是一门跨越概率论、决策论、信息论以及最优化的学科的综合学 ...

Python机器学习之Logistic回归

2017-03-18

Python机器学习之Logistic回归 大数据时代，数据犹如一座巨大的金矿，等待我们去发掘。而机器学习和数据挖掘的相关技术，无疑就是你挖矿探宝的必备利器！工欲善其事，必先利其器。很多初涉该领域的人，最先困惑 ...

牛顿法解机器学习中的Logistic回归

2017-03-18

牛顿法解机器学习中的Logistic回归 这仍然是近期系列文章中的一篇。在这一个系列中，我打算把机器学习中的Logistic回归从原理到应用详细串起来。最初我们介绍了在Python中利用Scikit-Learn来建立Logistic回归分 ...

机器学习中的隐马尔科夫模型（HMM）详解

2017-03-18

机器学习中的隐马尔科夫模型（HMM）详解 在之前介绍贝叶斯网络的博文中，我们已经讨论过概率图模型（PGM）的概念了。Russell等在文献【1】中指出：“在统计学中，图模型这个术语指包含贝叶斯网络在内的比较宽泛 ...

机器学习优化算法之爬山算法小结

2017-03-16

机器学习优化算法之爬山算法小结  机器学习的项目,不可避免的需要补充一些优化算法,对于优化算法,爬山算法还是比较重要的.鉴于此,花了些时间仔细阅读了些爬山算法的paper.基于这些,做一些总结.  目录 ...

机器学习中概率论知识复习

2017-03-16

机器学习中概率论知识复习 1 基本概念 概率论在机器学习中扮演着一个核心角色，因为机器学习算法的设计通常依赖于对数据的概率假设。 1.1 概率空间 说到概率，通常是指一个具有不确定性的event发生的 ...

机器学习实现与分析之五（高斯判别分析）

2017-03-15

机器学习实现与分析之五（高斯判别分析） 高斯判别分析（GDA）简介 首先，高斯判别分析的作用也是用于分类。对于两类样本，其服从伯努利分布，而对每个类中的样本，假定都服从高斯分布，则有: 这 ...

机器学习实现与分析之四（广义线性模型）

2017-03-15

机器学习实现与分析之四（广义线性模型） 指数分布族 首先需要提及下指数分布族，它是指一系列的分布，只要其概率密度函数可以写成下面这样的形式： 一般的很多分布（如高斯分布，泊松分布，二项 ...

斯坦福机器学习实现与分析之二（线性回归）

2017-03-15

斯坦福机器学习实现与分析之二（线性回归） 回归问题提出 首先需要明确回归问题的根本目的在于预测。对于某个问题，一般我们不可能测量出每一种情况（工作量太大），故多是测量一组数据，基于此数据去预 ...

机器学习实战之SVD

2017-03-14

机器学习实战之SVD 1. 奇异值分解 SVD(singular value decomposition) 1.1 SVD评价    优点: 简化数据, 去除噪声和冗余信息, 提高算法的结果    缺点: 数据的转换可能难以理解 1.2 SVD应用 ...

机器学习实战之PCA

2017-03-14

机器学习实战之PCA 1.  向量及其基变换 1.1 向量内积 (1)两个维数相同的向量的内积定义如下: 内积运算将两个向量映射为一个实数. (2) 内积的几何意义 假设A\\B是两个n维向量, n维向量可以 ...

机器学习实战之Apriori

2017-03-14

机器学习实战之Apriori 1. 关联分析 1.1 定义        关联分析是一种在大规模数据上寻找物品间隐含关系的一种任务.这种关系有2种形式:频繁项集和关联规则.    &n ...

如何区分人工智能，机器学习和深度学习

2017-03-14

我们都熟悉“人工智能”这一概念。毕竟，这个词常常在热门电影中出现，如《终结者》、《黑客帝国》、《机械姬》。 但最近你也可能常常听到其他术语，如“机器学习”和“深度学习”，这些词有时与人工智能交 ...

机器学习基础—梯度下降法（Gradient Descent）

2017-03-12

机器学习基础—梯度下降法（Gradient Descent） 梯度下降法。一开始只是对其做了下简单的了解。随着内容的深入，发现梯度下降法在很多算法中都用的到，除了之前看到的用来处理线性模型，还有BP神经网络等。于是 ...

机器学习算法常用指标总结

2017-03-11

机器学习算法常用指标总结 考虑一个二分问题，即将实例分成正类（positive）或负类（negative）。对一个二分问题来说，会出现四种情况。如果一个实例是正类并且也被 预测成正类，即为真正类（True positive）, ...

【机器学习经典算法源码分析系列】-- 线性回归

2017-03-11

【机器学习经典算法源码分析系列】-- 线性回归 一、单变量线性回归： 1.数据集可视化   2.求解模型参数 对于线性回归模型，有两种方法可以求解模型参数。 1）  梯度下降法 将代价函数代入展开： M ...

机器学习中特征选择概述

2017-03-11

机器学习中特征选择概述 1. 背景 1.1 问题 在机器学习的实际应用中，特征数量可能较多，其中可能存在不相关的特征，特征之间也可能存在相关性，容易导致如下的后果：  （1） 特征个数越多，分析特征 ...

机器学习入门:K-近邻算法

2017-03-11

机器学习入门:K-近邻算法 先来一个简单的例子，我们如何来区分动作类电影与爱情类电影呢？动作片中存在很多的打斗镜头，爱情片中可能更多的是亲吻镜头，所以我们姑且通过这两种镜头的数量来预测这部电影的主题 ...

干货 | 基础机器学习算法

2017-03-10

本篇内容主要是面向机器学习初学者,介绍常见的机器学习算法，当然,欢迎同行交流。 哲学要回答的基本问题是从哪里来、我是谁、到哪里去，寻找答案的过程或许可以借鉴机器学习的套路：组织数据->挖掘知识->预测未来。 ...

浅谈机器学习在市场营销中的应用

2017-03-06

目前，在线展示广告越来越流行。在线展示广告的目的是获取更多的潜在客户，吸引客户购买商品。在线展示广告的一个基本要求就是通过广告获取用户所需费用要小于用户购买商品所耗费用，进而使得通过广告吸引来 ...