热线电话:13121318867

登录
首页精彩阅读数据挖掘中所需的概率论Landon的推导(九)_数据分析师
数据挖掘中所需的概率论Landon的推导(九)_数据分析师
2014-11-29
收藏

数据挖掘中所需的概率论Landon的推导(九)_数据分析师


Landon的推导(1941)

    第三条道是一位电气工程师,Vernon D. Landon 给出的。1941年,Landon 研究通信电路中的噪声电压,通过分析经验数据他发现噪声电压的分布模式很相似,不同的是分布的层级,而这个层级可以使用方差来刻画。因此他推理认为噪声电压的分布函数形式是。现在假设有一个相对于而言很微小的误差扰动,且的分布函数是,那么新的噪声电压是。Landon提出了如下的准则
  1. 随机噪声具有稳定的分布模式
  2. 累加一个微小的随机噪声,不改变其稳定的分布模式,只改变分布的层级(用方差度量)
    用数学的语言描述:如果
    则有.现在我们来推导函数应该长成啥样。按照两个随机变量和的分布的计算方式,的分布函数将是的分布函数和的分布函数的卷积,即有
    把在x′处做泰勒级数展开(为了方便,展开后把自变量由x′替换为x),上式可以展开为
,则有
    对于微小的随机扰动,我们认为他取正值或者负值是对称的,所以。所以有
(8)
    对于新的噪声电压是x′=x+e,方差由增加为,所以按照Landon的分布函数模式不变的假设,新的噪声电压的分布函数应该为。把处做泰勒级数展开,得到
(9)
    比较(8)和(9)这两个式子,可以得到如下偏微分方程
    而这个方程就是物理上著名的扩散方程(diffusion equation),求解该方程就得到

    又一次,我们推导出了正态分布
    概率论沉思录作者E.T.Jaynes对于这个推导的评价很高,认为Landon的推导本质上给出了自然界的噪音形成的过程。他指出这个推导基本上就是中心极限定理的增量式版本,相比于中心极限定理来说,是一次性累加所有的因素,Landon的推导是每次在原有的分布上去累加一个微小的扰动。而在这个推导中,我们看到,正态分布具有相当好的稳定性;只要数据中正态的模式已经形成,他就容易继续保持正态分布,无论外部累加的随机噪声是什么分布,正态分布就像一个黑洞一样把这个累加噪声吃掉。


数据分析咨询请扫描二维码

最新资讯
更多
客服在线
立即咨询