¥22.0

加入VIP
  • 专属下载券
  • 上传内容扩展
  • 资料优先审核
  • 免费资料无限下载

上传资料

关闭

封号提示

内容

首页 第四章 大数定律与中心极限定理

快乐赛车玩法介绍

第四章 大数定律与中心极限定理

拍拍£宝贝
2018-05-29 0人阅读 举报 0 0 0 暂无简介

简介:本文档为《第四章 大数定律与中心极限定理doc》,可适用于市场营销领域

第四章大数定律与中心极限定理一、教学要求深刻理解并掌握大数定律能熟练应用大数定律证明题目理解随机变量序列的两种收敛性了解特征函数的连续性定理深刻理解与掌握中心极限定理并要对之熟练应用。二、重点与难点本章的重点是讲清大数定律与中心极限定理的条件、结论难点是随机变量序列的两种收敛及大数定律和中心极限定理的应用。sect大数定律一、大数定律的意义引入在第一章中引入事件与概率的概念时曾经指出尽管随机事件A在一次试验可能出现也可能不出现但在大量的试验中则呈现出明显的统计规律性mdashmdash频率的稳定性。频率是概率的反映随着观测次数的增加频率将会逐渐稳定到概率。这里说的ldquo频率逐渐稳定于概率rdquo实质上是频率依某种收敛意义趋于概率这个稳定性就是ldquo大数定律rdquo研究的客观背景。详细地说:设在一次观测中事件A发生的概率如果观测了次(也就是一个重贝努利试验)A发生了次则A在次观测中发生的频率为当充分大时频率逐渐稳定到概率。若用随机变量的语言表述就是:设表示第次观测中事件A发生次数即则是个相互独立的随机变量显然,从而有因此ldquo稳定于rdquo又可表述为次观测结果的平均值稳定于。现在的问题是:ldquo稳定rdquo的确切含义是什么?稳定于是否能写成()亦即是否对()对重贝努里试验的所有样本点都成立?实际上我们发现事实并非如此比如在次观测中事件A发生次还是有可能的此时从而对不论多么大也不可能得到成立。也就是说在个别场合下事件()还是有可能发生的不过当很大时事件()发生的可能性很小。例如对上面的有。显然当时所以ldquo稳定于rdquo是意味着对有()(概率上ldquo稳定于rdquo还有其他提法如波雷尔建立了从而开创了另一形式的极限定理强大数定律的研究)沿用前面的记号()式可写成一般地设是随机变量序列为常数如果对有()即则称稳定于。概率论中一切关于大量随机现象之平均结果稳定性的定理统称为大数定律。.定义若将()式中的换成常数列即得大数定律的一般定义。定义若是随机变量序列如果存在常数列使对有成立则称随机变量序列服从大数定律。若随机变量具有数学期望则大数定律的经典形式是:对有这里常数列。二、大数定律本段介绍一组大数定律设是一随机变量序列我们总假定存在。定理(马尔可夫大数定律)如果随机变量序列当时有(*)证明:服从大数定律。证明:对由切比雪夫不等式有因此即故服从大数定律。#此大数定律称为马尔可夫大数定律(*)式称为马尔可夫条件。定理(切比雪夫大数定律)设是一列独立随机变量列若存在常数使有则随机变量序列服从大数定律即对有证明:因为为独立随机变量列且由它们的方差有界即可得到从而有满足马尔可夫条件因此由马尔可夫大数定律有#注:切比雪夫大数定律是马尔可夫大数定律的特例。例设为独立同分布随机变量序列均服从参数为的泊松分布则由独立性及知其满足定理的条件因此有注:此例题也可直接验证满足马尔可夫条件。定理(贝努利定理或贝努利大数定律)设是重贝努利试验中事件A出现的次数又A在每次试验中出现的概率为则对有证明:令显然由定理条件独立同分布(均服从二点分布)。且都是常数从而方差有界。由切比雪夫大数定律有#贝努利大数定律的数学意义:贝努利大数定律阐述了频率稳定性的含义当充分大时可以以接近的概率断言将落在以为中心的内。贝努利大数定律为用频率估计概率()提供了理论依据。注:此定理的证明也可直接验证满足马尔可夫条件。注:贝努利大数定律是切比雪夫大数定律的特例。它是年由贝努利提出的概率极限定理中的第一个大数定律。以上大数定律的证明是以切比雪夫不等式为基础的所以要求随机变量的方差存在通过进一步研究我们发现方差存在这个条件并不是必要条件。定理(辛钦大数定律)设是一列独立同分布的随机变量且数学期望存在,则对有成立。注:贝努利大数定律是辛钦大数定律的特例。辛钦大数定律的数学意义:辛钦大数定律为实际生活中经常采用的算术平均值法提供了理论依据。它断言:如果诸是具有数学期望、相互独立、同分布的随机变量则当充分大时算术平均值一定以接近的概率落在真值的任意小的邻域内。据此如果要测量一个物体的某指标值可以独立重复地测量次得到一组数据:当充分大时可以确信且把作为的近似值比一次测量作为的近似值要精确的多因但即关于的偏差程度是一次测量的偏差程度的越大偏差越小。辛钦大数定律也是数理统计学中参数估计理论的基础通过第六章的学习我们对它会有更深入的认识。例设随机变量X,X,hellip,Xn,hellip相互独立同分布且EXn=,求解由辛钦大数定律有(epsilon=)即显然有故。从而有。#例设独立同分布且存在则也服从大数定律。证明:独立同分布所以也独立同分布又存在故由辛钦大数定律知服从大数定律。注:例是统计学中矩估计法的理论依据。sect随机变量序列的两种收敛性一、依概率收敛和依分布收敛定义设有一列随机变量如对任意的>有()则称随机变量序列{}依概率收敛到并记作()()式也等价于。注:由此可知前一节中讨论过的大数定律只是上述依概率收敛的一种特殊情况。例证明随机变量序列依概率收敛于随机变量的充要条件为:证:充分性令则故是的单调上升函数因而于是有对任意的成立充分性得证。必要性对任给的令因为故存在充分大的使得当时有于是有由的任意性知结论为真。#我们知道随机变量的统计规律由它的分布函数完全刻划当时其相应的分布函数与之间的关系怎样呢?例设都服从退化分布:对任给>当n>时有所以而的df为的df为易验证当时有rarr(nrarr)但不趋于#上例表明一个随机变量依概论收敛到某随机变量相应的分布函数不是在每一点都收敛但如果仔细观察这个例发现不收敛的点正是的不连续点类似的例子可以举出很多使人想到要求在每一点都收敛到是太苛刻了可以去掉的不连续点来考虑。定义设{}为一分布函数序列如存在一个函数使在的每一连续点x都有则称分布函数列{}弱收敛于并记作()定义设随机变量序列和的分布函数分别为若则称按分布收敛于并记作()二、两者之间的关系定理若则。证对于因有故即因故所以有同理可证对有于是对任意有令有若x是的连续点就有。#注:此定理的逆不真。例抛掷一枚均匀硬币记=ldquo出现正面rdquo=ldquo出现反面rdquo则令n=helliphellip因与完全相同显然有rarr对成立。但对有=故不成立。#一般来说按分布收敛不能推出依概率收敛但在特殊情况下却有下面的结果。定理设C是一常数则(即)证()由定理推得()(不妨就设)对任给有()因的分布函数为只在处不连续而在处都是连续的由在()中令得。                    #在第一节中介绍的大数定律实际上就是随机变量列依概率收敛于常数的问题由定理知它可归结为相应的分布函数列弱收敛于一退化分布而中心极限定理就是随机变量的分布函数列弱收敛问题可见分布函数列的弱收敛在本章讨论中占重要地位。然而要直接判断一个分布函数列是否弱收敛是很困难的上一章我们就知道分布函数与特征函数一一对应而特征函数较之分布函数性质优良很多故判断特征函数的收敛一般较易那么是否有相应的。答案是肯定的。即下述的特征函数的连续性定理。三、特征函数的连续性定理定理分布函数列{}弱收敛于分布函数的充要条件是相应的特征函数列{}收敛于的特征函数。证明:略。例若是服从参数为的普哇松分布的随机变量证明:证明:已知的特征函数为故的特征函数为对任意的有于是从而对任意的点列有又是分布的特征函数由定理即知有因是可以任意选取的所以#注:此例说明普哇松分布(当参数时)收敛于正态分布。例辛钦大数定律的证明证:因同分布故有相同的特征函数将(t)在t=处展开有由相互独立得的特征函数为对于任意由定理知再由定理得即服从大数定理。               #随机变量到依概率收敛具有如下性质。定理(斯鲁茨基)设是k个随机变量序列并且,(n,i=,,hellip,k)又R是k元变量的有理函数并且R,则有R(hellip,)Rn成立。作为它的直接推论我们可知随机变量序列在概率意义下的极限(即依概率收敛于常数)在四则运算下仍然成立。推论 若则有()()时例设为上的连续函数则有。证明:由于在上连续故对任意的任给存在使当时由此可知因此。由于则上式右端当时而趋向于因此即。例设为独立同分布随机变量序列存在令证明证:iid则亦iid由辛钦大数律由例故由斯鲁茨基定理#sect中心极限定理第二章介绍正态分布时我们一再强调正态分布在概率统计中的重要地位和作用为什么实际上有许多随机现象会遵循正态分布?这仅仅是一些人的经验猜测还是确有理论依据ldquo中心极限定理rdquo正是讨论这一问题的。在长达两个世纪的时间内成为概率论讨论的中心课题因此得到了中心极限定理的名称。一、中心极限定理的概念设为一独立随机变量序列且均存在称为的规范和。概率论中一切关于随机变量序列规范和的极限分布是标准正态分布的定理统称为中心极限定理即设的规范和为有则称服从中心极限定理。中心极限定理实质上为近似服从标准正态分布。二、独立同分布中心极限定理大数定律仅仅从定性的角度解决了频率稳定于概率p即为了定量地估计用频率估计概率的误差历史上DeMoivremdashLaplace给出了概率论上第一个中心极限定理这个定理证明了的标准化随机变量渐近于分布。定理(德莫佛mdash拉普拉斯)极限定理在重贝努里试验中事件A在每次试验中出现的概率为为次试验中事件A发生的次数则注:定理说明近似服从从而近似服从又服从二项分布所以定理也称为二项分布的正态近似或二项分布收敛于正态分布。在第二章泊松定理也被说成是ldquo二项分布收敛于泊松分布rdquo。同样一列二项分布一个定理说是收敛于泊松分布另一个定理又说是收敛于正态分布两者不是说有矛盾吗?请仔细比较两个定理的条件和结论就可以知道其中并无矛盾之处。这里应该指出的是在定理中而泊松定理中则要求。所以在实际问题中作近似计算时如果很大不大或不大(即很小或很小)则应该利用泊松定理反之若都较大则应该利用定理。定理(林德贝尔格勒维)极限定理设,helliphellip是一列独立同分布的随机变量且则有注:德莫佛mdash拉普拉斯极限定理是林德贝尔格勒维极限定理的特例。证明:设的特征函数为则的特征函数为又因为所以于是特征函数为有展开式从而对任意固定的有又是分布的特征函数由定理有注:定理表明:当充分大时的分布近似于从而具有近似分布。这意味大量相互独立、同分布且存在方差的随机变量之和近似服从正态分布。该结论在数理统计的大样本理论中有广泛应用同时也提供了计算独立同分布随机变量之和的近似概率的简便方法。例利用中心极限定理证明:证:设是独立同分布随机变量序列共同分布为的Poisson分布故由林德贝尔格勒维中心极限定理知由Poisson分布的可加性知服从参数为的Poisson分布因而但所以成立结论得证。三、应用德莫佛mdash拉普拉斯中心极限定理是概率论历史上的第一个中心极限定理它有许多重要的应用。下面介绍它在数值计算方面的一些具体应用。二项概率的近似计算设是重贝努里试验中事件发生的次数则~对任意有当很大时直接计算很困难。这时如果不大(即较小接近于)或不大(即接近于)则用泊松定理来近似计算(大小适中)当不太接近于或时可用正态分布来近似计算(较大):例在一家保险公司里有个人参加保险每人每年付元保险费。在一年内一个人死亡的概率为死亡时其家属可向保险公司领得元问:()保险公司亏本的概率多大?()保险公司一年的利润不少于元的概率为多大?解:保险公司一年的总收入为元这时()若一年中死亡人数则保险公司亏本()若一年中死亡人数则利润元。令则记,已足够大于是由德莫佛mdash拉普拉斯中心极限定理可得欲求事件的概率为()(其中)同理可求得()。例某单位内部有架电话分机每个分机有的时间要用外线通话。可以认为各个电话分机用不同外线是相互独立的。问:总机需备多少条外线才能以的把握保证各个分机在使用外线时不必等候?解:由题意任意一个分机或使用外线或不使用外线只有两种可能结果且使用外线的概率=个分机中同时使用外线的分机数~设总机确定的最少外线条数为,则有由于较大故由德莫佛mdash拉普拉斯定理有查正态分布表可知解得所以总机至少备有条外线才能以的把握保证各个分机使用外线时不必等候。用频率估计概率的误差估计由贝努利大数定律那么对给定的和较大的究竟有多大?贝努利大数定律没有给出回答但利用德莫佛mdash拉普拉斯极限定理可以给出近似的解答。对充分大的故由此可知德莫佛mdash拉普拉斯极限定理比贝努利大数定律更精细也更有用。例重复掷一枚质地不均匀的硬币设在每次试验中出现正面的概率未知。试问要掷多少次才能使出现正面的频率与相差不超过的概率达以上?解:依题意欲求使所以要掷硬币次以上就能保证出现正面的频率与概率之差不超过。四、独立非同分布的中心极限定理在前面介绍的中心极限定理中,不仅要求随机变量序列相互独立,而且要求它们同分布而实际问题中的许多随机变量序列,说其具有独立性是合理的,但很难满足同分布的要求为了解决此问题,引入下面的林德贝尔格条件:定义:设是独立随机变量序列且记这时()若是连续型随机变量密度函数为如果对任意的有()若是离散型随机变量的分布列为如果对任意的有则称满足林德贝尔格条件。定理(林德贝尔格定理)设独立随机变量序列满足林得贝尔格条件则当时对任意的有证明:略。林德贝尔格条件的意义:不妨以连续型情形为例来研究一下。令则于是从而对任意的若林得贝尔格条件成立就有这个关系式表明和式的加项中的各项一致地按概率收敛于零。因此林德贝尔格定理可以解释如下:假设被研究的随机变量可以表示为大量独立随机变量的和其中每一个随机变量对于总和只起微小的作用则可认为这个随机变量实际上是服从正态分布的。注:由林德贝尔格定理可以推出林德贝尔格勒维定理:若为连续型随机变量密度函数均为则即满足林德贝尔格条件定理(李雅普诺夫定理)设是独立随机变量序列又记,若存在使有,则对任意的有证明:我们只有验证林得贝尔格条件满足仍设是连续型随机变量密度函数为则有同理可以验证离散型的情形故定理成立。作业:

用户评价(0)

新课改视野下建构高中语文教学实验成果报告(32KB)

抱歉,积分不足下载失败,请稍后再试!

提示

试读已结束,如需要继续阅读或者下载,敬请购买!

评分:

/21

¥22.0

VIP

意见
反馈

免费
邮箱