页 中国地质大学2014届本科生毕业论文 第 4 页 共 15
切比雪夫不等式:设随机变量X具有数学期望E(X)??2,则对于任意正数?,不等式
?2P{X-???}?2成立
?§1.3 点估计
1.3.1 矩估计
用矩法求估计很古老的估计方法,是建立在独立同分布情形下的大数定律(样本均值趋向总体
平均),它由K .Pearson 在20世纪初提出,其中心思想就是用样本矩去估计总体矩。
总体X分布函数的未知参数为??(?1,?2,???,?m)T,如果总体的k阶原点矩
我们设总体的k阶原点矩与它的样本的k阶原点矩E(Xk)??k(?1,?2,???,?m),k?1,2,???,m存在,相等
1nAk??Xik,k?1,2,???,m
ni?11n即?k(?1,?2,???,?m)?E(X)??Xik?Ak,k?1,2,???,m
ni?1k ? ??(??,??,???,??)T从上面式子可得到关于未知量?的解?i??(X1,X2,???,Xn),i?1,2,???,m,取?12m作为??(?1,?2,???,?m)T的估计,就称??为?的矩估计。
关键要掌握两个式子(设总体的均值为?,方差为?,X1,X2,???,Xn是来自总体X的一个样本):可得总体X的一阶,二阶原点矩为
2
? ??1=E(X)=?, ?2222??2?E(X)?D(X)?[E(X)]????,而样本的一阶,二阶原点矩为
1n1n A1??Xi?X,A2??Xi2
ni?1ni?1由此可得到
1n ??X,?????Xi2,
ni?122?2???X,其中由于上面无偏性有提到方差并不等于样本方差S,而是?所以?2n?12S,矩估计n
页 中国地质大学2014届本科生毕业论文 第 5 页 共 15
1n为(Xi?X)2。 ?n?1i?1当矩估计不唯一时,我们可以根据下面的两个基本原则来选择是否用矩估计:a、涉及到矩的阶数尽量小, 对总体X的要求也尽量少; 比较常用到的矩估计的阶数一般是一、二阶数;b、用的估计最好是最小充分统计量的函数,因为在各种统计问题中充分性原则都应是适合的。
矩估计的两个基本特点是1、由于矩估计是基于经验分布函数,而经验分布函数逼近真实分布函数的前提条件是样本容量较大,所以理论上,矩估计是以大样本为应用对象的;2、矩估计没有用到总体分布的任何信息时,本质上是一种非参数方法,对已知的总体分布,它不一定是一个好的估计。
1.3.2 极大似然估计
极大似然方法是统计中最重要、应用最广泛的方法之一。该方法在1821年由德国数学家Gauss提出的,但并没有得到重视,在1922年R.A.Fisher再次提出,并探讨研究了它的性质。它利用总体分布函数的相关信息,克服矩估计的一些不足。
总体X的分布律或概率密度函数为f(x;?),???是未知参数,其中总体的样本是
X1,X2,???,Xn,则
L(?;x)?L(?;x1,x2,???,xn)??f(x;?)
ii?1n????(X)???(X,X,???,X)满足条件 为?的似然函数。若统计量?12n?(X);X)?supL(?;x), L(?????)?(Y?X??)?(Y?X?min(Y?X?)?(Y?X?)
??(X)为?的极大似然估计。 则称?极大似然法有许多优良的性质:相合性与渐进有效性、渐进正态性等等。可以计算一些比较复
杂的点估计。尽管如此,极大似然也有它的局限性,比如说:极大似然法一定要知道总体分布形式,并且一般情况下,似然方程组的求解比较复杂,一般需要在计算机上通过跌代运算方能计算出其近似解,且并不是通过求导数都获得极大似然估计值的,以及任何统计推断都应该依赖损失函数,但是极大似然方法没有考虑到损失函数。
§1.4贝叶斯公式
设B1,B2...Bn是一系列互不相容的事件,且有
页 中国地质大学2014届本科生毕业论文 第 6 页 共 15
?Bi?1ni??, P(Bi)?0,i?1,2...n.
则对任一事件A,有 P(BiA)?P(Bi)P(ABi)?P(B)P(AB)jjj?1n, i?1,2...n.
。 P(Bi)叫先验概率,也叫边缘概率,P(BiA)叫后验概率(i?1,2...n.)
§1.5 中心极限定理
1.5.1林德伯格定理
设独立随机变量X1,X2,?,Xn?满足林德伯格条件,对于任意的正数?,有
1lim2n??Sn??i?1nx??i>?sn(x??i)2fi(x)dx?0。
其中fi(x)是随机变量Xi的概率密度,则当n??时,我们有
n??limP(Zn?z)??2?1z??e?t22dt
即
limP(i?1n???(Xni??i)?z)?12?sn?z??e?t22dt
其中z是任何实数。
1.5.2棣莫弗-拉普拉斯中心极限定理:
1),随机变量Yn表示事件A在n 设在独立试验序列中,事件A在各次试验中发生的概率为p(0<p<次试验中发生的次数,则有
t???Yn?np?z1?2limP??z???edt,
??n??2????np(1?p)?2其中z是任何实数。
页 中国地质大学2014届本科生毕业论文 第 7 页 共 15
§1.6随机变量及其分布
1.6.1随机变量
设随机试验的样本空间为S?{e}. X?X(e)是定义在样本空间S上的实值单值函数,称X?X(e)为随机变量
1.6.2离散性随机变量及其分布律
(1) 离散随机变量:有些随机变量,它全部可能取到的值是有限个或可列无限多个,这种随机变量称为离散型随机变量。
(2)?Pk=1 P(X?xk)?pk满足如下两个条件(1)pk?0,
k?1?三种重要的离散型随机变量
设离散型随机变量的分布律为P{X?K}?PK(1?P)(1?K),其中K=0、1,P为k=1时的概率(0
(2)伯努利实验、二项分布
设实验E只有两个可能结果:A与A,则称E为伯努利实验.设P(A)?p(0?p?1),此时
—P(A)?1-p.将E独立重复的进行n次,则称这一串重复的独立实验为n重伯努利实验。
??n?kn-k?n?kn-kp?0 P(X?k)??满足条件(1),(2)=1注意到P??pq,k?0,1,2,?n?kk?k??k??pqk?1????—n是二项式的展开式中出现p的那一项,我们称随机变量X服从参数为n,p的二项分布。 (p?q)k(3)泊松分布
设随机变量X所有可能取的值为0,1,2…,而取各个值的概率为
P(X?k)??ke-?k! ,k?0,1,2?,其中??0是常数,则称X服从参数为?的泊松分布记为X~?(?)
1.6.3 随机变量的分布函数
设X是一个随机变量,x是任意实数,函数F(x)?P{X?x},-??x?? 称为X的分布函数
分布函数F(x)?P(X?x),具有以下性质 (1) F(x)是一个不减函数
页 中国地质大学2014届本科生毕业论文 第 8 页 共 15
(2) (2)0?F(x)?1,且F(??)?0,F(?)?1 (3) (3)F(x?0)?F(x),即F(x)是右连续的
1.6.4 连续性随机变量及其概率密度
连续随机变量:如果对于随机变量X的分布函数F(x),存在非负可积函数f(x),使对于任意函数x有F(x)?率密度
1 概率密度f(x)具有以下性质,满足(1)f(x)?0, (2) (3)P(x1?X?x2)??x-?f(t)dt,则称x 为连续性随机变量,其中函数f(x)称为X的概率密度函数,简称概
???-?f(x)dx?1;
?x2x1(4)若f(x)在点x处连续,则有F,f(x)dx;(x)?f(x)
2,三种重要的连续型随机变量
(1)均匀分布
?1?,a?x?b若连续性随机变量X具有概率密度f(x)??b-a,则成X在区间(a,b)上服从均匀分布.
??0,其他记为X~U(a,b)
(2)指数分布
?1-x??e若连续性随机变量X的概率密度为f(x)?????0,x.?0,其他 其中??0为常数,则称X服从参数为
?的指数分布。
(3)正态分布
若连续型随机变量X的概率密度为f(x)?12??e?2(x??)2?2其中?,?(??0)为常数,则称X服从参数为?,?的正态分布,-??x??,或高斯分布,记为X~N(?,?2) 特别,当??0,??1时称随机变量X服从标准正态分布
1.6.5 随机变量的函数的分布
设随机变量X具有概率密度fx(x),-??x??,又设函数g(x)处处可导且恒有g(x)?0,则
,?fX?h(y)?h,(y),??y??Y=g(X)是连续型随机变量,其概率密度为fY(y)??0,其他?