diff --git a/概率论与数理统计/0考试.md b/概率论与数理统计/0考试.md index 33d63a5e..f261c620 100644 --- a/概率论与数理统计/0考试.md +++ b/概率论与数理统计/0考试.md @@ -1,5 +1,49 @@ # 考试 +## 1 考试内容 + +### 第一章:基础知识 + +* 充分统计量 +* 正态分布 +* 三大分布的性质; + +### 第二章:参数估计 + +* 估计方法:频率估计、矩估计、极大似然估计方法 +* 评优准则:无偏估计、一致最小方差无偏估计 +* Fisher信息量、有效估计; +* 相合估计、区间估计不考,但是可以加深对假设检验的理解。 + + +### 第三章:假设检验 + +* 基本概念:拒绝域、第一第二类错误、势函数定义, +* 正态总体假设检验(必考,重要) +* 似然比检验, +* 检验的优良性:最优势检验、一致最优势检验、无偏检验; + +### 第四章:回归分析 + +* 大作业内容已考察; + +### 第五章:方差分析与正交试验 + +* 极差分析和正交表设计; + +### 第六章:多元正太总体 + +* 不做要求; + +### 第七章:判别分析 + +* 大作业内容已考察; + +### 第八章:相关分析 + +* 主成分分析。 + + ### 参数估计 * 求:极大似然估计、一致最小方差无偏估计 * 求Fisher信息量 diff --git a/概率论与数理统计/第11节 假设检验.md b/概率论与数理统计/第11节 假设检验.md index 5f092094..7702a150 100644 --- a/概率论与数理统计/第11节 假设检验.md +++ b/概率论与数理统计/第11节 假设检验.md @@ -13,7 +13,7 @@ * 所要检验的假设称为原假设或零假设,记为$H_0$。 * 与$H_0$不相容的假设称为备择假设或对立假设,记为$H_1$。 -* 对参数分布族$\{p(x;\theta):\theta\in\Theta\}$,原假设和北泽假设这对矛盾统一体,称为假设检验: +* 对参数分布族$\{p(x;\theta):\theta\in\Theta\}$,原假设和备择假设这对矛盾统一体,称为假设检验: $$ H_0:\theta\in\Theta_0,H_1:\theta\in\Theta_1 $$ @@ -46,7 +46,7 @@ $$ * 第二类错误:当原假设$H_0$本来不成立时,样本观察值落入接受域$W^c$,我们错误的接受了$H_0$,称为取伪错误,其概率为: $$ -\beta(\theta)=P_\theta\{x\notin W\}=1-P_\theta{x\in W},\theta\in\Theta_1e +\beta(\theta)=P_\theta\{x\notin W\}=1-P_\theta\{x\in W\},\theta\in\Theta_1e $$ $$ diff --git a/概率论与数理统计/第12节 正太总体参数的假设检验.md b/概率论与数理统计/第12节 正太总体参数的假设检验.md index b29e4e83..6da7ddf4 100644 --- a/概率论与数理统计/第12节 正太总体参数的假设检验.md +++ b/概率论与数理统计/第12节 正太总体参数的假设检验.md @@ -1,4 +1,4 @@ - # 正太总体参数的假设检验 +# 正太总体参数的假设检验 > 一会单独复习这里 ## 1 单个总体-方差已知-均值检验 diff --git a/概率论与数理统计/第15节 检验的优良性.md b/概率论与数理统计/第15节 检验的优良性.md index b43bf7b5..c91d8dfc 100644 --- a/概率论与数理统计/第15节 检验的优良性.md +++ b/概率论与数理统计/第15节 检验的优良性.md @@ -12,7 +12,7 @@ $$ $$ 存在检验水平\alpha的检验函数\varphi^*\in\varPhi_\alpha,\\ 任一水平为\alpha的检验\varphi\in\varPhi_\alpha,有:\\ -E_{\theta_1}(\varphi^*(x))\geq E_{\theta_1}(varphi(x))成立\\ +E_{\theta_1}(\varphi^*(x))\geq E_{\theta_1}(\varphi(x))成立\\ $$ * 结论 $$ @@ -53,13 +53,16 @@ $$ 检验水平\alpha的检验函数\varphi^*\in\Theta_\alpha\\ 对任意水平\alpha的检验函数\varphi满足不等式:\\ -E_{\theta_0}(\varphi^*(x))\geq E_\theta(\varphi(x)) +E_{\theta}(\varphi^*(x))\geq E_\theta(\varphi(x)) $$ * 结论 $$ 则称\varphi^*(x)为水平为\alpha的一致最优势检验,记为UMPT。 $$ +> 一致最优势检验将参数的范围从$\theta_1$扩大到了$\theta$。如果最优势检验,不依赖于备择假设的参数,则可扩大备择假设,并由最优势检验获得一致最优势检验。扩大了NP引理。 + + ### 定理:一致最优势检验存在定理 * 声明 $$ diff --git a/概率论与数理统计/第18节 方差分析.md b/概率论与数理统计/第18节 方差分析.md index f73e5fce..163ad515 100644 --- a/概率论与数理统计/第18节 方差分析.md +++ b/概率论与数理统计/第18节 方差分析.md @@ -97,7 +97,7 @@ F=\frac{S_A/(p-1)}{S_e/(n-p)}\sim F(p-1,n-p) $$ * 拒绝域 $$ -W=\{F:F\geq F_{1-\alpha}((p-1),n-p)\} +W=\{F:F\geq F_{1-\alpha}((p-1),(n-p)\} $$ > 重点:5.1.4表 diff --git a/概率论与数理统计/第1节 概率论基础知识.md b/概率论与数理统计/第1节 概率论基础知识.md index dfdfd110..e945b90a 100644 --- a/概率论与数理统计/第1节 概率论基础知识.md +++ b/概率论与数理统计/第1节 概率论基础知识.md @@ -36,7 +36,8 @@ $$ ### 全概率公式 设试验$E$样本空间为$S$,$A$为试验的实践,$B_1,\dotsm,B_n$为S的一个划分,且$P(B_i)>0$,则: $$ -P(A)=P(A|B_1)P(B_1)+\dotsm+P(A)P(A|B_n) +P(A)=P(A|B_1)P(B_1)+\dotsm+P(A|B_n)P(B_n)\\ +=\sum_i^nP(A|B_i)P(B_i) $$ ### 贝叶斯公式 @@ -156,7 +157,7 @@ $$ ### 正太分布或高斯分布$X\sim N(\mu,\sigma^2)$: $$ -f(x)=\frac{1}{\sqrt{2\pi}}e^{-\frac{{x-\mu}^2}{2 \sigma^2}},-\infin < x < + \infin +f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{{x-\mu}^2}{2 \sigma^2}},-\infin < x < + \infin $$ 相关性质: 1. 关于$x=\mu$对称 diff --git a/概率论与数理统计/第3节 统计量.md b/概率论与数理统计/第3节 统计量.md index 052a927d..bb90057d 100644 --- a/概率论与数理统计/第3节 统计量.md +++ b/概率论与数理统计/第3节 统计量.md @@ -72,7 +72,7 @@ $$ ### 公式:$X_{(n)}$ $$ F_{x_{(n)}}(t)=F^n(t)\\ -P_{x_{(1)}}=nF^{n-1}(t)(F'(t)) +P_{x_{(n)}}=nF^{n-1}(t)(F'(t)) $$ ### 公式:极差 $$ diff --git a/概率论与数理统计/第4节 抽样分布.md b/概率论与数理统计/第4节 抽样分布.md index 4273d770..7357fe71 100644 --- a/概率论与数理统计/第4节 抽样分布.md +++ b/概率论与数理统计/第4节 抽样分布.md @@ -20,8 +20,8 @@ X是随机变量$e^{-itX}$数学期望为X的分布的特征函数。 $$ \varphi_X(t)=E(e^{itX})=Ecos(tX)+iEsin(tX)\\ -离散型:\varphi_X(t) =E(e^{itX})= \int_{-\infin}^{+\infin}f(x)e^{itx}dx \\ -连续型:\varphi_X(t) =E(e^{itX})= \sum_kp_ke^{(itx_k)} +连续型:\varphi_X(t) =E(e^{itX})= \int_{-\infin}^{+\infin}f(x)e^{itx}dx \\ +离散型:\varphi_X(t) =E(e^{itX})= \sum_kp_ke^{(itx_k)} $$ ### 公式:常见分布的特征函数 @@ -64,7 +64,7 @@ $$ $$ \Gamma(s+1)=s\Gamma(s),s>0,s\in R \\ -\Gamma(s+1)=n!,s>0,s\in N +\Gamma(n+1)=n!,s>0,s\in N $$ ### 性质:极限 当$s\rightarrow 0^+$时,$\Gamma(s)\rightarrow+\infin$ @@ -154,7 +154,7 @@ f(z)=\begin{cases} \end{cases} $$ ### 定理8:$F(n_1,n_2)$倒数特性 -若$F\sim G(n_1,n_2)$,则$\frac{1}{F}\sim F(n_1,n_2)$ +若$F\sim F(n_1,n_2)$,则$\frac{1}{F}\sim F(n_2,n_1)$ ## 5 正太总体下统计量的分布 diff --git a/概率论与数理统计/第6节 估计量的评优准则.md b/概率论与数理统计/第6节 估计量的评优准则.md index 5742586d..6dfbf1d1 100644 --- a/概率论与数理统计/第6节 估计量的评优准则.md +++ b/概率论与数理统计/第6节 估计量的评优准则.md @@ -92,7 +92,7 @@ $$ 一致最小方差无偏估计是唯一的。 -## 4 充分统计量 +## 4 充分统无偏估计量 > 基于充分统计量的无偏估计 > 对充分统计量的理解,充分统计量能够完整的反映未知参数$\theta$的变换关系。当充分统计量确定后,未知参数也确定了,则整个等式会减少一维的未知关系。 @@ -113,24 +113,14 @@ Var_\theta(T(x))\leq Var_\theta(\varphi(x))\\ $$ > 说明:这个结论说明了,充分无偏运算,能够缩小无偏统计量的方差。 -* 计算 -解题步骤1: - - * 寻找完全充分统计量 - * 寻找无偏估计 - * 做条件期望,得到充分无偏估计量。 - -解题步骤2: - - * 寻找完全充分统计量 - * 构造完全充分统计量的无偏估计函数,即充分无偏估计量。 - -### 定义5:充分无偏估计 +### 定义5:充分无偏估计量 充分统计量$S(x)$的函数$h(S(x))$作为参数$q(\theta)$的无偏估计。则成$h(S(x))$是$q(\theta)$的充分无偏估计量。 - +$$ +T(x)=E_\theta(h(S(x))|S(x))=h(S(x)) +$$ 若$h(S(x))$是$q(\theta)$的无偏估计,则称估计量$h(S(x))$为参数$q(\theta)$的充分无偏估计。 $$ @@ -139,7 +129,7 @@ $$ T(x)是S(x)的函数,是充分估计量。T(x)是无偏估计。所以T(x)是充分无偏估计量。 -## 5 充分完全统计量 +## 5 完全充分统计量 > 完全充分无偏估计是一致最小方差无偏估计。 @@ -185,6 +175,20 @@ $$ T(x)=E_\theta(\varphi(x)|S(x))是q(\theta)唯一的一致最小方差无偏估计。 $$ +### 原理总结 + +1. 定理3,通过条件数学期望,求解充分无偏估计。 +2. 定义5,通过充分统计量构造无偏统计量,得到充分无偏估计量。 +3. 定理4,通过形式函数,得到完全充分统计量。 +4. 定理5,表示完全+充分+无偏,能够得到UMVUE一致最小方差无偏估计。 + +以上内容可以通过两条路径求解UMVUE + +$$ +3\rightarrow 1 \rightarrow 4\\ +3\rightarrow 2 \rightarrow 4 +$$ + ## 6 求解无偏估计 当UqS是完全充分的时候,其内只有一个元素。 @@ -196,3 +200,18 @@ $$ 2. 方案二: 求一个无偏估计---对完全充分统计量取条件期望=一致最小方差无偏估计UMVUE + +### 求解UMVUE的步骤 + + +解题步骤1: + + * 寻找完全充分统计量 + * 寻找无偏估计 + * 做条件期望,得到充分无偏估计量。 + +解题步骤2: + + * 寻找完全充分统计量 + * 构造完全充分统计量的无偏估计函数,即充分无偏估计量。 + diff --git a/概率论与数理统计/第7节 信息不等式.md b/概率论与数理统计/第7节 信息不等式.md index 8406c9b5..9e1007d6 100644 --- a/概率论与数理统计/第7节 信息不等式.md +++ b/概率论与数理统计/第7节 信息不等式.md @@ -49,6 +49,22 @@ $$ I(\theta)=-E_\theta[\frac{\partial^2}{\partial\theta^2}\ln p(x;\theta)] $$ +### 定义3:样本的FIsher信息量 +* 样本的Fisher信息量: +$$ +I_n(\theta)=E_\theta[\frac{\partial}{\partial\theta}\ln p(x_1,\cdots,x_n;\theta)]^2=nI(\theta)\\ +$$ +* 统计量的Fisher信息量 + +$$ +I_T(\theta)=E_\theta[\frac{\partial}{\partial\theta}\ln p_T(x;\theta)]^2 +$$ + +* 二者关系 +$$ +I_T(\theta)\leq I_n(\theta) +$$ +当且仅当T(x)是充分统计量时,等号成立。 ### 定理1:信息不等式 @@ -113,7 +129,7 @@ $$ * 条件 $$ -可估参数q(\theta)的任意无偏估计T\in\U_q \\ +可估参数q(\theta)的任意无偏估计T\in U_q \\ 令e(T,q(\theta))=\frac{[q'(\theta)]^2}{nI(\theta)}/Var_\theta(T) $$ * 结论