mirror of
https://github.com/Estom/notes.git
synced 2026-04-13 18:00:27 +08:00
微积分与假设检验
This commit is contained in:
estomm
93
微积分/不定积分.md
Normal file
93
微积分/不定积分.md
Normal file
@@ -0,0 +1,93 @@
|
||||
# 常见积分公式
|
||||
## 1 基本公式
|
||||
|
||||
$$
|
||||
\begin{aligned}
|
||||
|
||||
&{{}_{ }^{ } \int _{ }^{ }k \text{d} x=kx+C}\\
|
||||
&{{}_{ }^{ } \int _{ }^{ }\mathop{{x}}\nolimits^{{ \mu }} \text{d} x=\frac{{\mathop{{x}}\nolimits^{{ \mu +1}}}}{{ \mu +1}}+C,{ \left( { \mu \neq -1} \right) }}\\
|
||||
&{{}_{ }^{ } \int _{ }^{ }\frac{{1}}{{x}} \text{d} x= \text{ln} { \left| {x} \right| }+C}\\
|
||||
& {{}_{ }^{ } \int _{ }^{ }\frac{{1}}{{1+\mathop{{x}}\nolimits^{{2}}}} \text{d} x= \text{arctan} x+C}\\
|
||||
&{{}_{ }^{ } \int _{ }^{ }\frac{{1}}{{\sqrt{{1-\mathop{{x}}\nolimits^{{2}}}}}} \text{d} x= \text{arcsin} x+C}
|
||||
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
## 2 三角函数
|
||||
|
||||
$$
|
||||
\begin{aligned}
|
||||
&{{}_{ }^{ } \int _{ }^{ } \text{cos}x \text{d} x= \text{sin} x+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ } \text{sin} x \text{d} x=- \text{cos} x+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ } \text{tan} x \text{d} x=- \text{ln} { \left| { \text{cos} x} \right| }+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ } \text{cot} x \text{d} x= \text{ln} { \left| { \text{sin} x} \right| }+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ } \text{sec} x \text{d} x= \text{ln} { \left| { \text{sec} x+ \text{tan} x} \right| }+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ } \text{csc} x \text{d} x= \text{ln} { \left| { \text{csc} x- \text{cot} x} \right| }+C}\\
|
||||
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ }\frac{{1}}{{\mathop{{ \text{cos} }}\nolimits^{{2}}x}} \text{d} x={}_{ }^{ } \int _{ }^{ }\mathop{{ \text{sec} }}\nolimits^{{2}}x \text{d} x= \text{tan} x+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ }\frac{{1}}{{\mathop{{ \text{sin} }}\nolimits^{{2}}x}} \text{d} x={}_{ }^{ } \int _{ }^{ }\mathop{{ \text{csc} }}\nolimits^{{2}}x \text{d} x=- \text{cot} x+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ } \text{sec} x \text{tan} x \text{d} x= \text{sec} x+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ } \text{csc} x \text{cot} x \text{d} x=- \text{csc} x+C}\\
|
||||
|
||||
|
||||
\end{aligned}
|
||||
|
||||
$$
|
||||
|
||||
## 3 指数函数
|
||||
|
||||
$$
|
||||
|
||||
\begin{aligned}
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ }\mathop{{e}}\nolimits^{{x}} \text{d} x=\mathop{{e}}\nolimits^{{x}}+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ }\mathop{{a}}\nolimits^{{x}} \text{d} x=\frac{{\mathop{{a}}\nolimits^{{x}}}}{{ \text{ln} a}}+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ } \text{sh} x \text{d} x= \text{ch} x+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ } \text{ch} xdx= \text{sh} x+C}
|
||||
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
## 4 分式
|
||||
|
||||
$$
|
||||
\begin{aligned}
|
||||
& {{}_{ }^{ } \int _{ }^{ }\frac{{1}}{{\mathop{{x}}\nolimits^{{2}}+\mathop{{a}}\nolimits^{{2}}}} \text{d} x=\frac{{1}}{{a}} \text{arctan} \frac{{x}}{{a}}+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ }\frac{{1}}{{\mathop{{x}}\nolimits^{{2}}-\mathop{{a}}\nolimits^{{2}}}} \text{d} x=\frac{{1}}{{2a}} \text{ln} { \left| {\frac{{x-a}}{{x+a}}} \right| }+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ }\frac{{1}}{{\sqrt{{\mathop{{a}}\nolimits^{{2}}-\mathop{{x}}\nolimits^{{2}}}}}} \text{d} x= \text{arcsin} \frac{{x}}{{a}}+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ }\frac{{1}}{{\sqrt{{\mathop{{x}}\nolimits^{{2}}+\mathop{{a}}\nolimits^{{2}}}}}} \text{d} x= \text{ln} { \left( {x+\sqrt{{\mathop{{x}}\nolimits^{{2}}+\mathop{{a}}\nolimits^{{2}}}}} \right) }+C}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ }\frac{{1}}{{\sqrt{{\mathop{{x}}\nolimits^{{2}}-\mathop{{a}}\nolimits^{{2}}}}}} \text{d} x= \text{ln} { \left( {x+\sqrt{{\mathop{{x}}\nolimits^{{2}}\mathop{{a}}\nolimits^{{2}}}}} \right) }+C}
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
## 5 积分性质
|
||||
|
||||
$$
|
||||
\begin{aligned}
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ }{ \left[ {f{ \left( {x} \right) }+g{ \left( {x} \right) }} \right] } \text{d} x={}_{ }^{ } \int _{ }^{ }f{ \left( {x} \right) } \text{d} x+{}_{ }^{ } \int _{ }^{ }g{ \left( {x} \right) } \text{d} x}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ }kf{ \left( {x} \right) } \text{d} x=k{}_{ }^{ } \int _{ }^{ }f{ \left( {x} \right) } \text{d} x}\\
|
||||
|
||||
& {{}_{ }^{ } \int _{ }^{ }u \text{d} v=uv-{}_{ }^{ } \int _{ }^{ }v \text{d} u}
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
|
||||
## 换元法
|
||||
101
微积分/定积分.md
Normal file
101
微积分/定积分.md
Normal file
@@ -0,0 +1,101 @@
|
||||
# 定积分
|
||||
|
||||
|
||||
## 1 定积分性质
|
||||
|
||||
$$
|
||||
\begin{aligned}
|
||||
|
||||
& \mathop{ \int }\nolimits_{{a}}^{{b}}f{ \left( {x} \right) } \text{d} x=-\mathop{ \int }\nolimits_{{b}}^{{a}}f{ \left( {x} \right) } \text{d} x\\
|
||||
|
||||
& \mathop{ \int }\nolimits_{{a}}^{{b}}{ \left[ {f{ \left( {x} \right) } \pm g{ \left( {x} \right) }} \right] } \text{d} x=\mathop{ \int }\nolimits_{{a}}^{{b}}f{ \left( {x} \right) } \text{d} x \pm \mathop{ \int }\nolimits_{{a}}^{{b}}g{ \left( {x} \right) } \text{d} x\\
|
||||
|
||||
& \mathop{ \int }\nolimits_{{a}}^{{b}}kf{ \left( {x} \right) } \text{d} x=k\mathop{ \int }\nolimits_{{a}}^{{b}}f{ \left( {x} \right) } \text{d} x\\
|
||||
|
||||
& \mathop{ \int }\nolimits_{{a}}^{{b}}f{ \left( {x} \right) } \text{d} x=\mathop{ \int }\nolimits_{{a}}^{{c}}f{ \left( {x} \right) } \text{d} x+\mathop{ \int }\nolimits_{{c}}^{{b}}f{ \left( {x} \right) } \text{d} x, \forall c \in { \left( {a,b} \right) }
|
||||
|
||||
|
||||
|
||||
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
## 2 不等式
|
||||
|
||||
### 一致大小
|
||||
$$
|
||||
\begin{aligned}
|
||||
|
||||
& f{ \left( {x} \right) } \ge g{ \left( {x} \right) },x \in { \left[ {a,b} \right] } \Rightarrow \mathop{ \int }\nolimits_{{a}}^{{b}}f{ \left( {x} \right) } \text{d} x \ge \mathop{ \int }\nolimits_{{a}}^{{b}}g{ \left( {x} \right) } \text{d} x\\
|
||||
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
### 绝对值不等式
|
||||
|
||||
$$
|
||||
\begin{aligned}
|
||||
|
||||
& a < b \Rightarrow { \left| {\mathop{ \int }\nolimits_{{a}}^{{b}}f{ \left( {x} \right) } \text{d} x} \right| } \le \mathop{ \int }\nolimits_{{a}}^{{b}}{ \left| {f{ \left( {x} \right) } \text{d} x} \right| }\\
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
### 上下限
|
||||
$$
|
||||
\begin{aligned}
|
||||
|
||||
& {M=\mathop{{f}}\nolimits_{{max}}{ \left( {x} \right) },m=\mathop{{f}}\nolimits_{{min}}{ \left( {x} \right) },x \in { \left[ {a,b} \right] }}\\
|
||||
|
||||
& {m{ \left( {b-a} \right) } \le \mathop{ \int }\nolimits_{{a}}^{{b}}f{ \left( {x} \right) } \text{d} x \le M{ \left( {b-a} \right) }}
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
|
||||
## 3 定积分定理
|
||||
### 牛顿莱布尼茨公式
|
||||
$$
|
||||
\begin{aligned}
|
||||
\mathop{ \int }\nolimits_{{a}}^{{b}}{F \prime }{ \left( {x} \right) } \text{d} x=F{ \left( {b} \right) }-F{ \left( {a} \right) }
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
### 积分中值定理1
|
||||
|
||||
$$
|
||||
\begin{aligned}
|
||||
|
||||
& {\text{若}\text{函}\text{数}\text{在}\text{闭}\text{区}\text{间}{ \left[ {a,b} \right] }\text{上}\text{连}\text{续}\text{,}\text{则}}\\
|
||||
|
||||
& { \exists \xi \in { \left[ {a,b} \right] }}\\
|
||||
|
||||
& {\mathop{ \int }\nolimits_{{a}}^{{b}}f{ \left( {x} \right) } \text{d} x=f{ \left( { \xi } \left) { \left( {b-a} \right) }\right. \right. }}\\
|
||||
|
||||
& {\text{若}f{ \left( {x} \right) }\text{和}g{ \left( {x} \right) }\text{在}\text{闭}\text{区}\text{间}{ \left[ {a,b} \right] }\text{上}\text{可}\text{积}\text{,}\text{且}g{ \left( {x} \right) }\text{在}\text{此}\text{区}\text{间}\text{上}\text{不}\text{变}\text{号}\text{,}\text{则}}\\
|
||||
|
||||
& {\mathop{ \int }\nolimits_{{a}}^{{b}}f{ \left( {x} \right) }g{ \left( {x} \right) } \text{d} x=f{ \left( { \xi } \right) }\mathop{ \int }\nolimits_{{a}}^{{b}}g{ \left( {x} \right) } \text{d} x}
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
### 积分中值定理2
|
||||
$$
|
||||
\begin{aligned}
|
||||
& {\text{若}f{ \left( {x} \right) }\text{和}g{ \left( {x} \right) }\text{在}\text{闭}\text{区}\text{间}{ \left[ {a,b} \right] }\text{上}\text{可}\text{积}\text{,}\text{且}f{ \left( {x} \right) }\text{为}\text{单}\text{调}\text{函}\text{数}\text{,}\text{则}}\\
|
||||
|
||||
& { \exists \xi \in { \left[ {a,b} \right] }}\\
|
||||
|
||||
& {\mathop{ \int }\nolimits_{{a}}^{{b}}f{ \left( {x} \right) }g{ \left( {x} \right) } \text{d} x=f{ \left( {a} \right) }\mathop{ \int }\nolimits_{{a}}^{{ \xi }}g{ \left( {x} \right) } \text{d} x+f{ \left( {b} \right) }\mathop{ \int }\nolimits_{{ \xi }}^{{b}}g{ \left( {x} \right) } \text{d} x}\\
|
||||
|
||||
& {\text{若}f{ \left( {x} \right) }\text{和}g{ \left( {x} \right) }\text{在}\text{闭}\text{区}\text{间}{ \left[ {a,b} \right] }\text{上}\text{可}\text{积}\text{,}f{ \left( {x} \right) } \ge 0\text{且}\text{为}\text{单}\text{调}\text{递}\text{减}\text{函}\text{数}\text{,}\text{则}}\\
|
||||
|
||||
& { \exists \xi \in { \left[ {a,b} \right] }}\\
|
||||
|
||||
& {\mathop{ \int }\nolimits_{{a}}^{{b}}f{ \left( {x} \right) }g{ \left( {x} \right) } \text{d} x=f{ \left( {a} \right) }\mathop{ \int }\nolimits_{{a}}^{{ \xi }}g{ \left( {x} \right) } \text{d} x}\\
|
||||
|
||||
& {\text{若}f{ \left( {x} \right) }\text{和}g{ \left( {x} \right) }\text{在}\text{闭}\text{区}\text{间}{ \left[ {a,b} \right] }\text{上}\text{可}\text{积}\text{,}f{ \left( {x} \right) } \ge 0\text{且}\text{为}\text{单}\text{调}\text{递}\text{增}\text{函}\text{数}\text{,}\text{则}}\\
|
||||
|
||||
& { \exists \xi \in { \left[ {a,b} \right] }}\\
|
||||
|
||||
& {\mathop{ \int }\nolimits_{{a}}^{{b}}f{ \left( {x} \right) }g{ \left( {x} \right) } \text{d} x=f{ \left( {b} \right) }\mathop{ \int }\nolimits_{{ \xi }}^{{b}}g{ \left( {x} \right) } \text{d} x}
|
||||
|
||||
\end{aligned}
|
||||
$$
|
||||
33
微积分/曲线积分与平面积分.md
Normal file
33
微积分/曲线积分与平面积分.md
Normal file
@@ -0,0 +1,33 @@
|
||||
# 二维积分
|
||||
|
||||
> 平面积分和曲线积分
|
||||
|
||||
## 1 第一类曲线积分
|
||||
|
||||
$$
|
||||
\begin{aligned}
|
||||
& {L=\mathop{{L}}\nolimits_{{1}}+\mathop{{L}}\nolimits_{{2}} \Rightarrow \mathop{ \int }\nolimits_{{L}}f{ \left( {x,y} \right) } \text{d} s=\mathop{ \int }\nolimits_{{\mathop{{L}}\nolimits_{{1}}}}f{ \left( {x,y} \right) } \text{d} s+\mathop{ \int }\nolimits_{{\mathop{{L}}\nolimits_{{2}}}}f{ \left( {x,y} \right) } \text{d} s}\\
|
||||
|
||||
& {\mathop{ \iint }\nolimits_{{L}}{ \left[ { \alpha f{ \left( {x,y} \right) }+ \beta f{ \left( {x,y} \right) }} \right] } \text{d} s= \alpha \mathop{ \iint }\nolimits_{{L}}f{ \left( {x,y} \right) } \text{d} s+ \beta \mathop{ \iint }\nolimits_{{L}}f{ \left( {x,y} \right) } \text{d} s}\\
|
||||
|
||||
& {f{ \left( {x,y} \right) } \le g{ \left( {x,y} \right) } \Rightarrow \mathop{ \iint }\nolimits_{{L}}f{ \left( {x,y} \right) } \text{d} s \le \mathop{ \iint }\nolimits_{{L}}g{ \left( {x,y} \right) } \text{d} s}\\
|
||||
|
||||
&{ \left| {\mathop{ \iint }\nolimits_{{L}}f{ \left( {x,y} \right) } \text{d} s} \left| \le \mathop{ \iint }\nolimits_{{L}}{ \left| {f{ \left( {x,y} \right) }} \right| } \text{d} s\right. \right. }
|
||||
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
## 2 对弧长的曲线积分
|
||||
|
||||
$$
|
||||
\begin{aligned}
|
||||
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
## 3 二重积分
|
||||
|
||||
|
||||
|
||||
|
||||
|
||||
84
微积分/极限.md
Normal file
84
微积分/极限.md
Normal file
@@ -0,0 +1,84 @@
|
||||
# 极限
|
||||
|
||||
## 1 定义
|
||||
|
||||
$$
|
||||
\begin{aligned}
|
||||
& {C}&{\text{常}\text{数}}\\
|
||||
|
||||
& {f{ ( {x}) }}&{\text{函}\text{数}}\\
|
||||
|
||||
& {n}&{\text{正}\text{整}\text{数}}\\
|
||||
|
||||
&{ \{ {\mathop{{x}}\nolimits_{{n}}} \} ,{ \{ {\mathop{{y}}\nolimits_{{n}}} \} } }&{\text{数}\text{列}}
|
||||
\\
|
||||
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
|
||||
$$
|
||||
\begin{aligned}
|
||||
& { \text{lim} { \left[ {Cf{ \left( {x} \right) }} \left] =C{ \left[ { \text{lim} f{ \left( {x} \right) }} \right] }\right. \right. }}\\
|
||||
|
||||
& { \text{lim} {\mathop{{ \left[ {f{ \left( {x} \right) }} \right] }}\nolimits^{{n}}}={\mathop{{ \left[ { \text{lim} f{ \left( {x} \right) }} \right] }}\nolimits^{{n}}}}\\
|
||||
|
||||
& {\mathop{{ \text{lim} }}\limits_{{n \to + \text{ \infty } }}{ \left( {\mathop{{x}}\nolimits_{{n}} \pm \mathop{{y}}\nolimits_{{n}}} \right) }=\mathop{{ \text{lim} }}\limits_{{n \to + \text{ \infty } }}\mathop{{x}}\nolimits_{{n}} \pm \mathop{{ \text{lim} }}\limits_{{n \to + \text{ \infty } }}\mathop{{y}}\nolimits_{{n}}}\\
|
||||
|
||||
& {\mathop{{ \text{lim} }}\limits_{{n \to + \text{ \infty } }}{ \left( {\mathop{{x}}\nolimits_{{n}} \cdot \mathop{{y}}\nolimits_{{n}}} \right) }=\mathop{{ \text{lim} }}\limits_{{n \to + \text{ \infty } }}\mathop{{x}}\nolimits_{{n}} \cdot \mathop{{ \text{lim} }}\limits_{{n \to + \text{ \infty } }}\mathop{{y}}\nolimits_{{n}}}\\
|
||||
|
||||
&{\mathop{{ \text{lim} }}\limits_{{n \to + \text{ \infty } }}{ \left( {\frac{{\mathop{{x}}\nolimits_{{n}}}}{{\mathop{{y}}\nolimits_{{n}}}}} \right) }=\frac{{\mathop{{ \text{lim} }}\limits_{{n \to + \text{ \infty } }}\mathop{{x}}\nolimits_{{n}}}}{{\mathop{{ \text{lim} }}\limits_{{n \to + \text{ \infty } }}\mathop{{y}}\nolimits_{{n}}}},{ \left( {\mathop{{y}}\nolimits_{{n}} \neq 0,n=1,2,3, \cdots } \right) }}
|
||||
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
## 2 公式
|
||||
|
||||
|
||||
|
||||
$$
|
||||
\begin{aligned}
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
## 3 定理
|
||||
|
||||
### 洛必达法则1
|
||||
$$
|
||||
\begin{aligned}
|
||||
|
||||
& {\text{若}\text{函}\text{数}f{ \left( {x} \left) ,g{ \left( {x} \right) }\text{满}\text{足}\text{如}\text{下}\text{条}\text{件}\text{:}\right. \right. }}\\
|
||||
|
||||
& {\mathop{{ \text{lim} }}\limits_{{x \to a}}f{ \left( {x} \right) }=0,\mathop{{ \text{lim} }}\limits_{{x \to a}}g{ \left( {x} \right) }=0}\\
|
||||
|
||||
& {\text{在}\text{点}a\text{的}\text{某}\text{去}\text{邻}\text{域}\text{内}f{ \left( {x} \left) \text{和}g{ \left( {x} \right) }\text{都}\text{可}\text{导}\text{,}\text{且}{g} \prime { \left( {x} \left) \neq 0\right. \right. }\right. \right. }}\\
|
||||
|
||||
& {\mathop{{ \text{lim} }}\limits_{{x \to a}}\frac{{f \prime { \left( {x} \right) }}}{{g \prime { \left( {x} \right) }}}=A,{ \left( {A\text{为}\text{实}\text{数}} \right) }}\\
|
||||
|
||||
& {\text{则}\text{有}}\\
|
||||
|
||||
& {\mathop{{ \text{lim} }}\limits_{{x \to a}}\frac{{f{ \left( {x} \right) }}}{{g{ \left( {x} \right) }}}=\mathop{{ \text{lim} }}\limits_{{x \to a}}\frac{{f \prime { \left( {x} \right) }}}{{g \prime { \left( {x} \right) }}}=A}
|
||||
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
### 洛必达法则2
|
||||
|
||||
$$
|
||||
\begin{aligned}
|
||||
|
||||
& {\text{若}\text{函}\text{数}f{ \left( {x} \left) ,g{ \left( {x} \right) }\text{满}\text{足}\text{如}\text{下}\text{条}\text{件}\text{:}\right. \right. }}\\
|
||||
|
||||
& {\mathop{{ \text{lim} }}\limits_{{x \to a}}f{ \left( {x} \right) }=0,\mathop{{ \text{lim} }}\limits_{{x \to a}}g{ \left( {x} \right) }=0}\\
|
||||
|
||||
& {\text{在}\text{点}a\text{的}\text{某}\text{去}\text{邻}\text{域}\text{内}f{ \left( {x} \left) \text{和}g{ \left( {x} \right) }\text{都}\text{可}\text{导}\text{,}\text{且}{g} \prime { \left( {x} \left) \neq 0\right. \right. }\right. \right. }}\\
|
||||
|
||||
& {\mathop{{ \text{lim} }}\limits_{{x \to a}}\frac{{f \prime { \left( {x} \right) }}}{{g \prime { \left( {x} \right) }}}=A,{ \left( {A\text{为}\text{实}\text{数}} \right) }}\\
|
||||
|
||||
& {\text{则}\text{有}}\\
|
||||
|
||||
& {\mathop{{ \text{lim} }}\limits_{{x \to a}}\frac{{f{ \left( {x} \right) }}}{{g{ \left( {x} \right) }}}=\mathop{{ \text{lim} }}\limits_{{x \to a}}\frac{{f \prime { \left( {x} \right) }}}{{g \prime { \left( {x} \right) }}}=A}
|
||||
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
@@ -1,14 +1,14 @@
|
||||
# Minimax估计和Bayes估计
|
||||
|
||||
## 1 一致占优
|
||||
### 损失定义
|
||||
### 定义1：损失定义
|
||||
损失，是一种距离。
|
||||
$$
|
||||
L(\theta,T(x))=(T(x)-\theta)^2
|
||||
$$
|
||||
|
||||
> 损失函数，这只是鬼畜了风险函数的一种
|
||||
### 风险函数
|
||||
### 定义2：风险函数
|
||||
风险，平均损失
|
||||
$$
|
||||
R(\theta,T)=E_XL(\theta,T(x))=E_X(T(x)-\theta)^2
|
||||
@@ -16,20 +16,20 @@ $$
|
||||
|
||||
> 均方误差是损失函数的期望，也是一种风险
|
||||
|
||||
### 一致占优
|
||||
### 定义3：一致占优
|
||||
|
||||
$$
|
||||
R(\theta,T_1)\leq R(\theta,T_2),\forall \theta
|
||||
$$
|
||||
|
||||
## 2 Minimax估计
|
||||
### Minimax
|
||||
### 定义1：Minimax
|
||||
$$
|
||||
\sup_\theta R(\theta,T_1)\leq \sup_\theta(\theta,T_2)
|
||||
$$
|
||||
先找到最大风险，再找到最大风险最小的策略
|
||||
|
||||
## 3 Bayes估计
|
||||
## 3 定义2：Bayes估计
|
||||
> 把参数\theta当成随机变量处理
|
||||
###
|
||||
|
||||
|
||||
@@ -2,14 +2,14 @@
|
||||
|
||||
## 相关定义
|
||||
|
||||
### 原假设与备择假设
|
||||
### 定义1：原假设与备择假设
|
||||
|
||||
所要检验的假设称为原假设或零假设，记为$H_0$。而与$H_0$不相容的假设称为北泽假设或对立假设，记为$H_1$。对参数分布族$\{p(x;\theta):\theta\in\Theta\}$，原假设和北泽假设这对矛盾统一体，称为假设检验：
|
||||
$$
|
||||
H_0:\theta\in\Theta_0,H_1:\theta\in\Theta_1
|
||||
$$
|
||||
|
||||
### 拒绝域、接受域、检验统计量、检验函数
|
||||
### 定义2：拒绝域、接受域、检验统计量、检验函数
|
||||
|
||||
假设检验就是根据某一法则，在原假设和备择假设之间做出选择，基于样本做出拒绝$H_0$或接受$H_0$所依赖的法则称为检验。
|
||||
|
||||
@@ -18,7 +18,7 @@ $$
|
||||
称$W$为拒绝域，$W^c$称为接受域。
|
||||
|
||||
|
||||
### 两类错误、势和势函数
|
||||
### 定义3：两类错误、势和势函数
|
||||
|
||||
第一类错误：当原假设$H_0$本来成立，样本观察值落入拒绝与$W$，我们错误的拒绝了$H_0$，称为弃真错误，其概率：
|
||||
$$
|
||||
@@ -48,3 +48,7 @@ $$
|
||||
总体分布的$\chi^2$拟合检验
|
||||
|
||||
|
||||
|
||||
### 二维列链表的独立性检验
|
||||
|
||||
|
||||
|
||||
13
概率论与数理统计/第14节 似然比检验.md
Normal file
13
概率论与数理统计/第14节 似然比检验.md
Normal file
@@ -0,0 +1,13 @@
|
||||
# 似然比检验
|
||||
|
||||
##
|
||||
|
||||
|
||||
|
||||
|
||||
### 结题步骤
|
||||
|
||||
1. 构造似然比函数
|
||||
2. 计算并化简
|
||||
3. 增函数与减函数不同情况下对应的临界值c
|
||||
4. 增函数减函数对应的，检验统计量取T(X)的拒绝与接受域
|
||||
@@ -59,7 +59,16 @@ D(X)=\frac{1-p}{p^2}
|
||||
$$
|
||||
|
||||
### 超几何分布
|
||||
总数N，特殊品M，无放回抽取n次，抽中M类的数量X
|
||||
$$
|
||||
X\sim H(N,M,n)\\
|
||||
P(X=k)=\frac{C_M^kC_{N-M}^{n-k}}{C_N^n}\\
|
||||
E(X)=\frac{nM}{N}\\
|
||||
D(X)=\frac{nM}{N}-(\frac{nM}{N})^2+\frac{n(n-1)M(M-1)}{N(N-1)}
|
||||
|
||||
$$
|
||||
|
||||
当N趋近于正无穷时，超几何分布趋近于二项分布
|
||||
|
||||
## 3 统计模型-连续型随机变量
|
||||
|
||||
@@ -88,10 +97,18 @@ $$
|
||||
### 正态分布
|
||||
$$
|
||||
X\sim N(\mu,\sigma^2) \\
|
||||
f(x)=\frac{1}{\sqrt{2\pi}}e^{-\frac{{(x-\mu)}^2}{2 \sigma^2}},-\infin < x < + \infin \\
|
||||
f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{{(x-\mu)}^2}{2 \sigma^2}},-\infin < x < + \infin \\
|
||||
E(X)=\mu \\
|
||||
D(X)=\sigma^2 \\
|
||||
$$
|
||||
|
||||
## 4 特殊统计模型
|
||||
|
||||
### 对数正太分布
|
||||
|
||||
$$
|
||||
\ln X\sim N(\mu,\sigma^2)\\
|
||||
f(x)=\frac{1}{\sqrt{2\pi}\sigma x}e^{-\frac{{(\ln x-\mu)}^2}{2 \sigma^2}},-\infin < x < + \infin \\
|
||||
E(X)=e^{\mu+\frac{\sigma^2}{2}} \\
|
||||
D(X)=(e^{\sigma^2}-1)e^{2\mu+\sigma^2}\\
|
||||
$$
|
||||
@@ -1,4 +1,4 @@
|
||||
# 统计量、充分统计量和经验分布函数
|
||||
# 统计量
|
||||
|
||||
> 知识梳理：A类随机变量，具有数字特征，通过概率计算估计量。B类样本多个，具有统计特征，通过样本计算统计量。
|
||||
|
||||
@@ -61,15 +61,18 @@ $$
|
||||
|
||||
## 3 顺序统计量
|
||||
|
||||
### 顺序统计量定义
|
||||
把$X_1,X_2,\dotsm,X_n$的观察值$x_1,x_2,\dotsm$从小到大排列记作$x_{(1)},x_{(2)},\dotsm,x_{(n)}$，满足$x_{(1)}\leq x_{(2)}\leq \dotsm\leq x_{(n)}$。$X_{(k)}$称为顺序统计量。
|
||||
|
||||
### $X_{(1)}$的分布函数
|
||||
### $X_{(1)}$
|
||||
$$
|
||||
F_{x_{(1)}}(t)=1-(1-F(t))^n
|
||||
F_{x_{(1)}}(t)=1-(1-F(t))^n \\
|
||||
P_{x_{(1)}}=n(1-F(t))^{n-1}(F'(t))
|
||||
$$
|
||||
### $X_{(n)}$的分布函数
|
||||
### $X_{(n)}$
|
||||
$$
|
||||
F_{x_{(n)}}(t)=F^n(t)
|
||||
F_{x_{(n)}}(t)=F^n(t)\\
|
||||
P_{x_{(1)}}=nF^{n-1}(t)(F'(t))
|
||||
$$
|
||||
### 极差
|
||||
$$
|
||||
@@ -84,6 +87,40 @@ m_{0.5}=\begin{cases}
|
||||
\end{cases}
|
||||
$$
|
||||
|
||||
### 均匀分布于顺序统计量
|
||||
* 均匀分布密度函数
|
||||
$$
|
||||
X\sim U(a,b) \\
|
||||
f(x)=\begin{cases}
|
||||
\frac{1}{b-a}& a\leq x \leq b \\
|
||||
0 & else\\
|
||||
\end{cases} \\
|
||||
$$
|
||||
* 均匀分布分布函数
|
||||
$$
|
||||
F(t)=\begin{cases}
|
||||
\frac{t}{b-a} & a\leq x \leq b\\
|
||||
0 & x \leq a\\
|
||||
1 & x \geq b
|
||||
\end{cases}
|
||||
$$
|
||||
* 均匀分布$X_{(1)}$分布函数与密度函数
|
||||
$$
|
||||
|
||||
$$
|
||||
* 均匀分布$X_{(n)}$分布函数与密度函数
|
||||
$$
|
||||
F_{x_{(n)}}(t)=F^n(t)=\begin{cases}
|
||||
\frac{t^n}{(b-a)^n} & a\leq x \leq b \\
|
||||
0 & x \leq a\\
|
||||
1 & x \geq b
|
||||
\end{cases}\\
|
||||
P_{x_{(1)}}=nF^{n-1}(t)(F'(t))=\begin{cases}
|
||||
\frac{nt^{n-1}}{(b-a)^n} & a\leq x \leq b \\
|
||||
0 & else
|
||||
\end{cases}
|
||||
$$
|
||||
|
||||
## 4 充分统计量
|
||||
|
||||
> 第一个考点。需要了解联合分布，条件分布。
|
||||
@@ -24,7 +24,7 @@ $$
|
||||
|
||||
$$
|
||||
|
||||
### 特征函数
|
||||
### 定义1：特征函数
|
||||
X是随机变量$e^{-itX}$数学期望。$\varphi_X(t)=E(e^{itX})=Ecos(tX)+iEsin(tX)$为X的分布的特征函数。
|
||||
$$
|
||||
\varphi_X(t) =E(e^{itX})= \int_{-\infin}^{+\infin}f(x)e^{itx}dx \\
|
||||
@@ -90,7 +90,7 @@ $$
|
||||
$$
|
||||
服从自由度为n的$\chi^2$分布，记作：$\chi^2\sim\chi^2(n)$
|
||||
|
||||
### 定理1：概率密度
|
||||
### 定理1：$\chi^2(n)$概率密度
|
||||
$\chi^2$分布的概率密度
|
||||
$$
|
||||
f(x)=
|
||||
@@ -101,21 +101,21 @@ f(x)=
|
||||
\end{cases}
|
||||
$$
|
||||
|
||||
### 定理2：统计量与$\chi^2$分布
|
||||
### 定理2：$\chi^2(n)$与$N(\mu,\sigma^2)$
|
||||
|
||||
$X_1,X_2,\dotsm$服从正态分布$N(\mu,\sigma^2)$则有
|
||||
$$
|
||||
\chi^2=\frac{1}{\sigma^2}\sum_{i=1}^n(X_i-\mu)^2\sim\chi^2(n)
|
||||
$$
|
||||
|
||||
### 定理3
|
||||
### 定理3:$\chi^2(n)$期望方差
|
||||
若$X\sim\chi^2(n)$，则：
|
||||
$$
|
||||
\varphi(t)=(1-2it)^{-\frac{n}{2}} \\
|
||||
E(X)=n,Var(X)=2n
|
||||
$$
|
||||
|
||||
### 定理4：可加性
|
||||
### 定理4：$\chi^2(n)$可加性
|
||||
设$X_1\sim\chi^2(n_1),X_2\sim\chi^2(n_2)$，两者相互独立，则
|
||||
$$
|
||||
X_1+X_2\sim\chi^2(n_1+n_2)
|
||||
@@ -130,13 +130,13 @@ T = \frac{X}{\sqrt{\frac{Y}{n}}}
|
||||
$$
|
||||
服从自由度为n的T分布，记作$T\sim t(n)$
|
||||
|
||||
### 定理1
|
||||
### 定理5：$t(n)$概率密度
|
||||
$t(n)$分布的概率密度
|
||||
$$
|
||||
f(t)=\frac{\Gamma(\frac{n+1}{2})}{\sqrt{n\pi}\Gamma(\frac{n}{2})}(1+\frac{t^2}{n})^{-\frac{n+1}{2}}
|
||||
$$
|
||||
|
||||
### 定理2
|
||||
### 定理6：$t(n)$与$N(\mu,\sigma^2)$
|
||||
设$X\sim N(\mu,\sigma^2),\frac{Y}{\sigma^2}\sim \chi^2(n)$,且X与Y相互独立
|
||||
$$
|
||||
T=\frac{X-\mu}{\sqrt{\frac{Y}{n}}}\sim t(n)
|
||||
@@ -150,14 +150,20 @@ $$
|
||||
F=\frac{X/n_1}{Y/n_2}
|
||||
$$
|
||||
服从自由度为$(n_1,n_2)$的F分布,记作$F\sim F(n_1,n_2)$
|
||||
### 定理7：$F(n_1,n_2)$概率密度
|
||||
|
||||
|
||||
### 定理1
|
||||
$$
|
||||
f(z)=\begin{cases}
|
||||
\frac{\Gamma(\frac{n_1+n_2}{2})}{\Gamma(\frac{n_1}{2})\Gamma(\frac{n_2}{2})}x^{\frac{n_1}{2}-1}y^{\frac{n_2}{2}-1}e^{-\frac{x}{2}}e^{-\frac{y}{2}} & x>0,y>0\\
|
||||
0 & else
|
||||
\end{cases}
|
||||
$$
|
||||
### 定理8：$F(n_1,n_2)$倒数特性
|
||||
若$F\sim G(n_1,n_2)$,则$\frac{1}{F}\sim F(n_1,n_2)$
|
||||
|
||||
## 5 正太总体下统计量的分布
|
||||
|
||||
### 定理9:线性可加性
|
||||
### 定理9:$N(\mu,\sigma^2)$线性可加性
|
||||
$X\sim N(\mu,\sigma^2),X_1,X_2,\dotsm,X_n$
|
||||
|
||||
$$
|
||||
@@ -167,7 +173,7 @@ a_1,a_2,\dotsm ,a_n不都为0\\
|
||||
\overline{X}\sim N(\mu,\frac{\sigma^2}{n})
|
||||
$$
|
||||
|
||||
### 定理10：高维正太分布
|
||||
### 定理10：$N(\mu,\sigma^2)$高维正太分布
|
||||
$X\sim N(\mu,\sigma^2),X_1,X_2,\dotsm$，$A$是$m\times n$维矩阵，b是m维实向量。$Z=(X_1,X_2,\dotsm,X_N)$服从m维正太分布
|
||||
$$
|
||||
Y\sim N(\mu A 1_n+b,\sigma^2AA')
|
||||
@@ -211,19 +217,18 @@ $$
|
||||
若样本期望为零，正交变换保留独立性，保留分布特点。
|
||||
|
||||
|
||||
### 定理11:样本均值与方差
|
||||
### 定理11:$N(\mu,\sigma^2)$均值与方差
|
||||
$X\sim N(\mu,\sigma^2),X_1,X_2,\dotsm,X_n$
|
||||
样本均值与样本方差独立，且：
|
||||
$$
|
||||
\overline{X}\sim N(\mu,\frac{\sigma^2}{n})\\
|
||||
S^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\overline{X})^2 \\
|
||||
\frac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)
|
||||
|
||||
$$
|
||||
> 样本均值与样本方差相互独立！！！！
|
||||
> 在样本方差计算过程中，存在$\sum(x_i-\overline{x})^2$中线性无关项只有n-1个，而非n个。因为n个式子当中，x的均值与另外n个相互独立的变量之间存在线性关系，所以，必然可以去掉一个变量。称为（n-1）个线性无关的变量。
|
||||
|
||||
### 定理12：一维TF分布
|
||||
### 定理12：$N(\mu,\sigma^2)$均值方差
|
||||
|
||||
$X\sim N(\mu,\sigma^2),X_1,X_2,\dotsm,X_n$
|
||||
$$
|
||||
@@ -231,7 +236,7 @@ $$
|
||||
\frac{(\overline{X}-\mu)^2}{S^2/n}\sim F(1,n-1)\\
|
||||
$$
|
||||
|
||||
### 定理13：二维T分布
|
||||
### 定理13：$N(\mu,\sigma^2)$均值方差
|
||||
$X\sim N(\mu_1,\sigma_1^2),X_1,X_2,\dotsm,X_n$;
|
||||
$Y\sim N(\mu_2,\sigma_2^2),Y_1,Y_2,\dotsm,Y_n$并且X与Y相互独立。则：
|
||||
$$
|
||||
@@ -241,14 +246,14 @@ T = \frac{(\overline{X}-\overline{Y})-(\mu_1-\mu_2)}{S_w\sqrt{\frac{1}{n_1}+\fra
|
||||
$$
|
||||
|
||||
|
||||
### 定理14：二维F分布
|
||||
### 定理14：$N(\mu,\sigma^2)$均值方差
|
||||
$X\sim N(\mu_1,\sigma_1^2),X_1,X_2,\dotsm,X_n$;
|
||||
$Y\sim N(\mu_2,\sigma_2^2),Y_1,Y_2,\dotsm,Y_n$并且X与Y相互独立。则：
|
||||
$$
|
||||
F=\frac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2}\sim F(n_1-1,n_2-1)
|
||||
$$
|
||||
|
||||
### 定理15：特征矩阵
|
||||
### 定理15：$N(\mu,\sigma^2)$特征矩阵
|
||||
$X\sim N(\mu,\sigma^2),X_1,X_2,\dotsm$，$A$是实对称矩阵。$Z=(X_1,X_2,\dotsm,X_N)$，则：
|
||||
$$
|
||||
Y=X'AX\sim \chi^2(p) \\
|
||||
@@ -283,17 +288,41 @@ $$
|
||||
|
||||
对于标准正太分布$N(0,1)$，使用$z_p$表示$p$分位数
|
||||
$$
|
||||
F(z_p)=P\{X\leq z_p\}=p
|
||||
F(z_p)=P\{X\leq z_p\}=p
|
||||
$$
|
||||
|
||||
性质
|
||||
$$
|
||||
-z_p=z_{1-p}
|
||||
$$
|
||||
### $\chi^2$分布
|
||||
|
||||
|
||||
对于自由度为n的$\chi^2$分布，使用$\chi_p^2(n)$表示$p$分位。
|
||||
$$
|
||||
F(\chi_p^2(n))=P\{X\leq \chi_p^2(n)\}=p
|
||||
$$
|
||||
|
||||
### $t$分布
|
||||
对于自由度为t的$t(n)$分布，使用$t_p(n)$表示$t$分位
|
||||
$$
|
||||
F(t_p(n))=P\{X\leq t_p(n)\}=p
|
||||
$$
|
||||
性质
|
||||
$$
|
||||
-t_p(n)=t_{1-p}(n)
|
||||
$$
|
||||
|
||||
### $F$分布
|
||||
|
||||
对于自由度为$n_1,n_2$的F分布$F(n_1,n_2)$用$F_p(n_1,n_2)$表示p分位数。
|
||||
$$
|
||||
F(F_p(n_1,n_2))=P\{X\leq F_p(n_1,n_2)\}=p
|
||||
$$
|
||||
性质
|
||||
$$
|
||||
F_p(n_2,n_1)=\frac{1}{F_{1-p}(n_1,n_2)}
|
||||
$$
|
||||
|
||||
|
||||
## 7 对定理5的补充
|
||||
|
||||
|
||||
@@ -76,14 +76,16 @@ $$
|
||||
|
||||
总体的r阶原点矩$\mu_r=E_\theta(|X|^r)$
|
||||
|
||||
由大数定律克制，若总体距存在，则样本矩依概率收敛于响应的总体矩。
|
||||
由大数定律可知，若总体距存在，则样本矩依概率收敛于响应的总体矩。
|
||||
|
||||
### 含义理解
|
||||
每一个r阶原点矩$u_r$可以用多个参数$\theta_i$表征。每一个$u_r$又可以通过样本原点矩替换的方法来表示。可以建立方程，使用样本原点矩计算参数$\theta_i$。这个过程称为矩估计。
|
||||
|
||||
矩估计、频率估计通常不唯一。这个时候往往涉及到多重不同的估计评优。可以同时用一阶原点矩、二阶中心距、二阶原点矩来表示泊松分布的$\lambda$。
|
||||
|
||||
### 矩估计过程
|
||||
|
||||
|
||||
* 矩估计方程
|
||||
$$
|
||||
\begin{cases}
|
||||
u_1 = g_1(\theta_1,\dotsm,\theta_s)\\
|
||||
@@ -91,14 +93,15 @@ $$
|
||||
u_r = g_r(\theta_1,\dotsm,\theta_s)
|
||||
\end{cases}
|
||||
$$
|
||||
反解方程组得：
|
||||
* 反解方程组得：
|
||||
$$
|
||||
q(\theta)=h(u_1,\dotsm,u_r)
|
||||
$$
|
||||
频率替换原理得：
|
||||
* 频率替换原理得：
|
||||
$$
|
||||
q(\theta)=g(A_1,\dotsm,A_r)
|
||||
$$
|
||||
|
||||
## 4 极大似然估计
|
||||
|
||||
### 定义
|
||||
@@ -127,4 +130,26 @@ $$
|
||||
|
||||
在样本的实验中出现了一种情况。这总情况可以用带参数的联合概率计算公式表示。在参数范围取参数的一个值使得本次实验的情况达到最大值。
|
||||
|
||||
### 例题
|
||||
## 题型总结
|
||||
|
||||
> 对参数的估计：使用样本统计量构建估计量。
|
||||
|
||||
### 求$\theta$的极大似然估计
|
||||
|
||||
步骤：
|
||||
* 确定似然函数
|
||||
* 确定对数似然函数
|
||||
* 求解偏导数
|
||||
* 建立似然方程组（需要综合所有已知条件，减少参数）偏导等于零（单调函数求最大值，极值函数求最大值）
|
||||
|
||||
|
||||
说明：
|
||||
* 高维未知参数。可能存在多个未知数求极大似然函数，分别求偏导，建立极大似然方程组。
|
||||
* 未知数的函数。可能对未知数组成的函数感兴趣。可以分别求相关的高维极大似然函数的解，然后联立得到函数。搞清楚谁是未知数谁是已知数。
|
||||
|
||||
### 求$q(\theta)$的估计
|
||||
|
||||
步骤：
|
||||
* 总体特征（概率、总体矩、概率参数）表示$q(\theta)$
|
||||
* 样本特征替换总体特征。使用频率替换概率、使用样本矩替换总体矩、使用参数的极大似然函数替换某个参数。
|
||||
* 解得$q(\theta)$
|
||||
@@ -11,7 +11,7 @@
|
||||
|
||||
## 1 均方误差准则
|
||||
|
||||
### 均方误差定义
|
||||
### 定义1：均方误差
|
||||
|
||||
$$
|
||||
MSE_\theta(T(x))=E_\theta[T(X)-q(\theta)]^2 \\
|
||||
@@ -22,21 +22,21 @@ MSE_\theta(T(x))=Var_\theta(T(x))+E^2_\theta[T(X)- q(\theta)]
|
||||
$$
|
||||
上式成立，因为方差加减一个常数，不影响方差的大小。
|
||||
|
||||
### 评优准则
|
||||
|
||||
### 定义2：一致占优
|
||||
对于$\forall\theta\in\Theta$
|
||||
$$
|
||||
MSE_\theta(T(x))\leq MSE_\theta(S(x))
|
||||
$$
|
||||
则成T(x)比S(x)好。
|
||||
则成T(x)比S(x)好。T(X)一致占优
|
||||
|
||||
## 2 无偏估计
|
||||
|
||||
### 定义
|
||||
### 定义3：方差有限无偏估计
|
||||
$$
|
||||
E(T(x))=q(\theta) \\
|
||||
MSE_\theta(T(x))=Var_\theta(T(x))
|
||||
$$
|
||||
则成为无偏估计。
|
||||
则称为无偏估计。
|
||||
|
||||
> 关于估计：统计量对参数的估计。
|
||||
>
|
||||
@@ -47,9 +47,9 @@ $$
|
||||
* 无偏估计可能不存在
|
||||
* 若无偏估计存在，则一般是不唯一的。
|
||||
* 均方误差准则下，无偏估计不一定是好的估计。
|
||||
* 函数变换下，无偏性可能会小时。
|
||||
* 函数变换下，无偏性可能会消失。
|
||||
|
||||
### 定义-可估的
|
||||
### 定义3.2：可估计
|
||||
|
||||
若参数$q(\theta)$的无偏估计存在，则称$q(\theta)$是可估的。表示为
|
||||
$$
|
||||
@@ -59,20 +59,23 @@ $$
|
||||
|
||||
## 3 一致最小方差无偏估计UMVUE
|
||||
|
||||
### 定义
|
||||
### 定义4：最小方差无偏估计
|
||||
若存在无偏估计，对参数空间中的任意一个估计量：
|
||||
$$
|
||||
Var_\theta(T^*(x))\leq Var(T(x))
|
||||
$$
|
||||
则称$T^*(x)$为参数$q(\theta)$的一致最小方差无偏估计。
|
||||
|
||||
### 存在性定理
|
||||
T(x)是一致最小方差无偏估计的等价条件：
|
||||
### 定理1：存在性定理
|
||||
T(x)是一致最小方差无偏估计的充要条件：
|
||||
$$
|
||||
T(x)\in U_q,\forall T_0(x)\in U_0,\forall\theta\in\Theta \\
|
||||
E_\theta[T_0(x)T(x)]=0
|
||||
$$
|
||||
|
||||
> 本质上是一种垂直关系。乘积为零，表示与所有的其他向量都垂直。
|
||||
|
||||
|
||||
### 线性可加性
|
||||
（→表示一致最小方差无偏估计）
|
||||
若
|
||||
@@ -85,7 +88,7 @@ $$
|
||||
aT_1(x)+bT_2(x)\rightarrow aq_1(\theta)+bq_2(\theta)
|
||||
$$
|
||||
|
||||
### 唯一性定理
|
||||
### 定理2：唯一性定理
|
||||
|
||||
一致最小方差无偏估计是唯一的。
|
||||
|
||||
@@ -95,21 +98,35 @@ $$
|
||||
> 对充分统计量的理解，充分统计量能够完整的反映未知参数$\theta$的变换关系。当充分统计量确定后，未知参数也确定了，则整个等式会减少一维的未知关系。
|
||||
>
|
||||
> 说实话我觉得这里的总结理解更像是一种哲学关系。不是面对具体问题的数学方法，而是针对大多数数学方法的抽象统一。
|
||||
### 充分无偏统计量定理
|
||||
假设
|
||||
### 定理3：充分统计量+无偏估计=充分无偏估计定理
|
||||
* 假设
|
||||
$$
|
||||
S(x)是充分统计量,\varphi(x)\in U_q是\theta的无偏估计\\
|
||||
给定S(x)下的条件数学期望：\\
|
||||
T(x)=E_\theta(\varphi(x)|S(x))
|
||||
$$
|
||||
结论
|
||||
* 结论
|
||||
$$
|
||||
T(x)是q(\theta)的无偏估计。\\
|
||||
Var_\theta(T(x))\leq Var_\theta(\varphi(x))\\
|
||||
当且仅当T(x)=\varphi(x)时等号成立。
|
||||
$$
|
||||
> 说明：这个结论说明了，充分无偏运算，能够缩小无偏统计量的方差。
|
||||
|
||||
### 充分无偏估计
|
||||
* 计算
|
||||
|
||||
解题步骤1：
|
||||
|
||||
* 寻找完全充分统计量
|
||||
* 寻找无偏估计
|
||||
* 做条件期望，得到充分无偏估计量。
|
||||
|
||||
解题步骤2：
|
||||
|
||||
* 寻找完全充分统计量
|
||||
* 构造完全充分统计量的无偏估计函数，即充分无偏估计量。
|
||||
|
||||
### 定义5：充分无偏估计
|
||||
|
||||
|
||||
充分统计量$S(x)$的函数$h(S(x))$作为参数$q(\theta)$的无偏估计。则成$h(S(x))$是$q(\theta)$的充分无偏估计量。
|
||||
@@ -124,15 +141,22 @@ T(x)是S(x)的函数，是充分估计量。T(x)是无偏估计。所以T(x)是
|
||||
|
||||
## 5 充分完全统计量
|
||||
|
||||
> 基于完全统计量的一致最小方差无偏估计。
|
||||
> 完全充分无偏估计是一致最小方差无偏估计。
|
||||
|
||||
### 定义
|
||||
### 定义6：完全分布族-完全统计量
|
||||
|
||||
$g(X)是任一随机变量。对于所有的\theta\in\Theta,E_\theta(g(X))=0 则称分布族\{P_\theta:\theta\in\Theta\}$是完全的。完全分布族总体的样本的统计量，是完全统计量。
|
||||
|
||||
### 定理2.2.4
|
||||
* 计算
|
||||
```
|
||||
证明完全统计量
|
||||
* 构造统计量
|
||||
* 求期望
|
||||
* 恒为零
|
||||
```
|
||||
### 定理4：完全充分统计量
|
||||
|
||||
条件
|
||||
* 条件
|
||||
$$
|
||||
x_1,\dotsm,x_n是总体{P_\theta:\theta\in\Theta}的简单样本。\\
|
||||
总体密度函数p(x,\theta)\\
|
||||
@@ -140,37 +164,35 @@ x_1,\dotsm,x_n是总体{P_\theta:\theta\in\Theta}的简单样本。\\
|
||||
h(x_1,\dotsm,x_n)仅仅是x的函数。c(\theta)仅是\theta的函数 \\
|
||||
w(\theta)是m维实值函数。
|
||||
$$
|
||||
假设
|
||||
* 假设
|
||||
$$
|
||||
m维度w_m(\theta)值域包含内点。
|
||||
$$
|
||||
结论
|
||||
* 结论
|
||||
$$
|
||||
m维统计量T_m(x_1,\dotsm,x_n)是完全充分统计量。
|
||||
$$
|
||||
|
||||
### 定理2.2.5
|
||||
### 定理5：完全充分最小方差无偏估计
|
||||
|
||||
假设
|
||||
* 假设
|
||||
$$
|
||||
S(x)是完全统计量\\
|
||||
\varphi(x)是q(\theta)的方差有限的无偏估计,\varphi(x)\in U_q\\
|
||||
$$
|
||||
结论
|
||||
* 结论
|
||||
$$
|
||||
T(x)=E_\theta(\varphi(x)|S(x))是q(\theta)唯一的一致最小方差无偏估计。
|
||||
$$
|
||||
|
||||
## 6 求解无偏估计
|
||||
|
||||
当UqS是完全充分的时候，其内只有一个元素。因为完全统计量的
|
||||
|
||||
当UqS是完全充分的时候，其内只有一个元素。
|
||||
|
||||
完全统计量+充分统计量S(x)+无偏估计=一致最小无偏估计UMVUE
|
||||
|
||||
1. hh
|
||||
证明统计量的充分性--】-证明统计量完全性---构造无偏估计。
|
||||
2. jj
|
||||
|
||||
1. 方案一：
|
||||
证明统计量的充分性---证明统计量完全性---构造无偏估计。
|
||||
2. 方案二：
|
||||
求一个无偏估计---对完全充分统计量取条件期望=一致最小方差无偏估计UMVUE
|
||||
|
||||
|
||||
@@ -3,9 +3,9 @@
|
||||
> 计算无偏估计的下界。
|
||||
> 知道UMVUE与无偏估计下界的关系。
|
||||
|
||||
## 相关定义
|
||||
## 1 CR正则族与CR不等式
|
||||
|
||||
### Cramer-Rao正则族
|
||||
### 定义1：Cramer-Rao正则族
|
||||
|
||||
* 声明
|
||||
$$
|
||||
@@ -26,7 +26,7 @@ $$
|
||||
|
||||
三个条件可以描述为：x与$\theta$无关，偏导存在，统计量与$\theta$无关。
|
||||
|
||||
### Fisher信息量
|
||||
### 定义2：Fisher信息量
|
||||
* 假设
|
||||
$$
|
||||
Cramer-Rao正则族
|
||||
@@ -47,4 +47,107 @@ $$
|
||||
|
||||
$$
|
||||
I(\theta)=-E_\theta[\frac{\partial^2}{\partial\theta^2}\ln p(x;\theta)]
|
||||
$$
|
||||
|
||||
|
||||
### 定理1：信息不等式
|
||||
|
||||
* 条件
|
||||
|
||||
$$
|
||||
总体分布族\{p(x;\theta):\theta\in\Theta\}是Cramer-Rao正则族\\
|
||||
0<I(\theta)<+\infin\\
|
||||
T(x_1,\dotsm,x_n)满足Var_\theta(T)<\infin,\forall \theta\in\Theta
|
||||
$$
|
||||
* 假设
|
||||
$$
|
||||
|
||||
$$
|
||||
|
||||
* 结论
|
||||
|
||||
$$
|
||||
\\
|
||||
\varphi(\theta)=E_\theta(T)可微,\forall\theta\in\Theta\\
|
||||
Var_\theta(T)\geq\frac{[\varphi'(\theta)]^2}{nI(\theta)}
|
||||
$$
|
||||
|
||||
### 推论1：无偏估计方差下界
|
||||
* 条件
|
||||
$$
|
||||
总体分布族\{p(x;\theta):\theta\in\Theta\}是Cramer-Rao正则族\\
|
||||
0<I(\theta)<+\infin\\
|
||||
q(\theta)的任意无偏估计T(x_1,\dotsm,x_n)\in U_q
|
||||
$$
|
||||
* 结论
|
||||
$$
|
||||
Var_\theta(T(x_1,\dotsm,x_n))\geq \frac{[q'(\theta)]^2}{nI(\theta)}
|
||||
$$
|
||||
* 条件
|
||||
$$
|
||||
q(\theta)=\theta
|
||||
$$
|
||||
* 结论
|
||||
$$
|
||||
Var_\theta(T(x_1,\dotsm,x_n))\geq \frac{1}{nI(\theta)}\\
|
||||
C-R不等式\\
|
||||
C-R下界\\
|
||||
$$
|
||||
> 说明，这里使用$\varphi(\theta)$。
|
||||
|
||||
|
||||
## 2 CR正则族与UMVUE
|
||||
|
||||
### 定义2：有效估计
|
||||
* 条件
|
||||
$$
|
||||
总体分布族\{P_\theta:\theta\in\Theta\}是CR正则族\\
|
||||
q(\theta)是可估参数\\
|
||||
存在无偏估计\hat{q}\in U_q对所有的\theta\in\Theta有：\\
|
||||
Var_\theta(\hat{q})=\frac{[q'(\theta)]^2}{nI(\theta)}
|
||||
$$
|
||||
* 结论
|
||||
|
||||
$$
|
||||
则称\hat{q}为有效估计。本质上是能达到方差下界的无偏估计。
|
||||
$$
|
||||
|
||||
### 定义3：有效率
|
||||
* 条件
|
||||
|
||||
$$
|
||||
可估参数q(\theta)的任意无偏估计T\in\U_q \\
|
||||
令e(T,q(\theta))=\frac{[q'(\theta)]^2}{nI(\theta)}/Var_\theta(T)
|
||||
$$
|
||||
* 结论
|
||||
|
||||
$$
|
||||
e(T,q(\theta))使用T估计q(\theta)有效率
|
||||
$$
|
||||
|
||||
### 定义4：渐进无偏估计
|
||||
|
||||
* 条件
|
||||
$$
|
||||
总体分布族\{P_\theta:\theta\in\Theta\}\\
|
||||
\{T_n\}是估计序列\\
|
||||
\forall \theta\in\Theta,\lim\limits_{n\rightarrow\infin}E_\theta(T_n)=q(\theta)
|
||||
$$
|
||||
* 结论
|
||||
$$
|
||||
T_n为q(\theta)的渐进无偏估计序列
|
||||
$$
|
||||
|
||||
### 定义5：渐进有效估计
|
||||
* 条件
|
||||
|
||||
$$
|
||||
q(\theta)是可估参数\\
|
||||
无偏估计序列T_n\in\U_q\\
|
||||
\forall \theta\in\Theta,\lim\limits_{n\rightarrow\infin}\frac{[q'(\theta)]^2}{nI(\theta)}/Var_\theta(T_n)=1
|
||||
$$
|
||||
* 结论
|
||||
|
||||
$$
|
||||
T_n为q(\theta)的渐进有效估计
|
||||
$$
|
||||
@@ -1,7 +1,7 @@
|
||||
# 相合估计
|
||||
|
||||
## 1 相合估计
|
||||
### 定义：相合估计
|
||||
### 定义1：相合估计
|
||||
* 声明
|
||||
$$
|
||||
\hat{q_n}=\hat{q}_n(x_1,\dotsm,x_n)是参数q(\theta)的任意估计序列。
|
||||
@@ -19,7 +19,7 @@ $$
|
||||
$$
|
||||
> 简单来说就是满足大数定律的趋近。需要补充大数定律相关的不等式。
|
||||
|
||||
### 定理2.4.1：函数
|
||||
### 定理1：函数相合性
|
||||
|
||||
* 假设
|
||||
|
||||
@@ -36,7 +36,26 @@ $$
|
||||
> 频率估计、矩估计、极大似然估计都是相合估计。
|
||||
> 统计量的计算过于复杂，可以使用特征函数来简化计算。所以特征函数到底是一个什么东西。
|
||||
|
||||
### 定义：渐进正太统计量估计量
|
||||
### 定义2：渐进正太估计
|
||||
|
||||
|
||||
> 均值、频率估计、矩估计、极大似然估计都是渐进正太统计量估计量。
|
||||
|
||||
|
||||
* 条件
|
||||
|
||||
$$
|
||||
\hat{q}_n=\hat{q}(x_1,\dotsm,x_n)是参数q(\theta)的估计序列\\
|
||||
对\forall \theta\in\Theta，存在满足0<\sigma^2(\theta)<+\infin的\sigma^2(\theta)\\
|
||||
|
||||
\lim\limits_{n\rightarrow\infin}P\{\sqrt{n}[\hat{q}_n-q(\theta)]\leq x\}=\int_{-\infin}^x\frac{1}{\sqrt{2\pi\sigma^2(\theta)}}exp\{-\frac{\mu^2}{2\sigma^2(\theta)}\}d\mu\\
|
||||
$$
|
||||
* 结论
|
||||
|
||||
$$
|
||||
\hat{q}(\theta)具有渐进正态性记作：\hat{q}_n\sim AN(q(\theta),\frac{\sigma^2(\theta)}{n})\\
|
||||
\hat{q}称为渐进正太估计
|
||||
$$
|
||||
|
||||
### 定理2：
|
||||
|
||||
均值、频率估计、矩估计、极大似然估计都是渐进正太统计量估计量。
|
||||
@@ -2,7 +2,7 @@
|
||||
|
||||
## 1 概述
|
||||
|
||||
### 定义
|
||||
### 定义1：置信区间
|
||||
|
||||
* 声明
|
||||
$$
|
||||
@@ -20,4 +20,52 @@ T_1为置信下限，T_2为置信上限，1-\alpha为置信水平置信度
|
||||
$$
|
||||
|
||||
## 2 枢轴变量法
|
||||
> t分布当自由度超过45之后可以看做N正太分布。
|
||||
> t分布当自由度超过45之后可以看做N正太分布。
|
||||
|
||||
1. 从参数$\theta$的一个具有优良性的点估计$\hat{\theta}$出发，构造包含$\theta$与$\hat{\theta}$的函数$g(\theta,\hat{\theta})$，使得g()的分布完全已知。
|
||||
2. 根据置信水平$1-\alpha$，选取两个常数a和b使得：
|
||||
$$
|
||||
P_\theta\{a\leq g(\hat{\theta},\theta)\leq b\}=1-\alpha
|
||||
$$
|
||||
3. 因为g的概率分布已知，g的不等式可解。将$\theta$作为未知数，求得最终的区间，用点估计值域其他参数计算得到。
|
||||
$$
|
||||
a\leq g(\hat{\theta},\theta)\leq b\\
|
||||
\hat{\theta}_1\leq\theta\leq\hat{\theta}_2
|
||||
$$
|
||||
|
||||
### 注意事项
|
||||
|
||||
1. 构造枢轴变量$g(\hat{\theta},\theta)$，使用熟悉的$N(0,1),\chi^2,t,F$等分布
|
||||
2. 对于常见分布，一半选取a为g()的分布的$\frac{\alpha}{2}$分位数。b为g()的分布的$1-\frac{\alpha}{2}$分位数
|
||||
|
||||
|
||||
### 定义2：置信限
|
||||
|
||||
* 声明
|
||||
$$
|
||||
总体分布族\{P_\theta:\theta\in\Theta\}\\
|
||||
参数\theta,统计量T(x_1,\dotsm,x_n),置信区间1-\alpha
|
||||
$$
|
||||
* 假设
|
||||
$$
|
||||
若：P_\theta\{\theta\geq T_1()\}\geq 1-\alpha
|
||||
$$
|
||||
* 结论
|
||||
$$
|
||||
则：T_1为参数\theta置信水平为1-\alpha的置信下限
|
||||
$$
|
||||
* 假设
|
||||
$$
|
||||
若：P_\theta\{\theta\leq T_2()\}\geq 1-\alpha
|
||||
$$
|
||||
* 结论
|
||||
$$
|
||||
则：T_2为参数\theta置信水平为1-\alpha的置信上限
|
||||
$$
|
||||
|
||||
|
||||
## 3 题型总结
|
||||
|
||||
### 给定置信水平求置信区间。
|
||||
|
||||
* 使用定义法写出置信区间的概率公式
|
||||
Reference in New Issue
Block a user