太伟大了贝叶斯.

Basic Dist

Uniform

没什么好说的, 对于均匀分布的变量$X\sim U(a,b)$, we have that $f(X)=\frac{1}{b-a}, x\in [a,b]$ and 0 elsewhere.

有CDF: $F(X)=\left\{\begin{matrix}0,\,\,\,x<a \\\frac{x-a}{x-b},\,\,\,x\in[a,b] \\1,\,\,\,x>b\end{matrix}\right.$

Normal

没什么好说的, so normal. 正态分布满足:

$\phi(X)=\frac{1}{\sqrt{2\pi}\sigma}\exp(-\frac{(x-\mu)^2}{2\sigma^2})$, $\Phi(X)=\int \phi(X)dX$

Bernoulli

Bernoulli Distribution就是指: 进行一次只有两种可能结果的实验, 其中一种结果的概率为p. 我们有:

$P(X)=p^x(1-p)^{(1-x)}$, for $x\in {0,1}$. 注意看, 这是一个简写形式, 有点类似于$y_{i}=y_{0i}(1-D_{i})+y_{1i}D_{i}$.

$F(X)=\left\{\begin{matrix}0,\,\,\,x<0 \\1-p,\,\,\,x\in\{0,1\} \\1,\,\,\,x>1\end{matrix}\right.$

Binomial

二项式分布就是进行多次伯努利实验, 我们有: 进行n次实验, 令k为成功的次数, 这就是排列组合的结果:

$P(X=k)=\begin{pmatrix}n \\k\end{pmatrix}p^k(1-p)^{n-k}$

$F(X=k)=P(X\le k)=\sum_{i=0}^{k}\begin{pmatrix}n \\i\end{pmatrix}p^i (1-p)^{n-i}$

Poisson

泊松分布用于描述一段时间或空间中某个事件发生的次数. 适用于罕见事件..额..

当$X\sim Poisson(\lambda)$, $\lambda$为这段时间中发生次数的期望, 那么我们有:

$P(X=k)=\frac{\lambda^k e^{-\lambda}}{k!},\,\, k =0,1,2,3,..$

CDF呢???CDF貌似没啥用吧.

泊松分布满足一些性质: $E[X]=V[X]=\lambda$,

Beta

终于来点没怎么见过的分布了.. Beta分布很灵活, 随便用..额..

有: $X\sim Beta(\alpha, \beta)$, 有: $f(X|\alpha, \beta)=\frac{x^{\alpha-1}(1-x)^{\beta-1}}{\int_{0}^1 x^{\alpha-1}(1-x)^{\beta-1} dx|_{=B(\alpha,\beta)}}$, for $x\in [0,1]$. $B(\alpha,\beta)$又被称为归一化函数. 有: $B(\alpha,\beta)=\frac{\Gamma(\alpha)\Gamma(\beta)}{\Gamma(\alpha+\beta)}$.

Beta分布满足一些性质: $E[X]=\frac{\alpha}{\alpha+\beta}$, $V[X]=\frac{\alpha\beta}{(\alpha+\beta)^2(\alpha+\beta+1)}$.

Logistic

对于$X\sim L(\mu,s)$, 我们有:

$f(x;\mu,s)=\frac{e^{-\frac{x-\mu}{s}}}{s(1+e^{-\frac{x-\mu}{s}})^2}$, for $x\in R, s>0$.

$F(x;\mu,s)=\frac{1}{1+e^{-\frac{x-\mu}{s}}}$.

Exponential

经典指数分布.

$f(x,\lambda)=\left\{\begin{matrix}\lambda e^{-\lambda x},\,\,x\ge 0
\\0,\,\,\,\,\,\,\,\,\,\,\,\,\,\,x<0\end{matrix}\right.$

$F(x,\lambda)=\left\{\begin{matrix}1-e^{-\lambda x},\,\,x\ge 0
\\0,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,x<0\end{matrix}\right.$