统计小站 | Kausiujik

「欢迎来到我的统计世界」

Bayes-Lec7 贝叶斯近似推断

Bayesian Approximate Inference

后验分布的极限 当样本量 $n\rightarrow\infty$ 时,后验分布的极限行为是我们所关心的。 可以利用后验分布的极限分布进行推断,避免可能是后验导出和先验指定的困难性; 通过对比极限分布下的贝叶斯推断结果和频率方法下的推断结果,验证贝叶斯推断方法的合理性。 后验分布的相合性 对一个合理有效的贝叶斯推断方法而言,随着样本量的增加,感兴趣参数 $\theta$ ...

RL-Lec9 探索与利用

Exploration and Exploitation

介绍 所谓利用(Exploitation)是指做出当前信息下的最佳决定,而探索(Exploration)是指尝试不同的行为继而收集更多的信息。一般来说,最好的长期战略通常包含一些牺牲短期利益举措,通过搜集更多的信息使得个体能够达到宏观上的最佳策略。总之,探索和利用是一对矛盾。 例子 利用 探索 ...

LRM-Lec4_1 参数估计(最小二乘估计与极大似然估计)

Parameter Estimation (LSE & MLE)

在线性模型参数估计理论与方法中,最小二乘法占有中心的基础地位,本节将重点介绍有关最小二乘估计和极大似然估计的相关理论。 最小二乘估计(LSE) 最小二乘估计 回顾Lec1中介绍的,我们首先讨论最基本的线性回归模型: $\pmb y=\pmb X\pmb\beta+\pmb e,\quad\textsf{E}(\pmb e)=\pmb 0,\quad\textsf{Cov}(\pmb ...

LRM-Lec3_2 随机向量(下)

Random Vector (II)

本节我们重点介绍正态随机向量的二次型的一些基本性质。 正态随机向量的二次型 设 $\pmb X\sim N_n(\pmb\mu,\pmb\Sigma)$,$\pmb A_{n\times n}$ 为实对称矩阵,以下总假设 $\pmb\Sigma>\pmb 0$。 定理1. 设 $\pmb X\sim N_n(\pmb\mu,\pmb\Sigma)$,$\pmb A$ 为 $n\...

LRM-Lec3_1 随机向量(上)

Random Vector (I)

线性模型中,除了有大量的矩阵表示,也存在如观测向量、误差向量等的随机向量。下面我们介绍关于随机向量(尤其是正态随机向量)的一些基本性质。 均值向量与协方差阵 设 $\pmb X=(X_1,\dots,X_n)’$ 为 $n\times1$ 随机向量,称 $\textsf{E}(\pmb X)=(\textsf{E}(X_1),\dots,\textsf{E}(X_n))'$ 为 $...

小站总访问量