费雪信息 (Fisher information) 的直观意义是什么?
Fisher信息比较直接的就是其导数或者矩阵逆是最大似然估计量(MLE)的渐进分布的方差/协方差矩阵了.从这个角度看它确定了估计量分布的不确定性.为什么MLE与Fisher信息有这个关系? 设n个 X \sim f_\theta 独立同分布样本对数似然函数为 l_n(\theta) = \sum_{i=1}^n \log f_\theta(X_i) MLE是使得score函数 l_n'(\theta) = \sum_{i=1}^n \frac{\partial}{\partial \theta}\log f_\theta(X_i) 取0的解 \t