范围索引: STU
共 38 个百科词条
特征值分解 Eigenvalue decomposition
特征分解是一种表示矩阵之积的方法,其通过将矩阵分解为特征值,特征向量表示,不过只有可对角化矩阵才可被特征分解. 矩阵乘法对应了一个变换,即将任意向量转变为另一个方向,长度的新向量,在这个过程中,原向量会发生旋转,伸缩的变化,若矩阵对某些向量只发生伸缩变换,而没有旋转,那么其就被成...
梯度爆炸问题 Exploding Gradient Problem
梯度爆炸问题通常出现在深层网络,权值初始化值过大的情况下,其一般随着网络层数的增加而明显. 通过对激活函数求导,若结果大于 1,那么层数增加时,最终求出的梯度更新将以指