图7.5 高斯函数

图7.6 补高斯函数

图7.7 正弦函数

图7.8 余弦函数其他一些激活函数有:● 指数函数:z=A(u)=exp(u)∈(0,∞).● Softmax函数:对同一层的J个神经元而言,对j=1,...,J,

Softmax函数保证了同一层的J个神经元的输出值加和为1.● 恒等函数:z=A(u)=u∈(-∞,∞).● 倒数函数:对于u∈(0,∞),z=A(u)=1/u∈(0,∞).● 平方函数:z=A(u)=u2 ∈[0,∞).三,两类常用的神经网络模型(一)多层感知器多层感知器通常在隐藏层使用线性组合函数和S型激活函数,在输出层使用线性组合函数和与因变量相适应的激活函数.多层感知器可以形成很复