下面有关神经网络梯度消失说法错误的是()
举一反三
- 中国大学MOOC: 下面有关神经网络梯度消失说法错误的是()
- 下面有关神经网络梯度消失说法错误的是() A: 当神经网络的隐层增加时,就容易发生梯度消失问题,表现在靠近输入层的权重难以更新。 B: 网络梯度消失可能导致有些权重难以更新,导致网路训练失败。 C: 网络梯度消失可以通过改变隐层和输出层的神经元激活函数减弱。 D: 网络梯度消失可以通过减少隐层神经元的个数减弱。
- 有关循环神经网络激活函数的说法,以下哪个是错误的? A: 取Tanh或Sigmoid函数作为激活函数,做梯度下降时,偏导数是一堆小数在做乘法,容易导致网络梯度消失。 B: Tanh函数相对于Sigmoid函数来说梯度较小,收敛速度更快更慢 C: Sigmoid函数相对于Tanh函数来说更容易导致梯度消失 D: ReLU可以减少循环神经网络的梯度消失问题
- 下面哪些情况可能导致神经网络训练失败 A: 梯度消失 B: 梯度爆炸 C: 激活单元死亡 D: 鞍点
- 下列关于循环神经网络的说法哪个是错误的___ A: 普通RNN容易出现梯度消失问题 B: 普通RNN容易出现梯度爆炸问题 C: LSTM网络结构相对普通RNN网络解决了梯度爆炸问题,但没有很好解决梯度消失问题 D: 循环神经网络RNN和LSTM等模型,则因为其模型结构特点可以更好地应用于时序相关的问题场景