关于激活函数以下说法正确的是？（）
A: sigmoid函数在深度神经网络中梯度反向传递时容易导致梯度消失
B: tanh函数对于规模比较大的深度网络计算速度比较慢
C: ReLU函数计算速度和收敛速度都比tanh/sigmoid快
D: ReLU函数的正区间存在梯度消失的问题
A: sigmoid函数在深度神经网络中梯度反向传递时容易导致梯度消失
B: tanh函数对于规模比较大的深度网络计算速度比较慢
C: ReLU函数计算速度和收敛速度都比tanh/sigmoid快
D: ReLU函数的正区间存在梯度消失的问题
举一反三
- 有关循环神经网络激活函数的说法，以下哪个是错误的？ A: 取Tanh或Sigmoid函数作为激活函数，做梯度下降时，偏导数是一堆小数在做乘法，容易导致网络梯度消失。 B: Tanh函数相对于Sigmoid函数来说梯度较小，收敛速度更快更慢 C: Sigmoid函数相对于Tanh函数来说更容易导致梯度消失 D: ReLU可以减少循环神经网络的梯度消失问题
- tanh激活函数的梯度消失问题比sigmoid轻，收敛速度也比sigmoid快
- 训练神经网络时，以下哪种激活函数最容易造成梯度消失: （ ） A: tanh B: sigmoid C: ReLU D: leaky ReLU
- 以下哪些激活函数容易产生梯度消失问题？（） A: ReLU B: Softplus C: Tanh D: Sigmoid
- 以下会造成梯度消失的激活函数有 A: sigmoid函数 B: ReLU函数 C: tanh函数 D: softplus函数