relu 相比于 sigmoid、tanh 的优势在哪里
A: 属于非饱和激活函数
B: 属于饱和激活函数
C: 简单速度快
D: 增加网络非线性
A: 属于非饱和激活函数
B: 属于饱和激活函数
C: 简单速度快
D: 增加网络非线性
举一反三
- 常用的非线性激活函数有Sigmoid、tanh、ReLU等，适合于全连接层的激活函数是（ ） A: . Sigmoid B: tanh C: ReLU
- 相比sigmoid激活函数，ReLU激活函数有什么优势？
- 下面关于Relu和Sigmoid激活函数说法错误的是 A: Relu激活函数相比于Sigmoid激活函数计算更简单 B: Relu激活函数是一种线性的激活函数 C: Sigmoid激活很容易出现梯度消失的情况 D: Relu减少了参数间的相互依存关系，缓解了过拟合问题的发生
- 以下哪个激活函数能使得网络变得更加稀疏（ ） A: Tanh()函数 B: Sigmoid()函数 C: 其余都可以 D: ReLu()函数
- 下列______可以缓解梯度的消失问题且计算速度快。 A: sigmod激活函数 B: logistic激活函数 C: ReLU激活函数 D: Tanh激活函数