Dropout作用于每份小批量训练数据，由于其随机丢弃部分神经元的机制，相当于每次迭代都在训练不同结构的神经网络。（ ）
举一反三
- 在深度网络学习的训练过程中，对于神经网络单元，Dropout按照一定的概率将其暂时从网络中丢弃。
- Dropout方法在训练网络时，以一定的概率随机去掉网络中的一些神经元节点，这些神经元丢弃后就不再使用。 A: 正确 B: 错误
- 神经网络的权重称为可训练参数，它反映了训练数据的内在特征，这些权重通常需要在（ ）时进行随机初始[br][/br]化。 A: 第一次迭代训练开始前 B: 每次迭代训练开始前 C: 每次迭代训练结束后 D: 最后一轮迭代训练结束后
- 随机梯度下降算法是利用梯度的微小变化来优化损失函数的一种方法，下列哪种随机梯度下降算法最适合于面[br][/br]向大数据的神经网络。 A: 真随机梯度下降，每次只迭代一个样本 B: 全样本梯度下降，每次迭代都在所有数据上运行 C: 随机随机梯度下降，每次迭代时随机选取一定数量的样本进行处理 D: 小批量随机梯度下降，每次迭代都在固定量（通常都不大）的样本上进行
- Dropout将在训练过程中每次更新参数时按一定概率（rate）随机断开输入神经元，以达到防止过拟合的目的。