关于梯度下降算法，以下说法正确的是
A: 随机梯度下降算法是每次考虑单个样本进行权重更新
B: Mini-Batch梯度下降算法是批量梯度下降和随机梯度下降的折中
C: 批量梯度下降算法是每次考虑整个训练集进行权重更新
D: 以上都对
A: 随机梯度下降算法是每次考虑单个样本进行权重更新
B: Mini-Batch梯度下降算法是批量梯度下降和随机梯度下降的折中
C: 批量梯度下降算法是每次考虑整个训练集进行权重更新
D: 以上都对
举一反三
- 全局梯度下降算法、随机梯度下降算法和批量梯度下降算法均属于梯度下降算法， 以下关于其有优缺点说法错误的是:
- 下面梯度下降说法错误的是（） A: 随机梯度下降是梯度下降中最常用的一种。 B: 梯度下降包括随机梯度下降和批量梯度下降 C: 梯度下降算法速度快且可靠 D: 随机梯度下降是深度学习算法当中常用的优化算法之一
- 全局梯度下降算法、随机梯度下降算法和批量梯度下降算法均属于梯度下降算法，以下关于其有优缺点说法错误的是（） A: 全局梯度算法可以找到损失函数的最小值 B: 批量梯度算法可以解决局部最小值问题 C: 随机梯度算法可以找到损失函数的最小值 D: 全局梯度算法收敛过程比较耗时
- 下面关于梯度下降法描述正确的是 A: 梯度下降法作为机器学习中较常使用的优化算法，其有着三种不同的形式：批量梯度下降（Batch Gradient Descent）、随机梯度下降（Stochastic Gradient Descent）以及小批量梯度下降（Mini-Batch Gradient Descent）。 B: 批量梯度下降法是最原始的形式，它是指在每一次迭代时使用所有样本来进行梯度的更新。 C: 随机梯度下降法不同于批量梯度下降，是每次迭代使用一个样本来对参数进行更新。 D: 小批量梯度下降法是对批量梯度下降以及随机梯度下降的一个折中办法。更新参数时使用一部分训练样本。一般将训练样本集分成若干个batch，每个batch包含m个样本。每次更新都利用一个batch的数据，而非整个训练集。
- 在卷积神经网络中，我们通常使用的带动量的梯度下降算法主要属于下列的哪一种？ A: 批量梯度下降，每次迭代所有样本 B: 真随机梯度下降，每次仅迭代一个样本 C: 小批量梯度下降，每次迭代batch-size个样本 D: 以上均属于常用梯度下降算法