BP网络用梯度下降法对权值参数进行更新,假设参数w目前值为0.3,当前目标函数的梯度值是-0.2,学习率是0.4,那么参数w更新后的值应该是( )
A: 0.38
B: 0.22
C: 0.3
D: 0
A: 0.38
B: 0.22
C: 0.3
D: 0
举一反三
- 已知W=(0.5,0.2,a)T为权向量,则a的值为 A: 任意值 B: 0.2 C: 0.3 D: 0.4
- 在使用梯度下降法进行权重更新时,当梯度为()时,需要对权重w进行增加。 A: 正 B: 负 C: 零 D: 任意值
- 根据______步骤可完成一轮神经网络的训练。①设置模型参数初始值②将预测值与标签值比较,计算损失③正向计算神经网络的预测值④根据梯度下降法逐层反向更新网络模型参数⑤采用误差反向传播算法计算梯度信息 A: ①②③④⑤ B: ①③②⑤④ C: ①③②④⑤ D: ①②③⑤④
- 下列关于梯度下降法的描述错误的是? A: 梯度下降是利用一阶的梯度信息找到代价函数局部最优解的一种方法 B: 通常会先初始化一组参数值,然后在这个值之上,用梯度下降法去求出下一组的值。有于梯度是下降的,所以损失函数的值在下降。当迭代到一定程度,此时的参数取值即为要求的值。 C: 学习速率的选取很关键,如果学习速率过大,容易达不到极值甚至会发散,学习速率太小容易导致收敛时间过长 D: 学习速率不是超参数。
- 编程实现梯度下降法时,首先需要确定损失函数,然后对损失函数求偏导数来计算梯度,最后通过梯度来更新模型参数。