符号含义备注W模型参数J(W)代价函数▽J(W)\bigtriangledownJ(W)▽J(W)梯度代价函数关于模型参数的偏导v一阶动量代表惯性r二阶动量用于控制自适应学习率q完全自适应学习率自适应学习率η\etaη学习率(X,Y)(X,Y)(X,Y)训练集整体样本(X(i),Y(i))(X^{(...