梯度下降法是一个一阶最优化算法,通常也称为最陡下降法,但是不该与近似积分的最陡下降法混淆。
要使用梯度下降法找到一个函数的最值,必须向函数上当前点对应梯度的反方向的规定步长距离点进行迭代搜索。如果相反地向梯度正方向迭代进行搜索,则会接近函数的最值点;这个过程则被称为梯度上升法。
黄金分割搜索是一种通过不断缩小单峰函数的最值的已知范围,从而找到最值的方法。它的名称源于这个算法保持了间距具有黄金分割特性的三个点。这个算法与斐波那契搜索和二分查找关系紧密。黄金分割搜索是由Kiefer提出的,而斐波那契搜索是由Avriel和Wilde所提出。
梯度下降法是一个一阶最优化算法,通常也称为最陡下降法,但是不该与近似积分的最陡下降法混淆。
要使用梯度下降法找到一个函数的最值,必须向函数上当前点对应梯度的反方向的规定步长距离点进行迭代搜索。如果相反地向梯度正方向迭代进行搜索,则会接近函数的最值点;这个过程则被称为梯度上升法。
梯度下降法是一个一阶最优化算法,通常也称为最陡下降法,但是不该与近似积分的最陡下降法混淆。
要使用梯度下降法找到一个函数的最值,必须向函数上当前点对应梯度的反方向的规定步长距离点进行迭代搜索。如果相反地向梯度正方向迭代进行搜索,则会接近函数的最值点;这个过程则被称为梯度上升法。