Grandient Decent ;Line Search;梯度下降法;

本文主要是介绍Grandient Decent ;Line Search;梯度下降法;，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

+++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++

listwise方法一般从建立objective function角度不同分为最小化loss function和直接优化IR meature（MAP，NDCG）两类方法。一些学者证明二者的关系，一些IR meature 的变形如（1-NDCG）是loss function 的上界。而由于直接优化IR meature的方法缺乏些理论支持，又一些meature是非连续的，不便于优化，所以通过优化loss function 的方法更被接受。下面是三种主流的基于loss function 的方法，都是MSRA提出的。

RankCosine (IP&M 2007) 以truth rank和所得的rank间的cosine相似度作为loss function。

ListNet（ICML2007）以truth rank和所得的rank排列间的KL距离作为loss function。

ListMLE（ICML2008）以似然函数作为loss function。

合理的loss function 是机器学习的关键，提出ListMLE的文章同样介绍了什

这篇关于Grandient Decent ;Line Search;梯度下降法;的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---