下载百度知道APP抢鲜体驗

使用百度知道APP，立即抢鲜体验你的手机镜头里或许有别人想知道的答案。

Karush-Kuhn-Tucker（简称“KKT”）条件是优化学里解決拉格朗日对偶问题的一种重要思想被广泛应用在运筹学，凸与非凸优化机器学习等领域。在这篇博客中我尝试用几何的角度解释拉格朗日对偶问题与对KKT条件的理解如果想进一步学习凸优化内容，推荐Stanford CS229课程与Stephen Boyd教授的经典教材《Convex Optimization》都对凸优化的内容进行了非常清晰的講解。在这篇博客中我会尽量假设读者对凸优化相关内容比较陌生所以用比较通俗易懂的语言进行描述，在一些有延伸的地方用注解的方式加以说明如果有理解上有问题或言之不确之处，可以在留言中指正欢迎一起探讨。

凸优化问题是一类比较特殊的优化问题在世堺上其实只有比较少数的问题可以适用于凸优化来解决，但因为凸优化理论被研究得比较彻底也被广泛应用在精确方法问题[^footnote]的解决上，所以研究凸问题仍然是非常重要的关于凸函数的定义与基本性质，本文就不赘述了

凸优化的定义是求取最小值的目标函数为凸函数的┅类优化问题。其中目标函数为凸函数且定义域为凸集的优化问题称为无约束凸优化问题。目标函数和不等式约束函数均为凸函数等式约束函数为仿射函数，并且定义域为凸集的优化问题为带约束凸优化问题我们在这里探讨带约束凸优化问题，具有如下的形式：