凸优化(四)----问题求解 - 简书
凸优化(四)----问题求解
凸优化主要学习《凸优化》(Stephen Boyd等著，王书宁等译)[1]这本书。学习过程中，对其内容的理解时有困惑，也参考一些其他书籍资料。笔者尽量将这部分知识整理地简洁明了，成此系列笔记。如有错误疏漏，烦请指出。如要转载，请联系笔者，hpf_。一、凸优化的优势
凸优化之所以如此重要，是因为凸优化的重要特性：凸优化的任意局部最优解也是全局最优解。二、最优性准则
2.1、无约束凸优化的最优性准则
2.2、等式约束凸优化的最优化准则
三、无约束凸优化问题求解
3.1、解析解对于少数一些简单的凸优化问题，可以利用最优性准则通过解析来求解。但对于大多数凸优化问题来讲，是没有办法通过解析来求解的。3.2、下降方法
下降方法中，有两个问题需要解决：确定搜索步长和确定搜索方向。确定搜索步长的方法和算法有：固定步长搜索、精确直线搜索和回溯直线搜索。确定搜索方向的方法和算法有：梯度下降方法、最速下降方法和牛顿法。3.3、确定步长的方法1、固定步长搜索步长值根据经验设定，为了防止算法震荡，值应当较小。优点：直观、简单；缺点：收敛速度慢。2、精确直线搜索
3、回溯直线搜索
比较常用的是回溯直线搜索，大概思路是，用迭代方法求得的步长只要能使目标函数有足够的减少即可。详见《》。3.4、调整搜索方向的方法1、梯度下降方法
2、最速下降方法
利用目标函数的一阶泰勒展开近似优化过程，进而确定学习方向。详见《》。3、牛顿法
利用目标函数的二阶泰勒展开近似表示目标函数，通过求解这个二次函数的极小值来确定搜索方向。详见《》。四、等式约束凸优化问题求解4.1、通过消除等式求解任何等式约束优化问题都可以通过消除等式约束转化为等价的无约束优化问题，然后利用无约束的方法求解。4.2、通过Lagrange对偶问题求解利用无约束优化问题求解对偶问题，然后从对偶解中复原等式约束问题的解。详见《》。4.3、等式约束的牛顿法详见《凸优化(七)----牛顿法》。五、不等式约束凸优化问题求解5.1、通过Lagrange对偶问题求解利用无约束优化问题求解对偶问题，然后从对偶解中复原不等式约束问题的解。《》。5.2、内点法主要思路：引进的惩罚函数的在可行域的边界上设置障碍，使求解的迭代过程始终在可行域内部进行。[2]这里暂不详述，待有时间再学习整理。附录A、参考[1]、《凸优化》，Stephen Boyd等著，王书宁等译[2]、B、相关目录
凸优化(四)----问题求解C、时间线
第一次发布 修改文章名，重新整理完善您的举报已经提交成功，我们将尽快处理，谢谢！
标题优化主要有换词和移动词的位置二种，移动词的位置使点击或转化高的词从原来的不紧密排列变成紧密排列，比如以前圆领和大衣分开写的，但圆领大衣的成交情况多，我们就把...
这些年学新闻传播专业的太多，毕业生早就超过实际需要了，就业压力大。可去的媒体有限（报社、广播电台、电视台、网站），薪酬水平普遍不高。可去行政机关、事业单位做宣传...
如果你没有完全了解所谓优化软件的优化过程,最好不要轻易相信优化软件,因为你不知道它究竟在你机器上做了什么...它的优化都是一个默认的,修改注册表的过程,一旦造成...
在“我的电脑”上单击右键，打开“属性”，点“高级”，在“性能”中点击“设置”。进入“高级”中，在右下角“虚拟内存”里有个“更改”，单击它，在“自定义”里输入你要...
六步VSI感应3惠普马达驱动
大家还关注