Loading [MathJax]/jax/output/CommonHTML/fonts/TeX/AMS-Regular.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >【运筹学】对偶理论 : 最优性定理、强对偶性

【运筹学】对偶理论 : 最优性定理、强对偶性

作者头像
韩曙亮
发布于 2023-03-28 12:34:05
发布于 2023-03-28 12:34:05
1.3K0
举报

文章目录

一、最优性定理


最优性定理 :

如果

X0

是 原问题的可行解 ,

Y0

是 对偶问题的可行解 ,

并且 两个可行解对应的目标函数值相等 , 即

CX0=BY0

, 即

z=w

,

X0

是原问题的最优解 ,

Y0

是对偶问题的最优解 ;

两个互为对偶的线性规划问题 , 只要有一个有最优解 , 另一个也有最优解 ;

最优解 首先是可行解 , 其次该可行解使目标函数达到最优 ( 最小值 / 最大值 ) ;

互为对偶的两个问题 :

原问题的目标函数求最大值 , 该值不断增大 , 处于一个界限值下方 ; 其最大值就是界限值 ;

对偶问题的目标函数求最小值 , 该值不断减小 , 处于一个界限值上方 ; 其最小值就是界限值 ;

当上述

X0

是 原问题的可行解 ,

Y0

是 对偶问题的可行解 ,

如果

CX0=BY0

, 则说明

, 当前的目标函数值就是界限值 ;

该界限值就是 原问题 目标函数的最大值 , 同时也是 对偶问题目标函数的最小值 ;

二、强对偶性

强对偶性 : 如果 原问题 与 对偶问题 都有可行解 , 只要有一个问题有最优解 , 则 两个问题都有最优解 , 二者的最优解的目标函数值相等 ;

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2020-12-30,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
【运筹学】对偶理论总结 ( 对称性质 | 弱对偶定理 | 最优性定理 | 强对偶性 | 互补松弛定理 ) ★★★
约束条件与约束变量的对应关系 ( 目标函数求最大值 ) : 这里特别注意 , 约束条件与约束变量 大于小于符号是相反的 ;
韩曙亮
2023/03/28
2.6K0
【运筹学】对偶理论总结 ( 对称性质 | 弱对偶定理 | 最优性定理 | 强对偶性 | 互补松弛定理 ) ★★★
凸优化(6)——对偶性:案例分析,强弱对偶性及理解,再看KKT条件
上一节我们简单提到了对偶问题的构造方法和对偶性的两种理解,这一节我们还会继续讨论对偶性相关的概念。我们会先介绍两个有趣的线性规划对偶问题的实际例子(本来不想花篇幅写例子的,但我觉得它们真的太有意思了!),再将对偶性推广到更加一般的优化问题进行讨论。
学弱猹
2021/08/09
1.6K0
【运筹学】对偶理论 : 弱对偶性质 ( 弱对偶原理 | 弱对偶性 | 推论 1 | 推论 2 对偶问题的无界性 | 推论 3 )
如果其中 一个线性规划问题可行 , 但是 目标函数无界 , 则 另外一个问题没有可行解 ;
韩曙亮
2023/03/28
8270
博客 | 机器学习算法系列(二):拉格朗日对偶性
本文原载于微信公众号:磐创AI(ID:xunixs),AI研习社经授权转载。欢迎关注磐创AI微信公众号及AI研习社博客专栏。
AI研习社
2019/05/08
7170
博客 | 机器学习算法系列(二):拉格朗日对偶性
SVM系列(一):强对偶性、弱对偶性以及KKT条件的证明
算法的推导总是枯燥无味的,尤其是在不知道推导有什么用的情况下!!所以如果在没什么基础的情况下你能够坚持看完这篇文章,那我只能说你很
Cyril-KI
2022/07/29
1.4K0
SVM系列(一):强对偶性、弱对偶性以及KKT条件的证明
【运筹学】对偶理论 : 总结 ( 对偶理论 | 原问题与对偶问题对应关系 | 对偶理论的相关结论 ) ★★★
如果其中 一个线性规划问题可行 , 但是 目标函数无界 , 则 另外一个问题没有可行解 ;
韩曙亮
2023/03/28
2.4K0
【运筹学】对偶理论 : 总结 ( 对偶理论 | 原问题与对偶问题对应关系 | 对偶理论的相关结论 ) ★★★
强对偶性、弱对偶性以及KKT条件的证明(对偶问题的几何证明)[通俗易懂]
  上式表明我们一共有M+N个约束条件,对于不是求最小值或者约束条件大于等于0的情况,我们添加一个负号就可以变成上面这种形式。   上述问题我们一般称之为带约束的原问题。
全栈程序员站长
2022/11/04
1.6K0
【分类战车SVM】第四话:拉格朗日对偶问题(原来这么简单,你也可以轻松学会)
分类战车SVM (第四话:拉格朗日对偶问题) 查看本《分类战车SVM》系列的内容: 第一话:开题话 第二话:线性分类 第三话:最大间隔分类器 第四话:拉格朗日对偶问题(原来这么简单!) 第五话:核函数(哦,这太神奇了!) 第六话:SMO算法(像Smoke一样简单!) 附录:用Python做SVM模型 ---- 先看下本文的大纲: 1.回顾 2.不等式的拉格朗日乘数法 3.拉格朗日对偶问题 4.总结 附录:大自然的对偶现象 本文的内容其实很简单,就在“4.总
数说君
2018/03/28
1.7K0
【分类战车SVM】第四话:拉格朗日对偶问题(原来这么简单,你也可以轻松学会)
深入浅出—一文看懂支持向量机(SVM)
如果你是一名模式识别专业的研究生,又或者你是机器学习爱好者,SVM是一个你避不开的问题。如果你只是有一堆数据需要SVM帮你处理一下,那么无论是Matlab的SVM工具箱,LIBSVM还是python框架下的SciKit Learn都可以提供方便快捷的解决方案。
黄博的机器学习圈子
2020/04/22
12.2K1
深入浅出—一文看懂支持向量机(SVM)
【运筹学】对偶理论 : 互补松弛性 ( 定理内容 | 定理证明 )
那么其目标函数就是最大值与最小值的界限值 , 将这两个最优解代入到对应的目标函数中 , 求得的两个值是相等的 ;
韩曙亮
2023/03/28
2.4K0
机器学习算法系列(二):拉格朗日对偶性
在约束最优化问题中,常常会利用到拉格朗日对偶性求解。在常用的机器学习算法中,支持向量机和最大熵模型都使用到该方法求最优解。因为后面将要讲到这两个算法,所以先介绍这种方法作为知识的铺垫。
磐创AI
2019/05/05
7760
机器学习算法系列(二):拉格朗日对偶性
拉格朗日对偶性(Lagrance duality) 推导与简单理解
在支持向量机和最大熵模型中都会用到拉格朗日对偶性,主要为解决约束最优化问题,通过将原始问题转换为对偶问题求解。为方便理解,遂记录下简单的概念的结论,有理解不当的地方望多提意见~
大鹅
2021/06/16
1.8K0
博客 | 机器学习中的数学基础(凸优化)
机器学习中几乎所有的问题到最后都能归结到一个优化问题,即求解损失函数的最小值。我们知道,梯度下降法和牛顿法都是通过逼近的方式到达极值点,如何使损失函数的极值点成为它的最值点就是凸函数和凸优化关注的内容。
AI研习社
2018/12/28
1.7K0
博客 | 机器学习中的数学基础(凸优化)
【运筹学】整数规划、分支定界法总结 ( 整数规划 | 分支定界法 | 整数规划问题 | 松弛问题 | 分支定界法 | 分支定界法概念 | 分支定界法步骤 ) ★★
线性规划 使用 单纯形法求解 , 线性规划中的 运输规划 使用 表上作业法 求解 ;
韩曙亮
2023/03/29
2.1K0
【运筹学】整数规划、分支定界法总结 ( 整数规划 | 分支定界法 | 整数规划问题 | 松弛问题 | 分支定界法 | 分支定界法概念 | 分支定界法步骤 ) ★★
BAT面试题46:解释对偶这个概念
一个优化问题可以从两个角度进行考察,一个是primal 问题,一个是dual 问题,就是对偶问题。
double
2019/03/07
9880
拉格朗日对偶问题
在前文了解过拉格朗日乘数法后,进一步介绍拉格朗日对偶。 背景信息 在约束最优化问题中,常常利用拉格朗日对偶性(Lagrange duality)将原始问题转换为对偶问题,通过解对偶问题而得到原始问题的解。 拉格朗日对偶是在拉格朗日乘数法基础之上,通过变换原始问题的求解形式得到的相对于原始优化问题的另一个优化问题 原始优化问题 假设f(x), c_i(x), h_j(x) 是定义在\mathbf{R}^{n}上的连续可微函数,考虑约束最优化问题: image.png 定义此问题为原始优化问
为为为什么
2022/08/05
9150
拉格朗日对偶问题
【运筹学】对偶理论 : 对偶性质 ( 对称性质 | 对称性质推导 )
约束变量符号相反 ( 目标函数求最大值前提 ) : 上述线性规划问题的 约束条件是大于等于不等式 , 那么对应的 约束变量小于等于
韩曙亮
2023/03/28
5260
【运筹学】对偶理论 : 对偶性质 ( 对称性质 | 对称性质推导 )
运筹学考题汇总(填空题+计算题)带答案
❃运筹学的工作程序:分析和表述问题、建立模型、求解模型和优化方案、测试模型及对模型进行必要的修正、建立对解的有效控制、方案的实施。
荣仔_最靓的仔
2021/02/02
2.6K0
运筹学考题汇总(填空题+计算题)带答案
如何通过对偶问题求解线性可分 SVM
4. 接着需要对下确界函数求极大值,需要将极大值问题转化为极小值问题,用 SMO算法求出参数向量 alpha
杨熹
2018/12/24
8280
运筹学教学|Benders decomposition(一)技术介绍篇
相约女神节 biu~ biu~ biu~ 我们的运筹学教学推文又出新文拉 还是熟悉的配方,熟悉的味道 今天向大家推出的是 Benders decomposition(一)技术介绍篇 1.背景介绍 Benders分解算法是由Jacques F. Benders在1962年首先提出,目的是用于解决混合整数规划问题(mixed integer programming problem,简称MIP问题),即连续变量与整数变量同时出现的极值问题[1]。但它的实际应用并不限于此,A.M. Geoffrion建
用户1621951
2018/04/19
14.7K0
运筹学教学|Benders decomposition(一)技术介绍篇
推荐阅读
【运筹学】对偶理论总结 ( 对称性质 | 弱对偶定理 | 最优性定理 | 强对偶性 | 互补松弛定理 ) ★★★
2.6K0
凸优化(6)——对偶性:案例分析,强弱对偶性及理解,再看KKT条件
1.6K0
【运筹学】对偶理论 : 弱对偶性质 ( 弱对偶原理 | 弱对偶性 | 推论 1 | 推论 2 对偶问题的无界性 | 推论 3 )
8270
博客 | 机器学习算法系列(二):拉格朗日对偶性
7170
SVM系列(一):强对偶性、弱对偶性以及KKT条件的证明
1.4K0
【运筹学】对偶理论 : 总结 ( 对偶理论 | 原问题与对偶问题对应关系 | 对偶理论的相关结论 ) ★★★
2.4K0
强对偶性、弱对偶性以及KKT条件的证明(对偶问题的几何证明)[通俗易懂]
1.6K0
【分类战车SVM】第四话:拉格朗日对偶问题(原来这么简单,你也可以轻松学会)
1.7K0
深入浅出—一文看懂支持向量机(SVM)
12.2K1
【运筹学】对偶理论 : 互补松弛性 ( 定理内容 | 定理证明 )
2.4K0
机器学习算法系列(二):拉格朗日对偶性
7760
拉格朗日对偶性(Lagrance duality) 推导与简单理解
1.8K0
博客 | 机器学习中的数学基础(凸优化)
1.7K0
【运筹学】整数规划、分支定界法总结 ( 整数规划 | 分支定界法 | 整数规划问题 | 松弛问题 | 分支定界法 | 分支定界法概念 | 分支定界法步骤 ) ★★
2.1K0
BAT面试题46:解释对偶这个概念
9880
拉格朗日对偶问题
9150
【运筹学】对偶理论 : 对偶性质 ( 对称性质 | 对称性质推导 )
5260
运筹学考题汇总(填空题+计算题)带答案
2.6K0
如何通过对偶问题求解线性可分 SVM
8280
运筹学教学|Benders decomposition(一)技术介绍篇
14.7K0
相关推荐
【运筹学】对偶理论总结 ( 对称性质 | 弱对偶定理 | 最优性定理 | 强对偶性 | 互补松弛定理 ) ★★★
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档