凸优化3:几种重要凸集

2023-10-23 07:50
文章标签 优化 几种 重要 凸集

本文主要是介绍凸优化3:几种重要凸集,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1、几种简单的凸集

仿射集凸集
R n R^n Rn空间、 R n R^n Rn空间子空间、直线任意线段、${x_0+\theta v

2、超平面与半空间

超平面(Hyperplane): { x ∣ a T x = b } \{x|a^T x=b\} {xaTx=b} x , a ∈ R n , b ∈ R , a ≠ 0 x,a \in R^n,b \in R, a \neq 0 x,aRn,bR,a=0

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-eLDUUwgC-1642769035169)(D:\StudyFiles\ConvexOptimization\note\3.几种重要凸集\3-1.png)]

半空间(Halfspace): { x ∣ a T x ≤ b } \{x|a^T x \leq b\} {xaTxb} x , a ∈ R n , b ∈ R , a ≠ 0 x,a \in R^n,b \in R, a \neq 0 x,aRn,bR,a=0

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-j0ZHOlbD-1642769035170)(D:\StudyFiles\ConvexOptimization\note\3.几种重要凸集\3-2.png)]

2、球和椭球


球 : 我 们 所 提 的 球 指 欧 几 里 得 球 ( E u c l i d e a n b a l l ) B ( x c , r ) = { x ∣ ∣ ∣ x − x c ∣ ∣ 2 ≤ r } = { x ∣ ( x − x c ) T ( x − x c ) ≤ r } 球:我们所提的球指欧几里得球(Euclidean \space ball) \\ B(x_c,r)=\{x \mid ||x-x_c||_2 \leq r\} \\ =\{x \mid \sqrt{{(x-x_c)}^T(x-x_c)} \leq r\} \\ (Euclidean ball)B(xc,r)={xxxc2r}={x(xxc)T(xxc) r}
椭球(ellipsoids)
ε ( x c , p ) = { x ∣ ( x − x c ) T p − 1 ( x − x c ) ≤ 1 } x , x c ∈ R n , P ∈ S + + n P 的 奇 异 值 对 应 椭 球 的 半 周 长 , S + + n 为 n × n 的 对 称 正 定 矩 阵 \varepsilon(x_c,p)=\{x \mid (x-x_c)^Tp^{-1}(x-x_c) \leq 1\} \\ x,x_c \in R^n, P \in S^n_{++}\\ P的奇异值对应椭球的半周长,S^n_{++}为 n \times n的对称正定矩阵 ε(xc,p)={x(xxc)Tp1(xxc)1}x,xcRn,PS++nPS++nn×n

3、多面体和单纯形

多面体(Polyhedron)
P = { x ∣ a j T x ≤ b j , j = 1 , . . . , m c j T x = d j , j = 1 , . . . , r } P=\{x \mid a^T_jx \leq b_j,j=1,...,m\\ \space\space\space\space\ c^T_jx=d_j,j=1,...,r\} P={xajTxbj,j=1,...,m     cjTx=dj,j=1,...,r}
**单纯形(Simplex)**定义较为复杂
R n 空 间 中 选 择 v 0 , . . . , v k 共 k + 1 个 点 , v 1 − v 0 , . . . , v k − v 0 线 性 无 关 , 则 与 上 述 点 相 关 的 单 纯 形 为 : C = c o n v { v 0 , . . . , v k } = { θ 0 v 0 + . . . + θ k v k , θ ≥ 0 , 1 T θ = 1 } , θ ∈ R n R^n空间中选择v_0,...,v_k共k+1个点,\\ v_1-v_0,...,v_k-v_0线性无关,\\ 则与上述点相关的单纯形为:\\ C=conv\{v_0,...,v_k\}=\{\theta_0 v_0+...+\theta_k v_k, \theta \geq 0, 1^T \theta=1\},\theta \in R^n Rnv0,...,vkk+1v1v0,...,vkv0线C=conv{v0,...,vk}={θ0v0+...+θkvk,θ0,1Tθ=1},θRn
证明:一个单纯形是一种多面体
x ∈ C ∈ R n , C 为 s i m p l e x ⇔ x = θ 0 v 0 + . . . + θ k v k , 1 T θ = 1 , θ ≥ 0 , v 1 − v 0 , . . . , v k − v 0 线 性 无 关 x\in C \in R^n, C为simplex \\ \Leftrightarrow x=\theta_0 v_0+...+\theta_k v_k,1^T \theta=1,\theta \geq 0,\\v_1-v_0,...,v_k-v_0线性无关\\ xCRn,Csimplexx=θ0v0+...+θkvk,1Tθ=1,θ0,v1v0,...,vkv0线

定 义 : y = [ θ 1 , . . . , θ k ] T , y i ≥ 0 , 1 T y ≤ 1 B = [ v 1 − v 0 , . . . , v k − v 0 ] T ∈ R n × k x ∈ C ⇔ x = θ 0 v 0 + . . . + θ k v k = v 0 + θ 1 ( v 1 − v 0 ) + . . . + θ k ( v k − v 0 ) = v 0 + B y 定义:y=[\theta_1,...,\theta_k]^T,y_i \geq 0, 1^T y \leq 1 \\ B=[v_1-v_0,...,v_k-v_0]^T \in R^{n \times k} \\ x \in C \Leftrightarrow x=\theta_0 v_0+...+\theta_k v_k \\ = v_0+\theta_1(v_1-v_0)+...+\theta_k(v_k-v_0) \\ = v_0 + By y=[θ1,...,θk]T,yi0,1Ty1B=[v1v0,...,vkv0]TRn×kxCx=θ0v0+...+θkvk=v0+θ1(v1v0)+...+θk(vkv0)=v0+By

引入如下结论:
B = [ v 1 − v 0 , . . . , v k − v 0 ] 线 性 无 关 , 故 r a n k ( B ) = k ≤ n 对 于 非 奇 异 矩 阵 B , 一 定 存 在 一 个 矩 阵 A = [ I k 0 ] ∈ [ R k × k 0 ( n − k ) × k ] 使 得 A B = [ A 1 A 2 ] B = [ I k 0 ] B=[v_1-v_0,...,v_k-v_0]线性无关,故rank(B) = k \leq n \\ 对于非奇异矩阵B,一定存在一个矩阵\\ A=\left[ \begin{matrix} I_k \\ 0 \end{matrix} \right] \in \left[ \begin{matrix} R^{k \times k} \\ 0^{(n-k) \times k} \end{matrix} \right]\\ 使得 AB=\left[ \begin{matrix} A_1 \\ A_2 \end{matrix} \right]B=\left[ \begin{matrix} I_k \\ 0 \end{matrix} \right] \\ B=[v1v0,...,vkv0]线,rank(B)=knBA=[Ik0][Rk×k0(nk)×k]使AB=[A1A2]B=[Ik0]
则对于前面得到的等式我们可以做如下变换:
x = v 0 + B y ⇒ A x = A v 0 + A B y ⇔ [ A 1 A 2 ] x = [ A 1 A 2 ] v 0 + [ A 1 B A 2 B ] y ⇔ { A 1 x = A 1 v 0 + y A 2 x = A 2 v 0 ⇔ { A 1 x ≥ A 1 v 0 1 T A 1 x ≤ 1 + 1 T A 1 v 0 A 2 x = A 2 v 0 ⇒ 由 不 等 式 和 等 式 构 成 , 是 多 面 体 x=v_0+By \\ \Rightarrow Ax=Av_0+ABy\\ \Leftrightarrow \left[ \begin{matrix} A_1 \\ A_2 \end{matrix} \right]x=\left[ \begin{matrix} A_1 \\ A_2 \end{matrix} \right]v_0+\left[ \begin{matrix} A_1B \\ A_2B \end{matrix} \right]y\\ \Leftrightarrow \left\{ \begin{matrix} A_1x=A_1v_0+y\\ A_2x=A_2v_0 \end{matrix} \right.\\ \Leftrightarrow \left\{ \begin{matrix} A_1x \geq A_1v_0\\ 1^TA_1x \leq 1+1^TA_1v_0\\ A_2x=A_2v_0 \end{matrix} \right. \\ \Rightarrow 由不等式和等式构成,是多面体\\ x=v0+ByAx=Av0+ABy[A1A2]x=[A1A2]v0+[A1BA2B]y{A1x=A1v0+yA2x=A2v0A1xA1v01TA1x1+1TA1v0A2x=A2v0

4、一些对称矩阵

对称矩阵集合 S n = { x ∈ R n × n ∣ x = x T } S^n=\{x \in R^{n \times n} \mid x=x^T\} Sn={xRn×nx=xT}

对称半正定矩阵集合 S + n = { x ∈ R n × n ∣ x = x T , x ⪰ 0 } S^n_+=\{x \in R^{n \times n} \mid x=x^T,x \succeq 0\} S+n={xRn×nx=xT,x0}

对称正定矩阵集合 S + + n = { x ∈ R n × n ∣ x = x T , x ≻ 0 } S^n_{++}=\{x \in R^{n \times n} \mid x=x^T, x \succ 0\} S++n={xRn×nx=xT,x0}

证明: S + n S^n_+ S+n C o n v e x C o n e Convex \space Cone Convex Cone,即:
∀ θ 1 , θ 2 ≥ 0 , ∀ A , B ∈ S + n , 证 明 θ 1 A + θ 2 B ∈ S + n \forall \space\space \theta_1,\theta_2 \geq 0, \forall \space\space A,B \in S^n_+,证明 \space \theta_1A+\theta_2B \in S^n_+ \\   θ1,θ20,  A,BS+n, θ1A+θ2BS+n
证:
∀ x ∈ R n , x ≠ 0 , x T A x ≥ 0 , x T B x ≥ 0 x T ( θ 1 A + θ 2 B ) x = θ 1 x T A x + θ 2 x T B x ≥ 0 ⇒ 正 定 得 证 ( θ 1 A + θ 2 B ) T = ( θ 1 A T + θ 2 B T ) = ( θ 1 A + θ 2 B ) ⇒ 对 称 得 证 故 : θ 1 A + θ 2 B ∈ S + n \forall \space\space x \in R^n,x \neq 0, x^TAx \geq 0,x^TBx \geq 0 \\ x^T(\theta_1A+\theta_2B)x =\theta_1x^TAx+\theta_2x^TBx \geq 0 \Rightarrow 正定得证\\ (\theta_1A+\theta_2B)^T=(\theta_1A^T+\theta_2B^T)=(\theta_1A+\theta_2B)\Rightarrow 对称得证 \\ 故:\theta_1A+\theta_2B \in S^n_+   xRn,x=0,xTAx0,xTBx0xT(θ1A+θ2B)x=θ1xTAx+θ2xTBx0(θ1A+θ2B)T=(θ1AT+θ2BT)=(θ1A+θ2B)θ1A+θ2BS+n
S + + n S^n_{++} S++n不是 C o n v e x C o n e Convex \space Cone Convex Cone,是凸集
∀ x ∈ R n , x ≠ 0 , x T A x ≥ 0 , x T B x ≥ 0 x T ( θ 1 A + θ 2 B ) x = θ 1 x T A x + θ 2 x T B x ≯ 0 因 为 θ 1 , θ 2 = 0 时 θ 1 x T A x + θ 2 x T B x = 0 , 不 符 合 凸 锥 定 义 \forall \space\space x \in R^n,x \neq 0, x^TAx \geq 0,x^TBx \geq 0 \\ x^T(\theta_1A+\theta_2B)x =\theta_1x^TAx+\theta_2x^TBx \ngtr 0 \\ 因为\theta_1,\theta_2=0时\space \theta_1x^TAx+\theta_2x^TBx = 0,不符合凸锥定义   xRn,x=0,xTAx0,xTBx0xT(θ1A+θ2B)x=θ1xTAx+θ2xTBx0θ1,θ2=0 θ1xTAx+θ2xTBx=0

这篇关于凸优化3:几种重要凸集的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/266523

相关文章

从原理到实战解析Java Stream 的并行流性能优化

《从原理到实战解析JavaStream的并行流性能优化》本文给大家介绍JavaStream的并行流性能优化:从原理到实战的全攻略,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的... 目录一、并行流的核心原理与适用场景二、性能优化的核心策略1. 合理设置并行度:打破默认阈值2. 避免装箱

Python实战之SEO优化自动化工具开发指南

《Python实战之SEO优化自动化工具开发指南》在数字化营销时代,搜索引擎优化(SEO)已成为网站获取流量的重要手段,本文将带您使用Python开发一套完整的SEO自动化工具,需要的可以了解下... 目录前言项目概述技术栈选择核心模块实现1. 关键词研究模块2. 网站技术seo检测模块3. 内容优化分析模

Java实现复杂查询优化的7个技巧小结

《Java实现复杂查询优化的7个技巧小结》在Java项目中,复杂查询是开发者面临的“硬骨头”,本文将通过7个实战技巧,结合代码示例和性能对比,手把手教你如何让复杂查询变得优雅,大家可以根据需求进行选择... 目录一、复杂查询的痛点:为何你的代码“又臭又长”1.1冗余变量与中间状态1.2重复查询与性能陷阱1.

Python内存优化的实战技巧分享

《Python内存优化的实战技巧分享》Python作为一门解释型语言,虽然在开发效率上有着显著优势,但在执行效率方面往往被诟病,然而,通过合理的内存优化策略,我们可以让Python程序的运行速度提升3... 目录前言python内存管理机制引用计数机制垃圾回收机制内存泄漏的常见原因1. 循环引用2. 全局变

Python多线程应用中的卡死问题优化方案指南

《Python多线程应用中的卡死问题优化方案指南》在利用Python语言开发某查询软件时,遇到了点击搜索按钮后软件卡死的问题,本文将简单分析一下出现的原因以及对应的优化方案,希望对大家有所帮助... 目录问题描述优化方案1. 网络请求优化2. 多线程架构优化3. 全局异常处理4. 配置管理优化优化效果1.

MySQL中优化CPU使用的详细指南

《MySQL中优化CPU使用的详细指南》优化MySQL的CPU使用可以显著提高数据库的性能和响应时间,本文为大家整理了一些优化CPU使用的方法,大家可以根据需要进行选择... 目录一、优化查询和索引1.1 优化查询语句1.2 创建和优化索引1.3 避免全表扫描二、调整mysql配置参数2.1 调整线程数2.

Java中InputStream重复使用问题的几种解决方案

《Java中InputStream重复使用问题的几种解决方案》在Java开发中,InputStream是用于读取字节流的类,在许多场景下,我们可能需要重复读取InputStream中的数据,这篇文章主... 目录前言1. 使用mark()和reset()方法(适用于支持标记的流)2. 将流内容缓存到字节数组

深入解析Java NIO在高并发场景下的性能优化实践指南

《深入解析JavaNIO在高并发场景下的性能优化实践指南》随着互联网业务不断演进,对高并发、低延时网络服务的需求日益增长,本文将深入解析JavaNIO在高并发场景下的性能优化方法,希望对大家有所帮助... 目录简介一、技术背景与应用场景二、核心原理深入分析2.1 Selector多路复用2.2 Buffer

SpringBoot利用树形结构优化查询速度

《SpringBoot利用树形结构优化查询速度》这篇文章主要为大家详细介绍了SpringBoot利用树形结构优化查询速度,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一个真实的性能灾难传统方案为什么这么慢N+1查询灾难性能测试数据对比核心解决方案:一次查询 + O(n)算法解决

在Java中实现线程之间的数据共享的几种方式总结

《在Java中实现线程之间的数据共享的几种方式总结》在Java中实现线程间数据共享是并发编程的核心需求,但需要谨慎处理同步问题以避免竞态条件,本文通过代码示例给大家介绍了几种主要实现方式及其最佳实践,... 目录1. 共享变量与同步机制2. 轻量级通信机制3. 线程安全容器4. 线程局部变量(ThreadL