这是XJTU秋下学期《凸分析与优化》课程的笔记,共32课时。概念比较多,复杂且易混淆,我放弃尝试英文记录。(因为我发现数学严格定义的语序上英文总是与中文相反…..)
内容除了老师使用的的中文slides外,部分不严格的定义参考了斯坦福CVX的slides; 同时老师对一些定理做了推导证明;
definition: 令集合$C \subseteq \mathbb{R}^{n}$ ,对于$\forall x, y \in C$ 和$\forall \alpha \in [0,1]$ 如果有 ,则称$C$为凸集。约定空集是凸集。
example:
球
保持凸性的运算:($C1$和$C2$均为凸集)
泛函概念补充(此课程默认prerequisite是泛函分析?)
- 内点: 对于度量空间$(X, d)$ , $M \subset X$ , 如果$x \in M$, $\exists r > 0$, 若$B(x, r) \subset M$, 则$x$为$M$的内点;(一般的度量空间需要满足一些性质,比一般的向量空间更加宽泛,严格定义参看泛函中的定义)
- 内部:$M$中所有的内点集合为内部,$int(M)$
- 开集:如果$M = int(M)$ , $M$是开集
- 如果 $X / M$ 差集为开集,则$M$是闭集
- 聚点(还有别的翻译): 如果$x\in M$, $M \cap (B(x, r) / {x}) \neq \emptyset$ 则$x$为$M$的聚点;
- 闭包:所有聚合点与内点的并集即为$M$的闭包;那么闭集就等价于闭包;
definition:
可以用凸组合来定义凸包:
$conv(C)$中任意向量均可表示为$C$中有限个向量的凸组合,既对任意$\forall x \in C$有:
properties of Convec Hull:
definition:
Theorem:
$aff(C)$中任意向量均可以表示为$C$ 中有限个向量的仿射组合。
example: 仿射集
实数空间$\mathbb{R^n}$中的点线、超平面
矩阵的零空间
properties of affine hull
对任何集合$C$. 必然存在
proof(作业,自己的证明,待严格验证)
(1)证明$aff(C) = aff(conv(C))$
a. 如果$C$是凸集,则,$C=conv(C)$ 两个集合的仿射包自然相等;
b. 如果C不为凸集,$\forall x \in conv(C)$ 有 $aff(x)$ 为
即是$C$中向量正组合,$aff(x) \subseteq aff(C)$ 反过来一样, $aff(C) = aff(conv(C))$可以证明;
(2)证明 $aff(C) = aff(cl(C))$
a. 若$C$是闭集,则$C = cl(C)$,相应仿射包也相同
b. 若$C$是开集,$cl(C) = {x| B(x,\epsilon) \cap C \neq \emptyset}$ ,则
则一定能找到$\exists y^i \in C$, 使得$x^i = \epsilon + y^i$, $aff(x)$ 仍可以表示为$C$中向量的正组合, 两个仿射包相同;
definition:
properties of 锥集
properties of $cone(C)$
Caratheodory定理
设 $C \subseteq \mathbb{R^n}$非空,则
乍一看这个定理貌似与凸包的定义相似,貌似是很显然的事情;区别在于$m \leq n+1$的证明上,因为从凸包的定义出发只能证明凸包中的向量可以由其他有限个向量的凸组合。而上述定理说明了不属于$C$的向量最多用$n+1$个向量表示出来;
Proof:
令 $x \in C$, $C \subseteq \mathbb{R^n}$ 则定义 $Y = {(x, 1)}$, $Y \subseteq \mathbb{R^{n+1}}$,
令 $\bar{x} \in conv(C) / C$, 由凸包定义, $ \bar{x}= \sum_i^I\alpha_ix^i\ ,\ x^i \in C,\ \sum{\alpha_i} = 1,\ \alpha_i \in (0,1]$
那么 $(\bar{x}, 1) = (\sum_i^I\alpha_ix^i, \sum_i^I\alpha_i) = \sum_i^I\alpha_i(x^i, 1) \subseteq cone(Y)$
则,依据定理第一条(证明略):
$(\bar{x}, 1) = \sum_i^M r_i(x^i, 1)$, 且 $M \leq n+1$
Fig1显示了第二条定理:
相对内部的概念对之后凸分析有帮助,这里先给出定于与相关性质‘
definition:
令集合$C$是非空凸集,若$x \in C$, $B(x, \epsilon)$是开球,若满足 $B\ \cap\ aff(C) \subseteq C$,则称$x$是$C$的相对内部点
全体相对内部点称作$C$的相对内部,记做$ri(C)$; 约定单点集的相对内部是他本身。
若$ri(C) = C$, 则称集合$C$是相对开的。$cl(C) / ri(C)$称作$C$的相对边界
example
$\mathbb{R^3}$中的集合
仿射包与相对内部分别为:
其内部是空集,闭包是非空凸集;可以看出三维空间中平面上的内部的定义就失效了,因为内点是相对$\mathbb{R^3}$定义的,而相对内点是针对仿射包定义的;
Theorem:线段原理、延伸引理
令集合$C$为非空凸集,
properties
设集合$C$是非空凸集,则
设$\bar{C}$是另一个非空凸集,则下面三个条件是等价的
课上老师的证明还有很多,部分没跟上,下次课尽量全部记录下来; 下一讲是凸函数。
题目中发现的一些有用结论:
1、凸集也等价于他跟任意直线的交集${\hat{x} + tv | \hat{x} \in C}$是凸集. |