04-典型的凸优化问题 1 凸优化问题 凸优化问题 标准形式的凸优化问题 \begin{array}{ll} \min _{x \in D} & f(x) \\ \text { s.t. } & g_i(x) \leq 0, \quad i=1, \ldots, m \\ & A x=b \end{array} 目标函数f、不等式约束条件g_i都是凸函数，必须是Ax=b 定义域D=\text{dom }f\cap (\cap_{i=1}^m\text{dom }g_i)通常省略 可行域为X=…
03-凸函数 3.1 基础知识 梯度 梯度的定义： 给定函数f:\mathbb{R}^n\rightarrow\mathbb{R}，且f再点x的一个邻域内有意义，若存在向量g\in\mathbb{R}^n满足： \lim_{p\rightarrow 0}\frac{f(x+p)-f(x)-g^T p}{\Vert p\Vert}=0 其中\Vert \cdot\Vert是任意向量范数，就称f在点x处可微.此时g称为f在点x处的梯度，记作\nabla f(x) 若f在点x处梯度存在，在定义式中令p=\varepsil…
迭代求解线性方程组 这个问题主要是要求解线性方程组Ax=b问题，在本文都以如下求解如下方程组： \underbrace{\begin{bmatrix} 3 & 1 & 1 \\ 1 & 3 & 1 \\ 1 & 1 & 3 \end{bmatrix}}_{A} \underbrace{\begin{bmatrix} x_1 \\ x_2 \\ x_3 \end{bmatrix}}_{x} = \underbrace{\begin{bmatrix} 6 \\ 3 \\ …
02-凸集 向量范数 范数（Norm） 是一种用于衡量向量或矩阵大小的数学函数。简单来说，范数可以理解为表示“距离”或“长度”的概念，用于评估向量或矩阵的大小或规模。 定义： 令记号\Vert \cdot \Vert: \mathbb{R}^n\rightarrow\mathbb{R}^+是一种非负函数，满足： 正定性：\Vert v\Vert\geq0 齐次性：\Vert \alpha v\Vert =|\alpha|\Vert v\Vert 三角不等式：\Vert v+w\Vert \leq \Vert v\V…
