符号说明

符号说明#

本页汇总了本章理论页面中使用的记号;配套的研究报告亦采用同一套记号。未列出的符号将在首次出现处具体说明。

符号说明

含义

\(\N\)

自然数集(包括 \(0\) )

\(\R\)

实数集

\(\R^d\)

实 \(d\) 维列向量空间

\(\# S\)

有限集合 \(S\) 的元素个数

\(\Pi_{\Omega}\)

向凸集 \(\Omega \subseteq \R^d\) 投影的投影映射

\([K]\)

集合 \(\{1, 2, \ldots, K\}\) ,其中 \(K \in \N_{> 0}\)

\(\theta\)

模型的参数,\(\in \R^d\)

\(\col(\theta_1, \ldots, \theta_K)\)

列向量 \(\theta_1, \ldots, \theta_K\) 按顺序竖排在一起形成的列向量

\(\operatorname{dom}(f)\)

函数 \(f\) 的定义域,即 \(\{\theta \in \R^d ~|~ f(\theta) < +\infty\}\)

\(\nabla f(\cdot)\)

函数 \(f\) 的梯度

\(\partial f(\cdot)\)

函数 \(f\) 的次微分(次梯度的集合)

\(\mathcal{D}(x, y)\)

数据的(联合)分布(Distribution),\(x\) 是特征(Feature),\(y\) 是标签(Label)

\(I_n\) or \(I\)

(\(n\) 阶)单位矩阵

\(O_n\) or \(O\)

(\(n\) 阶)零矩阵

\(A^{\mathrm{T}}\)

矩阵 \(A\) 的转置矩阵

\(A^{-1}\)

矩阵 \(A\) 的逆矩阵

\(\lVert \cdot \rVert_p\)

向量或矩阵的 \(p\)-范数(\(0 \leqslant p \leqslant +\infty\) );当下标 \(p\) 省略时,表示向量或矩阵的 \(2\)-范数

\(\lVert \cdot \rVert_F\)

矩阵的 Frobenius 范数

\(\mathbb{E}[\cdot]\)

数学期望

\(\mathcal{N}(\mu, \sigma^2)\)

均值为 \(\mu \in \R\) 、方差为 \(\sigma^2 \in \R\) 的一维正态分布

\(\mathcal{N}(v, \Sigma)\)

均值为 \(v \in \R^d\) 、协方差矩阵为 \(\Sigma \in \R^{d \times d}\) 的 \(d\) 维正态分布