生成式学习算法（二）之----多元正态分布

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了生成式学习算法（二）之----多元正态分布，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含1876字，纯文字阅读大概需要3分钟。

内容图文

由均值向量\(\mu \in \mathbb{R}^{n}\)和协方差阵\(\Sigma \in \mathbb{R}^{n \times n}\)参数化的\(n\)维多元正态分布或多元高斯分布记作\(\mathcal{N}(\mu, \Sigma)\)。其中协方差矩阵\(\Sigma \in \mathbb{R}^{n \times n}\)是对称半正定矩阵。它的密度函数为，
\[ \begin{equation} p(x ; \mu, \Sigma)=\frac{1}{(2 \pi)^{n / 2}|\Sigma|^{1 / 2}} \exp \left(-\frac{1}{2}(x-\mu)^{T} \Sigma^{-1}(x-\mu)\right) \end{equation} \]
一个服从多元正态分布的随机向量的均值，即$X\sim \mathcal{N}(\mu, \Sigma) $，有
\[ \mathrm{E}[X]=\int_{x} x p(x ; \mu, \Sigma) d x=\mu \]
为了引出一个服从多元正态分布的协方差阵，首先（作为方差的推广）定义一个的随机向量的协方差阵为，
\[ \begin{equation} \operatorname{Cov}(Z)=\mathrm{E}\left[(Z-\mathrm{E}[Z])(Z-\mathrm{E}[Z])^{T}\right] \end{equation} \]

而且可以验证下面这种定义和上面滴是等价的，
\[ \begin{equation} \operatorname{Cov}(Z)=\mathrm{E}\left[Z Z^{T}\right]-(\mathrm{E}[Z])(\mathrm{E}[Z])^{T} \end{equation} \]
若$X\sim \mathcal{N}(\mu, \Sigma) $ ，则有， \[\operatorname{Cov}(X)=\Sigma\]

直观印象

上面从左向右三个图分别表示均值为零，方差为单位矩阵，0.6倍单位矩阵，两倍单位矩阵的多元二维多元正态分布密度图。可以看到，方差协方差矩阵越大，分布越平坦。

下面三个图展示两个变量相关系数越来越大时，二元正态分布密度图。可以看到相关系数越大，越向45度角倾斜。这从下面相应的等高线图中可以更明显地看出。这三个相关系数矩阵，也分别列出来如下，

\[ \Sigma=\left[\begin{array}{ll}{1} & {0} \\ {0} & {1}\end{array}\right] ; \Sigma=\left[\begin{array}{cc}{1} & {0.5} \\ {0.5} & {1}\end{array}\right] ; \Sigma=\left[\begin{array}{cc}{1} & {0.8} \\ {0.8} & {1}\end{array}\right]. \]
下面再来一组带有负相关系数的等高线图。三个协方差矩阵分别为，

\[ \Sigma=\left[\begin{array}{rr}{1} & {-0.5} \\ {-0.5} & {1}\end{array}\right] ; \Sigma=\left[\begin{array}{rr}{1} & {-0.8} \\ {-0.8} & {1}\end{array}\right] ; \Sigma=\left[\begin{array}{rr}{3} & {0.8} \\ {0.8} & {1}\end{array}\right] \]

内容总结

以上是互联网集市为您收集整理的生成式学习算法（二）之----多元正态分布全部内容，希望文章能够帮你解决生成式学习算法（二）之----多元正态分布所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端

---