协方差公式_协方差的计算公式例子

　　什么是协方差

　　协方差（Covariance）在概率论和统计学中用于衡量两个变量的总体误差。而方差是协方差的一种特殊情况，即当两个变量是相同的情况。协方差表示的是两个变量的总体的误差，这与只表示一个变量误差的方差不同。

　　如果两个变量的变化趋势一致，也就是说如果其中一个大于自身的期望值，另外一个也大于自身的期望值，那么两个变量之间的协方差就是正值。 如果两个变量的变化趋势相反，即其中一个大于自身的期望值，另外一个却小于自身的期望值，那么两个变量之间的协方差就是负值。

　　协方差的计算方法

　　1.在概率论和统计学中，协方差用于衡量两个变量的总体误差。

　　2.期望值分别为E（X） = μ 与 E（Y） = ν 的两个实数随机变量X与Y之间的协方差定义为：

　　COV（X，Y）=E［（X-E（X））（Y-E（Y））］

　　等价计算式为COV（X，Y）=E（XY）-E（X）E（Y）

　　协方差公式

　　

　　上面几个统计量看似已经描述的差不多了，但我们应该注意到，标准差和方差一般是用来描述一维数据的，但现实生活我们常常遇到含有多维数据的数据集，最简单的大家上学时免不了要统计多个学科的考试成绩。面对这样的数据集，我们当然可以按照每一维独立的计算其方差，但是通常我们还想了解更多，比如，一个男孩子的猥琐程度跟他受女孩子欢迎程度是否存在一些联系啊，嘿嘿~协方差就是这样一种用来度量两个随机变量关系的统计量，我们可以仿照方差的定义：

　　

　　来度量各个维度偏离其均值的程度，标准差可以这么来定义：

　　

　　协方差的结果有什么意义呢？如果结果为正值，则说明两者是正相关的（从协方差可以引出“相关系数”的定义），也就是说一个人越猥琐就越受女孩子欢迎，嘿嘿，那必须的~结果为负值就说明负相关的，越猥琐女孩子越讨厌，可能吗？如果为0，也是就是统计上说的“相互独立”。

　　从协方差的定义上我们也可以看出一些显而易见的性质，如：

　　

　　协方差多了就是协方差矩阵

　　上一节提到的猥琐和受欢迎的问题是典型二维问题，而协方差也只能处理二维问题，那维数多了自然就需要计算多个协方差，比如n维的数据集就需要计算 n！ / （（n-2）！*2） 个协方差，那自然而然的我们会想到使用矩阵来组织这些数据。给出协方差矩阵的定义：

　　

　　这个定义还是很容易理解的，我们可以举一个简单的三维的例子，假设数据集有三个维度，则协方差矩阵为

　　

　　可见，协方差矩阵是一个对称的矩阵，而且对角线是各个维度上的方差。

　　很显然，均值描述的是样本集合的中间点，它告诉我们的信息是很有限的，而标准差给我们描述的则是样本集合的各个样本点到均值的距离之平均。以这两个集合为例，［0，8，12，20］和［8，9，11，12］，两个集合的均值都是10，但显然两个集合差别是很大的，计算两者的标准差，前者是8.3，后者是1.8，显然后者较为集中，故其标准差小一些，标准差描述的就是这种“散布度”。之所以除以n-1而不是除以n，是因为这样能使我们以较小的样本集更好的逼近总体的标准差，即统计上所谓的“无偏估计”。而方差则仅仅是标准差的平方。

　　协方差的计算公式例子

　　首先，随机产生一个10*3维的整数矩阵作为样本集，10为样本的个数，3为样本的维数。

　　mysample = fix（rand（10，3）*50）

　　

　　根据公式，计算协方差需要计算均值，那是按行计算均值还是按列呢，我一开始就老是困扰这个问题。前面我们也特别强调了，协方差矩阵是计算不同维度间的协方差，要时刻牢记这一点。样本矩阵的每行是一个样本，每列为一个维度，所以我们要按列计算均值。为了描述方便，我们先将三个维度的数据分别赋值：

　　》》 dim1 = mysample（：，1）;

　　》》 dim2 = mysample（：，2）;

　　》》 dim3 = mysample（：，3）;

　　计算dim1与dim2，dim1与dim3，dim2与dim3的协方差：

　　》》 sum（（dim1 - mean（dim1）） .* （dim2 - mean（dim2））） / （size（mysample， 1） - 1） %得到 -147.0667

　　》》 sum（（dim1 - mean（dim1）） .* （dim3 - mean（dim3））） / （size（mysample， 1） - 1） %得到 -82.2667

　　》》 sum（（dim2 - mean（dim2）） .* （dim3 - mean（dim3））） / （size（mysample， 1） - 1） %得到 76.5111

　　搞清楚了这个后面就容易多了，协方差矩阵的对角线就是各个维度上的方差，下面我们依次计算：

　　》》 var（dim1） %得到 227.8778

　　》》 var（dim2） %得到 179.8222

　　》》 var（dim3） %得到 156.7111

　　这样，我们就得到了计算协方差矩阵所需要的所有数据，调用Matlab自带的cov函数进行验证：

　　》》 cov（mysample）

　　

　　把我们计算的数据对号入座，是不是一摸一样？