均值、均方值、均方差、均方根值、均方误差、均方根误差、方差、协方差、标准差
均值（Mean Value）
均值表示信号中直流分量的大小，用E(x)表示。高斯白噪声的均值为0，因此它只有交流分量
x
‾
=
∑
i
=
0
n
x
i
n
\overline{x}=\frac{\displaystyle \sum^{n}_{i = 0}{x_i}}{n}
x=ni=0∑nxi
均值的平方，即{E(x)}^2，表示信号中直流分量的功率。
均方值
均方值表示信号平方后的均值，用E(x^2)表示。均方值表示信号的平均功率。信号的平均功率 = 信号交流分量功率 + 信号直流分量功率。
均方根（方均根值或有效值）
均方根值，也称作为方均根值或有效值，用RMS（root mean square）,即均方值开平方。在物理学中常用均方根值来分析噪声，反映物理量的有效值。
x
r
m
s
=
∑
i
=
0
n
x
i
2
n
x_{rms}=\sqrt{\frac{\displaystyle \sum^{n}_{i = 0}{x^2_i}}{n}}
xrms=ni=0∑nxi2
方差(Variance)
方差是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量。概率论中方差用来度量随机变量和其数学期望（即均值）之间的偏离程度。统计学中的方差（样本方差）是每个样本值与全体样本值的平均数之差的平方值的平均数。在许多实际问题中，研究方差即偏离程度有着重要意义1。 统计学中计算公式 在统计描述中，方差用来计算每一个变量（观察值）与总体均数之间的差异。为避免出现离均差总和为零，离均差平方和受样本含量的影响，统计学采用平均离均差平方和来描述变量的变异程度。 总体方差计算公式(有偏估计)：
σ
2
=
∑
(
X
−
μ
)
N
\sigma^2=\frac{\sum(X-\mu)}{N}
σ2=N∑(X−μ)
σ
2
\sigma^2
σ2为总体方差，X为变量，
μ
\mu
μ为总体均值，N为总体例数 样本方差计算公式：
s
2
=
∑
(
X
−
X
ˉ
)
n
−
1
s^2=\frac{\sum(X-\bar{X})}{n-1}
s2=n−1∑(X−Xˉ)
s
2
s^2
s2为总体方差，X为变量，
X
ˉ
\bar{X}
Xˉ为样本均值，n-1为样本例数
X
ˉ
\bar{X}
Xˉ为样本均值是
μ
\mu
μ为总体均值的无偏估计，因此
μ
\mu
μ可替换为
X
ˉ
\bar{X}
Xˉ
标准差（Standard Deviation）、均方差
标准差（Standard Deviation） ，中文环境中又常称均方差，是离均差平方的算术平均数的平方根，用σ表示。在概率统计中最常使用作为统计分布程度上的测量。标准差是方差的算术平方根。标准差能反映一个数据集的离散程度。
标准差可以当作不确定性的一种测量。例如在物理科学中，做重复性测量时，测量数值集合的标准差代表这些测量的精确度。 如是总体（即估算总体方差），根号内除以n； 如是抽样（即估算样本方差），根号内除以（n-1)； 百度百科
方差与标准差： 方差与我们要处理的数据的量纲是不一致的，虽然能很好的描述数据与均值的偏离程度，但是处理结果是不符合我们的直观思维的。例如：一个班级里有60个学生，平均成绩是70分，标准差是9，方差是81，成绩服从正态分布，那么我们通过方差不能直观的确定班级学生与均值到底偏离了多少分，通过标准差我们就很直观的得到学生成绩分布在[61,79]范围的概率为0.6826，即约等于下图中的34.2%*2。
均方误差（mean-square error, MSE）
均方误差（mean-square error, MSE）是反映估计量与被估计量之间差异程度的一种度量。MSE可以评价数据的变化程度，MSE值越小，则预测模型对实验数据的描述越精确。 均方误差常运用于信号处理的滤波算法（最小均方差）中，表示观测值observed与估计值 predicted之间的偏差，即
M
S
E
=
1
N
∑
i
=
1
N
(
o
b
s
e
r
v
e
d
t
−
p
r
e
d
i
c
t
e
d
t
)
2
MSE={\frac{1}{N}\sum^N_{i=1}(observed_t -predicted_t)^2}
MSE=N1i=1∑N(observedt−predictedt)2
一般地在样本量一定时，评价一个点估计的好坏标准使用的指标总是点估计与参数真值 的距离的函数，最常用的函数是距离的平方，由于估计量具有随机性，可以对该函数求期望，这就是下式给出的均方误差:
M
S
E
(
θ
^
)
=
E
[
(
θ
^
−
θ
)
2
]
=
E
[
(
θ
^
−
E
(
θ
^
)
+
E
(
θ
^
)
−
θ
)
2
]
=
D
(
θ
^
)
+
[
E
(
θ
^
)
−
θ
]
2
{MSE(\hat{\theta})}=E[(\hat{\theta}-\theta)^2] =E[(\hat{\theta}-E(\hat{\theta})+E(\hat{\theta})-\theta)^2] =D(\hat{\theta})+[E(\hat{\theta})-\theta]^2
MSE(θ^)=E[(θ^−θ)2]=E[(θ^−E(θ^)+E(θ^)−θ)2]=D(θ^)+[E(θ^)−θ]2均方误差由点估计的方差
D
(
θ
^
)
D(\hat{\theta})
D(θ^)与偏差
∣
E
(
θ
^
)
−
θ
∣
|E(\hat{\theta})-\theta|
∣E(θ^)−θ∣的平方两部分组成。 如果
θ
^
\hat{\theta}
θ^是
θ
\theta
θ的无偏估计，则此时用均方误差评价点估计与用方差是完全一致的，这也说明了用方差考察无偏估计是合理的。 如果
θ
^
\hat{\theta}
θ^不是
θ
\theta
θ的无偏估计，就要看其均方误差，即不仅看方差大小，还要看其偏差大小。 百度百科
均方根误差（RMSE）
均方根误差亦称标准误差，是均方误差的算术平方根。换句话说，是观测值与真值(或模拟值)偏差(而不是观测值与其平均值之间的偏差)的平方与观测次数n比值的平方根，在实际测量中，观测次数n总是有限的，真值只能用最可信赖（最佳）值来代替。标准误差对一组测量中的特大或特小误差反映非常敏感，所以，标准误差能够很好地反映出测量的精密度。这正是标准误差在工程测量中广泛被采用的原因。因此，标准差是用来衡量一组数自身的离散程度，而均方根误差是用来衡量观测值同真值之间的偏差。
协方差(Covariance)
协方差在概率论和统计学中用于衡量两个变量的总体误差。而方差是协方差的一种特殊情况，即当两个变量是相同的情况。协方差表示的是两个变量的总体的误差，这与只表示一个变量误差的方差不同。 如果两个变量的变化趋势一致，也就是说如果其中一个大于自身的期望值，另外一个也大于自身的期望值，那么两个变量之间的协方差就是正值。 如果两个变量的变化趋势相反，即其中一个大于自身的期望值，另外一个却小于自身的期望值，那么两个变量之间的协方差就是负值。
c
o
v
(
X
,
Y
)
=
∑
i
=
1
n
(
X
i
−
X
ˉ
)
(
Y
i
−
Y
ˉ
)
n
−
1
cov(X,Y)=\frac{\sum^n_{i=1}(X_i-\bar{X})(Y_i-\bar{Y})}{n-1}
cov(X,Y)=n−1∑i=1n(Xi−Xˉ)(Yi−Yˉ)
c
o
v
(
X
,
Y
)
=
E
[
X
Y
]
−
E
[
X
]
E
[
Y
]
cov(X,Y)=E[XY]-E[X]E[Y]
cov(X,Y)=E[XY]−E[X]E[Y]
相关系数(correlation coefficient)
协方差作为描述X和Y相关程度的量，在同一物理量纲之下有一定的作用，但同样的两个量采用不同的量纲使它们的协方差在数值上表现出很大的差异，因此引入相关系数，用于研究变量之间线性相关程度的量。 Pearson相关系数：
ρ
X
,
Y
=
c
o
v
(
X
,
Y
)
D
(
X
)
D
(
Y
)
\rho_{X,Y}=\frac{cov(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}
ρX,Y=D(X)
D(Y)
cov(X,Y)
百度百科https://baike.baidu.com/item/方差/3108412?fr=aladdin ↩︎