社区首页 >专栏 >Copula理论的原理与应用

Copula理论的原理与应用

用户7506105

发布于 2021-10-18 06:48:25

3.7K0

本文的诞生是由于一个朋友在做科研时遇到的一个场景所引出的，场景是这样的: 已知有两组变量X和Y，每组变量都是已知其边缘分布概率密度函数的(比如一组满足正态分布，一组满足对数正态分布)，且这两组变量是一定存在相关性的，如何求它们的联合分布函数或联合概率密度函数呢？

在思考这个问题时，不难想到如果这两个变量如果一定互相独立互不相关的话(独立一定不相关，不相关却不一定独立)，那联合概率密度则可以由所学概率论的知识进行求解，这里的新变量Z就等于XY了，然后分布函数就为F(z) = P(z<=Z=XY)了，在计算过程中一定可以知道和用到P(XY)=P(x)P(Y)，所以这即就是可以求解的，但是这个场景是这两个变量存在相关性，即P(X|Y)不为0，所以找不到条件概率密度函数

f_{Y | X} (y | x)

$f_{Y|X}(y|x)$

，常规方法就无法求解了，那怎么办呢？

经过查阅资料，在概率统计领域存在Copula(外文翻译是连接)这样的一种理论，它诞生的初衷就是用来在一定程度上解决这种场景问题的，后来经过推荐给朋友后，正是这种方法解决了他的燃眉之急，所以有必要深入研究下这个理论，以便后续应用

定义及性质

数学家Sklar提出了一个观点：一个N维的联合分布函数是可以分解成N个不同维度的边缘分布函数和一个Copula函数的，其中这个Copula函数是描述各个变量间的相关性的。在后续数学家的研究下，Copula函数有如下定义：

假设N维随机向量{

X_{1}

$X_1$

X_{2}

$X_2$

,...,

X_{N}

$X_N$

}的联合分布函数为

F (x_{1}, x_{2}, . . ., x_{N})

$F(x_1,x_2,...,x_N)$

,每一个维度各自的边缘分布函数为

F_{X_{1}} (x_{1})

$F_{X_1}(x_1)$

F_{X_{2}} (x_{2})

$F_{X_2}(x_2)$

,...,

F_{X_{N}} (x_{N})

$F_{X_N}(x_N)$

,则Copula函数

C (u_{1}, u_{2}, . ., u_{N})

$C(u_1,u_2,..,u_N)$

为N维，且满足

F (x_{1}, x_{2}, . . ., x_{N}) = C [F_{X_{1}} (x_{1}), F_{X_{2}} (x_{2}), . . ., F_{X_{N}} (x_{N})]

$F(x_1,x_2,...,x_N) = C[F_{X_1}(x_1),F_{X_2}(x_2),...,F_{X_N}(x_N)]$

取维数N=2，很明显，因为Copula函数是自变量为分布函数的函数，故其定义域为

[0, 1] \times [0, 1]

$[0,1]\times [0,1]$

,且满足

C (u, 1) = u, C (1, v) = v

$C(u,1) = u,C(1,v)=v$

(如果某一维度的边缘分布是1的话说明是确定性事件)

独立Copula的散点图

还有两个重要的性质，Copula函数是存在值等于0的零基面的，且是二维递增的，即

存在

u_{0}

$u_0$

和

v_{0}

$v_0$

满足定义域情况下使得

C (u_{0}, v_{0}) = 0

$C(u_0,v_0)=0$

C (u_{2}, v_{2}) - C (u_{2}, v_{1}) - C (u_{1}, v_{2}) + C (u_{1}, v_{1}) >= 0

$C(u_2,v_2) -C(u_2,v_1) - C(u_1,v_2) + C(u_1,v_1) >= 0$

0<=C(u,v)<=1
满足Sklar定理，即Copula函数是唯一确定的

自变量的取值分布函数一定是增函数

满足这些性质条件的才被称为是Copula函数，这样的Copula函数有几个优良的性质：

针对Copula函数C(u,v),令

C^{-} = m a x (u + v - 1, 0)

$C^- = max(u+v-1,0)$

C^{+} = m i n (u, v)

$C^+=min(u,v)$

,则一定有

C^{-} <= C (u, v) <= C^{+}

$C^- <= C(u,v) <= C^+$

,且称

C^{-}, C^{+}

$C^-,C^+$

为函数上下界(Frechet上下界)

| C (u_{2}, v_{2}) - C (u_{1}, v_{1}) | <= | u_{2} - u_{1} | + | v_{2} - v_{1} |

$|C(u_2,v_2) - C(u_1,v_1)| <= |u_2-u_1| + |v_2 - v_1|$

若u，v独立，且是[0,1]上的独立同均匀分布，则联合概率密度F=C(u,v)=uv

所以Copula函数C(u,v)是联合概率分布的表达形式，只是自变量是各个边缘分布函数而已

以上的二元性质可以推广到多元

常用Copula函数

正态Copula函数

其分布函数表达式为

C (u_{1}, u_{2}, . . ., u_{N}; ρ) = Φ_{ρ} (Φ^{- 1} (u_{1}), Φ^{- 1} (u_{2}), . . ., Φ^{- 1} (u_{N}))

$C(u_1,u_2,...,u_N;\rho) = \Phi_{\rho}(\Phi^{-1}(u_1),\Phi^{-1}(u_2),...,\Phi^{-1}(u_N))$

这里的

ρ

$\rho$

为各个维度计算出的相关系数矩阵，对角线为1，

Φ^{- 1}

$\Phi^{-1}$

是标准正态分布的逆函数，

Φ_{ρ}

$\Phi_{\rho}$

为N元标准正态分布的分布函数(和

r h o

$rho$

有关)

一般来说多个有相关性的正态分布的联合分布函数不为标准正态联合分布，所以和N元标准正态分布不一样，但N元标准正态分布可以很好地刻画相关性，所以选用作为Copula的函数体，如此一来则自变量就需要用到对应分布函数的逆函数来平衡，以下的原理亦然

其概率密度为

c (u_{1}, u_{2}, . . ., u_{N}; ρ) = \frac{\partial C (u_{1}, u_{2}, . . ., u_{N}; ρ)}{\partial u_{1} \partial u_{2} . . . \partial u_{N}}

$c(u_1,u_2,...,u_N;\rho) = \frac{\partial C(u_1,u_2,...,u_N;\rho)}{\partial u_1 \partial u_2 ...\partial u_N}$

= | r h o |^{- \frac{1}{2}} e x p [- \frac{1}{2} ς (ρ^{- 1} - I) ς]

$= |rho|^{-\frac{1}{2}} exp[-\frac{1}{2} \varsigma (\rho^{-1} - I)\varsigma]$

其中

ς

$\varsigma$

为向量

(Φ^{- 1} (u_{1}), Φ^{- 1} (u_{2}), . . ., Φ^{- 1} (u_{N}))

$(\Phi^{-1}(u_1),\Phi^{-1}(u_2),...,\Phi^{-1}(u_N))$

t-Copula函数

和上一个函数一样，这里是选用学生t分布作为变量构成的函数，其分布函数表达式为

C (u_{1}, u_{2}, . . ., u_{N}; ρ, k) = t_{ρ, k} [t_{k}^{- 1} (u_{1}), t_{k}^{- 1} (u_{2}), . . ., t_{k}^{- 1} (u_{N})]

$C(u_1,u_2,...,u_N;\rho,k) = t_{\rho,k}[t_k^{-1}(u_1),t_k^{-1}(u_2),...,t_k^{-1}(u_N)]$

这里的

t_{k}^{- 1}

$t_k^{-1}$

为自由度为k的一元学生t分布的分布函数的逆函数，t_{\rho,k}表示相关系数为

r h o

$rho$

，自由度为k的标准N元学生t分布

其概率密度函数和伽玛函数相关，因为本身t分布的概率密度就和伽玛函数相关，比较复杂

阿基米德Copula函数

前面两种Copula函数都是根据某些著名的分布函数确定的，含义特定的超参数，比如

ρ

$\rho$

,k等，而阿基米德Copula函数则更加灵活，它引入了一个为生成元的概念，这里的生成元是一个凸的减函数，其反函数在定义域内连续并且单调非增，用

φ (x)

$\varphi(x)$

表示，则这里的Copula函数为

$C(u_1,u_2,...,u_N) = \begin{cases} \varphi^{-1}(x)[\varphi(u_1),\varphi(u_2),...,\varphi(u_N)] , \sum_{i=1}^N \varphi(u_i) <= \varphi(0)\\ 0, 其他 \end{cases}$

所以可以看出阿基米德Copula函数是更一般的情况，上面两种只是其中的两种生成元生成的Copula函数而已

一般来说较为常用的生成元

$\varphi(t)$

有

$(-lnt)^{\alpha}$

$\frac{1}{\theta}(t^{-\alpha} -1)$

(1-t)^{\alpha}
...

具体用哪个函数可以根据实际的数据分布和效果来确定，

$\alpha$

为待估计的参数

以上就是常用的Copula函数，但是不难发现每种函数都是会有待估计的参数的，说明Copula本身不是非参数估计的方法，需要用到一些参数估计的方法来确定其参数以使得吻合效果更好

参数估计

众所周知，一般来说参数估计会有矩估计法和极大似然估计法两种，针对Copula函数的参数估计由于其求矩估计量比较复杂不易求出参数估计值，所以一般选用最大似然估计，分布估计和半参数估计等

最大似然估计

假设X，Y的边缘分布函数为

$F(x;\theta_1)$

$G(y;\theta_2)$

,选用的Copula函数为

$C(u,v,\alpha)$

,所以其(X,Y)的联合分布函数为

$H(x,y;\theta_1,\theta_2,\alpha) = C[F(x,\theta_1),G(y,\theta_2);\alpha]$

其联合概率密度为

$h(x,y;\theta_1,\theta_2,\alpha) = c[F(x,\theta_1),G(y,\theta_2);\alpha]f(x,\theta_1)g(y,\theta_2)$

$f(x,\theta_1),g(y,\theta_2)$

分布是X，Y的概率密度函数

则对数似然函数为

$lnL(\theta_1,\theta_2,\alpha) = ln \coprod_{i=1}^n h(x_i,y_i;\theta_1,\theta_2,\alpha)$

$= \sum_{i=1}^n ln c[F(x_i,\theta_1),G(y_i,\theta_2);\alpha] + \sum_{i=1}^n ln f(x_i,\theta_1) + \sum_{i=1}^n ln g(y_i,\theta_2)$

故这里的估计量为

$\hat{\theta_1},\hat{\theta_2},\hat{\alpha} = arg max lnL(\theta_1,\theta_2,\alpha)$

以上和概率论所学方法一致

分布估计法

和极大似然不同，先求

$\theta_1,\theta_2$

的估计值，即

$\hat{\theta_1} = arg max \sum_{i=1}^n ln f(x_i,\theta_1)$

$\hat{\theta_2} = arg max \sum_{i=1}^n ln g(y_i,\theta_2)$

则此时再估计\hat{\alpha}，为

$\hat{\alpha} = \sum_{i=1}^n ln c[F(x_i,\hat{\theta_1}),G(y_i,\hat{\theta_2});\alpha]$

这种策略相对来说计算量较小，但却不一定是全局最优

半参数估计

我们知道，样本经验分布函数是由样本容量在一定程度上确定的，它是没有任何参数的，所以半参数估计也即将所涉及的分布函数更改为大样本确定的样本经验分布函数，则此时只用估计Copula的参数

$\alpha$

即可，而不用去估计

$\theta_1,\theta_2$

,这样做在样本量很大或者分布函数较为难以精确求出时可以选用

得到具体的参数估计值后，就可以用该参数进行对应Copula函数的计算，以此算出的联合概率分布就视作两相关变量的联合概率分布，然后进行模型最终检验即可

总结

Copula函数的出现对于无法量化条件概率密度的场景非常有用，且概率统计中一般也是需要严格的进行假设检验并且通过过后才能实现下一步应用，而Copula函数是将函数的表达形式求解转化成经验函数的具体超参数的估计，这样一来其实就已经克服了假设检验去真这一步，并且这个函数在matlab，python等科学计算库里面都有实现，所以不失为一个很好的思路，加油！此外，Copula 函数在经济与金融领域，信号处理领域有广泛的应用。

本文参与腾讯云自媒体同步曝光计划，分享自微信公众号。

原始发表：2021-10-13，如有侵权请联系 cloudcommunity@tencent.com 删除

编程算法