看穿机器学习（W-GAN模型）的黑箱

2017-03-01  by:CAE仿真在线  来源:互联网

图a. Principle of GAN.

这学期,老顾在讲授一门研究生水平的数字几何课程,目前讲到了2016年和丘成桐先生、罗锋教授共同完成的一个几何定理【3】,这个工作给出了经典亚历山大定理(Alexandrov Theorem)的构造性证明,也给出了最优传输理论(Optimal Mass Transportation)的一个几何解释。

这几天,机器学习领域的Wasserstein GAN突然变得火热,其中关键的概念可以完全用我们的理论来给出几何解释,这允许我们在一定程度上亲眼“看穿”传统机器学习中的“黑箱”。

下面是老顾下周一授课的讲稿。

生成对抗网络 GAN

训练模型 生成对抗网络GAN (Generative Adversarial Networks)是一个“自相矛盾”的系统,就是以己之矛克以己之盾,在矛盾中发展,使得矛更加锋利,盾更加强韧。这里的矛被称为是判别器(Descriminator),这里的盾被称为是生成器(Generator)。

图b. Generative Model.

生成器G一般是将一个随机变量(例如高斯分布,或者均匀分布),通过参数化的概率生成模型(通常是用一个深度神经网来进行参数化),进行概率分布的逆变换采样,从而得到一个生成的概率分布。判别器D也通常采用深度卷积神经网。

图1. GAN的算法流程图。

矛盾的交锋过程如下:给定真实的数据,其内部的统计规律表示为概率分布

。为此,我们制作了一个随机变量生成器G,G能够产生随机变量,其概率分布是 ,我们又制作了一个判别器D,给定一个样本,D来复制判别这个样本是来自真实数据还是来自伪造数据。Goodfellow给GAN中的判别器设计了如下的损失函数(lost function), 尽可能将真实样本判为正例,生成样本判为负例:

第一项不依赖于生成器G, 此式也可以定义GAN中的生成器的损失函数。

在训练中,判别器D和生成器G交替学习,最终达到纳什均衡(零和游戏),判别器无法区分真实样本和生成样本。

优点 GAN具有非常重要的优越性。当真实数据的概率分布不可计算的时候,传统依赖于数据内在解释的生成模型无法直接应用。但是GAN依然可以使用,这是因为GAN引入了内部对抗的训练机制,能够逼近一下难以计算的概率分布。更为重要的,Yann LeCun一直积极倡导GAN,因为GAN为无监督学习提供了一个强有力的算法框架,而无监督学习被广泛认为是通往人工智能重要的一环。

缺点 原始GAN形式具有致命缺陷:判别器越好,生成器的梯度消失越严重。我们固定生成器G来优化判别器D。考察任意一个样本

,其对判别器损失函数的贡献是

两边对

求导,得到最优判别器函数

代入生成器损失函数,我们得到所谓的Jensen-Shannon散度(JS)

在这种情况下(判别器最优),如果

的支撑集合(support)交集为零测度,则生成器的损失函数恒为0,梯度消失。

改进 本质上,JS散度给出了概率分布

之间的差异程度,亦即概率分布间的度量。我们可以用其他的度量来替换JS散度。Wasserstein距离就是一个好的选择,因为即便 的支撑集合(support)交集为零测度,它们之间的Wasserstein距离依然非零。这样,我们就得到了Wasserstein GAN的模式【1】【2】。Wasserstein距离的好处在于即便

两个分布之间没有重叠,Wasserstein距离依然能够度量它们的远近。

为此,我们引入最优传输的几何理论(Optimal Mass Transportation),这个理论可视化了W-GAN的关键概念,例如概率分布,概率生成模型(生成器),Wasserstein距离。更为重要的,这套理论中,所有的概念,原理都是透明的。例如,对于概率生成模型,理论上我们可以用最优传输的框架取代深度神经网络来构造生成器,从而使得黑箱透明。

最优传输理论梗概

给定欧氏空间中的一个区域

我们寻找一个区域到自身的同胚映射(diffeomorphism),

保持测度 对于一切波莱尔集

换句话说映射T将概率分布

来表示映射的雅克比矩阵(Jacobian matrix),那么保持测度的微分方程应该是:

这被称为是雅克比方程(Jacobian Equation)。

最优传输映射 自映射

。

在所有保持测度的自映射中,传输代价最小者被称为是最优传输映射(Optimal Mass Transportation Map),亦即:

最优传输映射的传输代价被称为是概率测度

在这种情形下,Brenier证明存在一个凸函数

就是唯一的最优传输映射。这个凸函数被称为是Brenier势能函数(Brenier potential)。

由Jacobian方程,我们得到Brenier势满足蒙日-安培方程,梯度映射的雅克比矩阵是Brenier势能函数的海森矩阵(Hessian Matrix),

蒙日-安培方程解的存在性、唯一性等价于经典的凸几何中的亚历山大定理(Alexandrov Theorem)。

图2. 亚历山大定理。

亚历山大定理 如图2所示,给定平面凸区域

相交的面积记为

,则总投影面积满足

,

凸多面体可以被

确定。亚历山大定理对任意维凸多面体都成立。

后面,我们可以看到,这个凸多面体就是Brenier势能函数,其梯度映射将一个概率分布

,并且这两个概率分布之间的Wasserstein 距离对偶于此凸多面体决定的体积。理论上,这个凸多面体可以作为W-GAN模型中的生成器G。

W-GAN中关键概念可视化

Wasserstein-GAN模型中,关键的概念包括概率分布(概率测度),概率测度间的最优传输映射(生成器),概率测度间的Wasserstein距离。下面,我们详细解释每个概念所对应的构造方法,和相应的几何意义。

概率分布 GAN模型中有两个至关重要的概率分布(probability measure),一个是真实数据的概率分布

。另外,生成器的输入随机变量,满足标准概率分布(高斯、均匀分布)。

图3. 由保角变换(conformal mapping)诱导的圆盘上概率测度。

概率测度可以看成是一种推广的面积(或者体积)。我们可以用几何变换随意构造一个概率测度。如图3所示,我们用三维扫描仪获取一张人脸曲面,那么人脸曲面上的面积就是一个概率测度。我们缩放变换人脸曲面,使得总曲面等于

。然后,我们用保角变换将人脸曲面映射到平面圆盘。如图3所示,保角变换将人脸曲面上的无穷小圆映到平面上的无穷小圆,但是,小圆的面积发生了变化。每对小圆的面积比率定义了平面圆盘上的概率密度函数。

我们可以将以上的描述严格化。人脸曲面记为

,

则

图4. 两个概率测度之间的最优传输映射。

最优传输映射 圆盘上本来有均匀分布

,又有保角变换诱导的概率分布

,则存在唯一的最优传输映射

。图4显示了这个映射

,中间帧到右帧的映射就是最优传输映射。我们看到,鼻尖周围的区域被压缩,概率密度提高。

图5. 离散最优传输。

离散最优传输映射 最优传输映射的数值计算非常几何化,因此可以直接被可视化。我们将目标概率测度离散化,表示成一族离散点,

,

同时极小化传输代价,

。

图6. 离散Brenier势能函数,离散最优传输映射。

离散Brenier势能 离散最优传输映射是离散Brenier势能函数的梯度映射。对于每一个目标离散点

是未知变量。这些平面的上包络(upper envelope)构成一个开放的凸多面体,恰为离散Brenier势能函数

图6左侧显示了离散Briener势能函数。凸多面体在平面上的投影构成了平面的胞腔分解,凸多面体的每个面

的梯度都是

根据保测度性质,每个胞腔

以满足这个限制。根据亚历山大定理,这种截距存在,并且本质上唯一。

离散Wasserstein距离 我们和丘成桐先生建立了变分法来求取平面的截距

,

这个能量在子空间

上是严格凹的,其唯一的全局最大点就给出了满足保测度条件的截距。这个能量的非线性项,实际上是上包络截出的柱体体积,

,

图7给出了柱体体积的可视化,柱体体积

是凸函数。

图7. 离散Brenier势能函数的图截出的柱体体积

。

体积函数

和Wasserstein距离之间相差一个勒让德变换(Legendre Transformation)。勒让德变换非常几何化,我们可以将其可视化。给定一个定义在实数轴上的二阶光滑凸函数
,其图 是一条凸曲线,这条凸曲线由其所有的切线包络而成。如果,在任意一点

这被称为是函数

图8.凸函数的图像由其切线包络而成,切线集合被表示成原函数的勒让德对偶。

因为

这里c,d是常数。原函数和其勒让德变换的直观图解由图9给出。我们在xy-平面上画出曲线

图9. 图解勒让德变换。

勒让德变换的几何图景对任意维都对。我们下面来考察体积函数

假如我们变动截距

p本来属于

因此,总的Wasserstein距离的变化是

由此我们看到Wasserstein距离等于

其非线性部分是柱体积的勒让德变换。

总结

通过以上讨论,我们看到给定两个概率分布

映成了另外一个概率分布。这个最优传输映射的传输代价就给出了两个概率分布之间的Wasserstein距离。Brenier势能函数,Wasserstein距离都有明晰的几何解释。

在Wasserstein-GAN模型中,通常生成器和判别器是用深度神经网络来实现的。根据最优传输理论,我们可以用Briener势函数来代替深度神经网络这个黑箱,从而使得整个系统变得透明。在另一层面上,深度神经网络本质上是在训练概率分布间的传输映射,因此有可能隐含地在学习最优传输映射,或者等价地Brenier势能函数。对这些问题的深入了解,将有助于我们看穿黑箱。

图10. 基于二维最优传输映射计算的曲面保面积参数化(area preserving parameterization),苏政宇作。

图11. 基于三维最优传输映射计算的保体积参数化 (volume preserving parameterization),苏科华作。

(在2016年,老顾撰写了多篇有关最优传输映射的博文,非常欣慰地看到这些文章启发了一些有心的学者,发表了SIGGRAPH论文,申请了NSF基金。感谢大家关注老顾谈几何,希望继续给大家灵感。)

参考资料

[1]Arjovsky, M. & Bottou, L.eon (2017) Towards Principled Methods for Training Generative Adversarial Networks

[2] Arjovsky, M., Soumith, C. & Bottou, L.eon (2017) Wasserstein GAN.

[3] Xianfeng Gu, Feng Luo, Jian Sun and Shing-Tung Yau, Variational Principles forMinkowski Type Problems, Discrete Optimal Transport, and Discrete Monge-Ampere
Equations, Vol. 20, No. 2, pp. 383-398, Asian Journal of Mathematics (AJM), April 2016.

相关标签搜索：看穿机器学习（W-GAN模型）的黑箱 有限元技术培训 有限元仿真理论研究 有限元基础理论公式 能量守恒质量守恒动量守恒一致性方程 有限体积法 什么是有限元 有限元基础知识 有限元软件下载 有限元代做 Fluent、CFX流体分析 HFSS电磁分析 Ansys培训