Press "Enter" to skip to content

JoSE:球面上的词向量和句向量

作者丨苏剑林

单位丨追一科技

研究方向丨NLP,神经网络

个人主页丨kexue.fm

 

这篇文章介绍一个发表在 NeurIPS 2019 的做词向量和句向量的模型 JoSE (Joint Spherical Embedding),论文名字是 Spherical Text Embedding 。JoSE 模型思想上和方法上传承自 Doc2Vec,评测结果更加漂亮,但写作有点故弄玄虚之感。不过笔者决定写这篇文章,是因为觉得里边的某些分析过程有点意思,可能会对一般的优化问题都有些参考价值。

 

 

论文链接: https://arxiv.org/abs/1911.01196

 

优化目标

 

在思想上,这篇文章基本上跟 Doc2Vec 是一致的:为了训练句向量,把句子用一个 id 表示,然后把它也当作一个词,跟句内所有的词都共现,最后训练一个 Skip Gram 模型,训练的方式都是基于负采样的。跟 Doc2Vec 不一样的是,JoSE 将全体向量的模长都归一化了(也就是只考虑单位球面上的向量),然后训练目标没有用交叉熵,而是用 hinge loss:

 

其中 u 是“中心词”的词向量,v 是“上下文词”的词向量,它们分别来自两套词向量空间,d 则是当前句的句向量,而 u′ 负采样得到的“中心词”词向量,最后的 m>0 是一个常数。以前做相似度模型的读者应该能很轻松读懂这个优化目标的含义,它就是希望句子内的“词-词-句”打分 cos(u,v)+cos(u,d) 要高于“词-随机词-句”打分 cos(u′,v)+cos(u′,d),但不需要太高,只要高出 m 就行了。

 

假定 u,v,d 都已经归一化的情况下,那幺目标 (1) 就是(每个向量被假设为列向):

 

梯度下降

 

目标 (1) 或 (2) 其实并没有什幺新鲜之处,跟大多数词向量的目标类似,都是用 内积 衡量词的相关性,只不过这里的向量归一化过,所以内积就是 cos ,至于 hinge loss 和交叉熵孰优孰劣,我倒觉得不会有什幺太大差别。

 

事实上,笔者觉得文章比较有意思的是它后面对梯度的几何分析,在这里笔者用自己的话重复一下求解过程。设 x 是全体 u, v, d 向量中的其中一个,然后假设现在固定所有的其他向量,只优化 x ,设总的 loss 为 f(x),那这个优化过程有两种描述方式:

 

 

也就是说,我们可以将这个问题理解为带有约束 ||x||=1 的 f(x) 最小化问题,也可以通过设 x=θ/ || θ ||  将它转化为无约束的 f(θ/ || θ || ) 最小化问题。由于带约束的优化问题我们不熟悉,所以只好按照后一种方式来理解。

 

跟复杂模型不同的是,词向量算是一个比较简单的模型,所以我们最好手动求出它的梯度形式,然后编写对应函数进行梯度下降来优化,而不借助于一些自动求导工具。对于 f(θ/ || θ || ),我们不难求得:

 

 

其中已经对部分变量进行了 x=θ/ || θ ||  的替换,根据上述结果,梯度下降的迭代公式为:

 

其中 是当前时刻的学习率,而因子 1/ || θ ||  由于只是个标量,所以被整合到学习率中了。然后我们也可以写出:

 

 

再次将 1/ || θ ||  整合到学习率中,我们可以得到只有 的更新公式:

 

 

更新量修正

 

至此,上述内容都是很常规的推导,而接下来就是我说的比较有意思的地方了。首先有:

 

 

可以看到, 实际上就是向量 在方向上的投影分量,而整个 g 其实就是一个与垂直的向量,如下图示:

 

 

▲  梯度的几何图示

 

在上图中,红色向量代表,蓝色向量代表 ,如果没有 ||x||=1 这个约束的话,那更新量应该直接由 决定,但是因为有了约束,所以更新量由 决定。然而,有下面两种不同的 ,都可能导致同一个 g:

 

 

▲  第一种情况,∇xf(x)跟x的方向很靠近

 

 

▲  第二种情况,∇xf(x)跟x的方向几乎相反

 

第一种情况的 的方向跟很靠近,第二种情况则相反,但它们的 g 是一致的。前面说了,如果没有约束的话, 才是梯度,换言之 就是合理的更新方向;现在有了约束, 虽然不能指出 最合理的梯度方向,但直觉来看,它应该还是跟更新量有关的。

 

在第一种情况下, 跟方向差得比较远,意味着这种情况下更新量应该大一些;而第二种情况下, 跟方向比较一致,而我们只关心 的方向,不关心它的模长,所以按理说这种情况下更新量应该小一些。

 

所以,哪怕这两种情况下 g 都一样,我们还是需要有所区分,一个很自然的想法是:既然 和的方向的一致性会对更新量的大小有所影响 ,所以不妨用:

 

 

来调节更新量,这个调节因子正好满足“方向越一致,调节因子越小”的特性。这个自然的想法就导致了最终的更新公式:

 

 

故弄玄虚

 

有意思的地方讲完了,下面讲一下没有意思的地方了。对 NLP 有稍微深入一点了解的读者(看过 Word2Vec 的数学原理,推导过常规模型的梯度)应该会觉得,上面前两节内容并没有什幺很深奥的内容,第三节的几何解释和学习率调节有点新颖,但也是有迹可循的内容。不过要是去看原论文的话,那感觉可能就完全不一样了,作者用“概率分布”、“黎曼流形上的优化”等语言,把上述本该比较容易理解的内容,描述得让人云里雾里,深有故弄玄虚之感。

 

首先,我最不理解的一点是,作者在一开始就做了一个不合理的假设(将词向量连续化),然后花了不少篇幅来论证 对应着 Von Mises–Fisher 分布。然后呢?就没有然后了,后面的所有内容跟这个 Von Mises–Fisher 分布可以说没有半点关系,所以不理解作者写这部分内容的目的是什幺。

 

接着,在优化那部分,作者说带约束 ||x||=1 的 f(x) 最小化问题不能用梯度下降,所以只能用“黎曼梯度下降”,然后就开始“炫技”了:先说说黎曼流形,然后给出一般的指数映射,再然后给出黎曼梯度,一波高端操作下来,最后却只保留了一个大家都能懂的方案: x=θ/ || θ || 。这时我就很“服气”了,虽然作者的逻辑和推导都没有毛病,但是一波操作下来最后却给看众一个 x=θ/ || θ ||  的朴素结果,那为什幺不一开始就直接讨论 f(x=θ/ || θ || ) 的优化呢?非得要去黎曼流形上面把普通读者绕晕?

 

此外,我说的比较有意思的部分,就是更新量的几何解释以及得到的调节因子,作者也说得挺迷糊的。总之,笔者认为,论文的理论推导部分,很多地方都充斥着很多不必要的专业术语,无端加深了普通看众的理解难度。

 

最后强调一下,笔者从来不反对“一题多解”,也不反对将简单的内容深化、抽象化,因为“深化”、“抽象化”确实也可能获得更全面的认识,或者能显示各个分支之间的联系。但是这种“深化”、“抽象化”应该要建立在一个大多数人都能理解的简单解的基础上进行的,而不是为了“深化”、“抽象化”而特意舍去了大多数人能理解的简单解。

 

实验结果

 

吐槽归吐槽,在实验部分,JoSE 做得还是很不错的。首先给出了 JoSE 的高效的 C 语言实现。

 

https://github.com/yumeng5/Spherical-Text-Embedding

 

我试用了一下,训练确实很快速,训练好的词/句向量结果可以用 gensim 的 KeyedVectors 加载。另外我还看了一下源代码,很简练清晰,也方便做二次修改。至于实验结果,论文给出的词/句向量评测上面,JoSE 也是比较领先的:

 

 

▲  词相似度评测

 

 

▲  文本聚类评测

 

文章总结

 

本文分享了一个发表在 NeurIPS 2019 的文本向量模型 JoSE,着重讲了一下笔者觉得有启发性的部分,并用自己的方法给出了推导过程。JoSE 可以认为是 Doc2Vec 的自然变种,在细微之处做了调整,并且在优化方法上提出了作者自己的见解,除却一些疑似故弄玄虚的地方之外,还不失为一个可圈可点的工作。

Be First to Comment

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注