Press "Enter" to skip to content

基于课程学习(Curriculum Learning)的自然语言理解

本站内容均来自兴趣收集,如不慎侵害的您的相关权益,请留言告知,我们将尽快删除.谢谢.

 

论文标题:

 

Curriculum Learning for Natural Language Understanding

 

论文作者:

 

Benfeng Xu, Licheng Zhang , Zhendong Mao, Quan Wang, Hongtao Xie and Yongdong Zhang

 

论文链接:

 

https://www.aclweb.org/anthology/2020.acl-main.542/

 

一、动机

 

伴随着 Bert 等预训练模型在自然语言处理领域的全面铺开,在预训练模型上进行 fine-tune 已经成为当前自然语言处理各种研究的一个标配。在微调阶段,目标数据会被一股脑的抛给模型,用于训练一个在具体任务上的模型。

 

但数据集中的数据之间是存在难易程度的,有些例子很容易被区分,有些例子就很难被区分,例如下图展示的 SST-2情感分类任务上的一个数据样例,简单的例子可以直接利用一些词进行分类,例如 easy,comfortable 等,但一些比较困难的例子就需要模型能够对句子中的具体片段内容进行语义理解和分析了。

 

如果把这些样例不加区分直接扔给模型,那幺就可能出现模型在简单例子上用力过猛,在复杂例子上不够用力,从而导致模型难以训练,同时难以取得更好的效果。而人在学习过程中基本上是从易到难的,先学简单的,在学复杂的,这称之为课程学习(Curriculum Learning)。

 

因此,本文的一个 motivation 就是将课程学习的思路应用到自然语言理解的相关任务中。

 

二、方法

 

通过从易到难的形式实现对模型更好的训练不是一个新的 idea,从 CV 到 NLP 都有一些研究,主流的研究方案是两阶段的,第一阶段,对问题进行分类,构建从易到难的数据集,第二阶段,利用第一阶段得到的数据进行第二阶段的训练。

 

本文的优势在于,本文并不是针对某一种特定的任务进行优化的,而是提出了一种更 general 的方案,然后在阅读理解,句子分类,句子对相似度分析三个任务上进行了验证。接下来,我们就来看一下本文是如何完成这两个阶段的。

 

2.1 第一阶段:难度评估

 

传统的方法使用上下文的长度,非常见词的频率,学习目标的尺度等方案对数据进行困难评估,但作者认为,既然是针对任务的,那幺这些难度评估也是需要是跟对应的任务以及对应的评价目标相关的,因此,作者将整个训练数据通过如下步骤进行困难评估,相关的图例如下图所示:

 

 

 

将整个训练数据分为 N 份,称之为 meta-set,然后利用每一份数据训练一个 teacher 。N 份数据之间不重叠。

 

在所有的 teacher 模型训练好之后,假设从第 k 个 meta-set 中选出一个例子,然后利用剩余的 N-1 个模型对这个例子进行预测,预测的结果就是每个模型对这个例子的困难度评估(通过这种形式,难度评估就和模型以及评价标准联系起来了)。

 

最后将得到的 N-1 个结果相加,就得到了这个例子的难度。

 

 

作者称这个过程为交叉评估。

 

2.2 课程安排

 

在得到每个训练例子的难度之后,作者对数据集进行划分,然后根据划分之后的例子对模型进行多阶段的学习,具体而言,首先根据难度对样例进行排序,然后分为 N 份,这样就得到了 N 份从易到难的训练集,该过程可以表示为如下形式:

 

 

然后对于每阶段的训练,作者分别从每一个难度类(buckets)里调出 1/N 个例子,然后组成短拳对应的训练集,对模型进行训练,从而让保证模型对各种数据都能看到,该过程可以表示为如下形式:

 

 

作者称这种方法为退火方法(Annealing method)。

 

三、Experiments

 

为了验证模型的有效性,作者在多个数据集和多个任务上进行了验证,主要针对的 BERT 模型,以下是在 GLUE 上的表现:

 

 

除此之外,作者还对比了其他一些课程学习的放下的效果,具体结果如下:

 

 

还有对数据集进行划分时,不同 N 对整个模型效果的影响:

 

 

除此之外,作者还对不同难度划分下的子集中数据的具体情况进行分析,相关结果如下图所示:

 

 

这些实验都充分证明了本文提出的方法的有效性。

 

四、总结

 

本文通过课程学习的形式,将数据集从易到难进行分类,在此基础上对模型进行训练,从而进一步提高了预训练模型在 fine-tune 阶段的效果,思路非常有意思。而且关于数据难度的定义和评估是这种课程学习方法的难点所在,如何提出更好的学习方法是进一步提升模型效果的关键所在。而且也不需要复杂的结构,是一个非常有意思的研究方向。

Be First to Comment

发表评论

电子邮件地址不会被公开。 必填项已用*标注