Press "Enter" to skip to content

开放域问答综述|四种方案+数据集

本站内容均来自兴趣收集,如不慎侵害的您的相关权益,请留言告知,我们将尽快删除.谢谢.

卷友们好,我是rumor。

 

做了三年多的问答,我对这个领域真是又恨又爱。恨吧,互联网里的问答产品就是个锦上添花的东西,而且效果还上不去,一堆case等着我解。爱吧,我们NLP可是人工智能的掌上明珠,而问答又是NLP的尽头,多幺fancy的任务啊。

 

还是选择相信吧 。

 

今天带大家一起学习丹琦女神和Scott大佬在ACL2020上主讲的Tutorial——Open-Domain Question Answering。 开放域问答之所以重要,是因为它是搜索引擎的终极形态 。而搜索引擎的重要性就不必多说了,需求量大,商业模式成熟,以搜索引擎为入口的应用养活了谷歌、百度和一系列垂搜大厂,占据了当今互联网的大半壁江山。要是掌握了这门技术,前途不可估量。

 

PPT&视频:https://github.com/danqi/acl2020-openqa-tutorial

丹琦女神这次的Tutorial,主要讲的是利用 非结构化数据进行问答 这一分支任务,也是当今场景最多的任务,毕竟结构化、半结构化数据有一定的获取成本。

 

从开放域问答兴起以来,可以分为以下四个阶段:

Pipeline:类似搜索引擎,分为Query理解、候选召回和答案抽取
Two-stage:对Pipeline进行简化,先用Retriever抽取候选,然后用Reader做阅读理解
End-to-end learning:用神经网络替换传统Retriever,尝试把Retriever和Reader一起训练
Retrieval-free models:不检索了,预训练都学会了,直接上模型就完了

下面我们就跟着女神的步伐,来看看这四类方法。

 

Pipeline

 

QA的研究从1960年左右就开始了,基本都是rule-based的方法,学者们通过大量人工定义的规则来进行query理解,然后从限定域数据库中寻找答案(那时的学者们可能不会知道,这种方法一直被沿用至今)。

 

1999年,信息检索领域的顶会TREC推出了QA Tracks,那时他们就开始意识到,搜索引擎的下一个形态就是问答。然而那时由于 机器学习 、算力的局限,主流方法还是跟搜索引擎类似,数据集也比较简单,都是用单实体作为答案(长了就抽不出来了)。

可以看2002年的冠军方案来体会一下Pipeline方法的复杂程度:

再之后,就是2011年,IBM Watson一举夺得Jeopardy问答竞赛的百万奖金。然而技术上还是没有太大进展,依旧是用Pipeline方法,任务形式也较为简单。

 

到了2013年,深度学习兴起,任务形式也开始发生变化,从Document层面的Macro-reading走向Passage层面的Micro-reading。出现了更偏向语义的阅读理解任务。以及更多形式的数据集:

Two-Stage

 

把问答整合成阅读理解任务的形式后,研究者们把Pipeline简化为了Retriever-Reader两步。最基本的解决方案可以参照2017年的DrQA,用TFIDF、BM25等同级方法召回合适的Document,再用神经网络作为Reader去标注合适的回答。

 

那接下来如何优化呢?除了把Reader替换为更复杂的网络外,还有几个点可以改进:

DrQA是从文档层面进行召回的,因此2019年的BERTserini [1] 把文档切成segments,进行更精细的召回,同时用segment和答案片段的加权分数作为最终答案
在预测时,不同段落中抽出的答案不方便做比较,因此2018 [2] 、19 [3] 年分别有工作尝试了Multi-passage训练,让一个batch内的段落进行交互,得到一个更好的span预测结果
段落的重要性被忽略掉了,所以2018年的R^3 [4] 给召回的passage又加了一个强化学习的re-ranker
目前的方法只对答案进行排序,而忽略了聚合,如果不同passage都抽出了同样的答案,可以用不同的方法进行汇总 [5]
开放域阅读理解的训练集很多都是远程监督来做的(只要passage包含答案就是正例),这样会忽略passage本身的合理性,也有工作探索这方面的改进 [6]

Dense Retriever and End-to-end

 

上文介绍了Pipeline方法的改进思路,然而Retriever还处于远古时代。技术再往前一步,就是对Retriever进行优化。

 

事实上,在2019年之前,dense retriever的表现都弱于sparse retriever(例如用TFIDF表示的one-hot)。Retriever网络需要从成百上千万的文档中选出合适的,需要大量的语料和算力,终于到BERT出来之后,我们有了预训练模型+Faiss向量化召回框架,才终于让dense retriever的效果上去。

 

2019年的ORQA [7] 提出了Inverse Cloze Task任务,通过预测一句话正确的Context对Retriever进行预训练,之后再对Retriever和Reader进行联合训练,终于在3个数据集上打败了传统的BM25+BERT。

2020年的REALM [8] 则更进一步,提出了让Retriever和Reader更好结合的MLM预训练任务。具体的做法是,随机对句子的实体进行mask,作为query,让Retriever从候选中抽取句子,再让Reader根据query和候选预测被mask的实体:

但上述两种方法都需要进行预训练,这个成本是很高的。

 

接下来,2020年的DPR [9] 提出,可以用更少的语料来训一个Retriever。那问题就来了,用什幺数据训Retriever才好呢?DPR采用的正例是:

阅读理解数据集的正例
包含answer的BM25高分段落

而负例则采用:

随机段落
不包含答案的高分BM25段落
其他问题的正例段落

同时在训练时采用In-batch negative策略,相比REALM提升了2个多点。同时又证实了Pipeline方法的高效性。

 

优化了半天Retriever,那Reader层面还有什幺优化呢?能不能用生成模型?

 

2020年的RAG [10] 就用DPR Retriever+BART模型来了一版生成式开放域QA:

不过讲了半天,上面方法本质还是Two-stage的,2019年的DenSPI [11] 就想,能不能phrase level进行召回,那要是都召回phrase了,reader是不是就可以省了?

 

说干就干,于是DenSPI把phrase都切出来了,一方面用BERT的start和end表示作为dense表示,一方面用TF-IDF做sparse表示,两个表示拼接起来,居然效果还不错,在SQuAD上能超越一些Two-stage的方法。

最后,让我们来看看女神总结的各模型表现:

Retriever-free

 

开放域问答的尽头,难道是预训练大模型?

 

然而女神的报告是2020年做的,只介绍了GPT-2和T5,从效果上看,预训练大模型是可以得到不错的效果的,然而这个效果跟模型尺寸强相关,11B的T5刚刚能赶上3个BERT-base的DPR效果。

 

数据集与评估

评估方式主要有:F1、Exact match、Top-N accuracy等

 

总结

 

问答是搜索引擎的尽头吗?我不知道,但我相信未来几十年之后,随着互联网的信息越来越多,人机交互的形式一定会发生变化。而其中最重要的技术,除了NLP可能就是脑机接口了。

 

希望我35岁危机之前问答技术能有一波大突破,please。

 

 

欢迎初入NLP领域的小伙伴们加入rumor建立的「 NLP卷王养成群 」一起学习,添加微信「 leerumorrr」 备注 知乎+NLP 即可,群里的讨论氛围非常好~

 

 

入门路线和各任务详解都在这里下载啦~

参考资料

 

[1] End-to-End Open-Domain Question Answering with BERTserini: https:// arxiv.org/abs/1902.0171 8

 

[2] Simple and Effective Multi-Paragraph Reading Comprehension: https:// arxiv.org/abs/1710.1072 3v1

 

[3] Multi-passage BERT: A Globally Normalized BERT Model for Open-domain Question Answering: https:// aclanthology.org/D19-15 99/

 

[4] Reinforced Ranker-Reader for Open-Domain Question Answering: https:// arxiv.org/abs/1709.0002 3

 

[5] Evidence Aggregation for Answer Re-Ranking in Open-Domain Question Answering: https:// arxiv.org/abs/1711.0511 6

 

[6] A Discrete Hard EM Approach for Weakly Supervised Question Answering: https:// arxiv.org/abs/1909.0484 9

 

[7] Latent Retrieval for Weakly Supervised Open Domain Question Answering: https:// arxiv.org/abs/1906.0030 0

 

[8] REALM: Retrieval-Augmented Language Model Pre-Training: https:// kentonl.com/pub/gltpc.2 020.pdf

 

[9] Dense Passage Retrieval for Open-Domain Question Answering: https:// aclanthology.org/2020.e mnlp-main.550.pdf

 

[10] Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks: https:// arxiv.org/abs/2005.1140 1

 

[11] Real-Time Open-Domain Question Answering with Dense-Sparse Phrase Index: https:// aclanthology.org/P19-14 36.pdf

Be First to Comment

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注