Press "Enter" to skip to content

灭霸来了!微软发布BugLab:无需标注,GAN掉bug

本站内容均来自兴趣收集,如不慎侵害的您的相关权益,请留言告知,我们将尽快删除.谢谢.

 

新智元报道

 

编辑:LRS

 

【新智元导读】程序员的死对头就是各种bug!最近微软在NeurIPS 2021上带来了一个好消息,研究人员设计了一个类似GAN的网络,通过选择器和检测器来互相写和改bug,而且还不需要标注数据!

 

常言道,「一杯茶,一包烟,一个bug改一天」。

 

 

写代码是软件工程师们每天的工作,但当你辛辛苦苦写了一大堆代码,却发现无法运行的时候,内心一定是崩溃的。

 

找bug不仅费时费力,最关键的是还经常找不着,并且有时候改了一个bug又会引入更多bug,子子孙孙无穷尽也。

 

简直就是找bug找到吐血。

 

 

随着AI技术的发展,各大公司开发的代码助手如GitHub Copilot等也能帮你少写一些有bug的代码。

 

但这还远远不够!

 

深度学习要是能帮我把代码里的bug也给修了,我上班只负责摸鱼,岂不是美滋滋!

 

 

微软在NeurIPS 2021上还真发了一篇这样的论文,其中提出了一个新的深度学习模型BugLab,并通过自监督的学习方法,可以在不借助任何标注数据的情况下检测和修复代码中的bug,堪称程序员的救世主!

 

 

https://arxiv.org/pdf/2105.12787.pdf

 

修bug难在哪?

 

所谓的bug,就是代码的实际运行和自己的预期不符。

 

该运行的没运行,该输出a,结果却输出个b,这种代码故意找茬的行为都属于bug。

 

 

所以想要找到并修复代码中的bug,不仅需要对代码的结构进行推理,还需要理解软件开发者在代码注释、变量名称等方面留下的模糊的自然语言提示。

 

例如一段程序的意图是,如果名字的长度超过了22个字符,那就只截取前22个。但原始代码中错误地把大于号写成了小于号,导致条件判断错误,程序运行结果和预期不符。

 

 

这种小错误在写代码的过程也是太常见了,稍不注意就会把条件弄反。

 

还有一种bug就是使用了错误的变量,例如下面的例子里面write和read弄错了,就会导致条件判断失败,这种bug的修复只有在理解了变量名的意义后才能修复,传统的修复手段对此是无能为力。

 

 

这种错误看起来很简单,但往往盯着看代码的时候却很难发现,属于一改改一天的那种。

 

并且每个程序员有自己的编程风格,比如不同的命名、缩进、判断以及重构的方式,想让代码来给自己找bug,一个字,难!

 

对于微软来说,好在有GitHub代码库可以用来训练模型。但问题来了,GitHub上带bug的代码有那幺多吗?有bug谁还commit啊?就算能找到代码,也没人来标注数据啊!

 

微软提出的BugLab使用了两个相互竞争的模型,通过玩躲猫猫(hide and seek)游戏来学习,主要的灵感来源就是生成对抗网络(GAN)。

 

 

由于有大量的代码实际上都是没有bug的,所以需要设计一个bug selector来决定是否修改正确的代码来引入一个bug,以及以何种方式引入bug(例如把减号改为加号等)。当选择器确定了bug的类别后,就通过编辑源代码的方式引入bug。

 

另一个用来对抗的是bug detector,用来判断一段代码是否存在bug,如果存在的话,它需要定位并修复这个bug。

 

 

选择器和检测器都能够在没有标记数据的情况下共同训练,也就是说整个训练过程都是以自监督的方式进行,并成功在数百万个代码片段上训练。

 

selector负责写bug,并把它藏(hide)起来,而detector负责找bug,并修复,整个过程就像躲猫猫一样。

 

随着训练的进行,selector写bug越来越熟练,而detector也能够应对更复杂的bug。

 

整个过程与GAN的训练大体相似,但目的却大不相同。GAN的目的是获得一个更好的生成器来修改图片,但BugLab的目的是找到一个更好的检测器(GAN中的判别器)。

 

并且整个训练也可以看作是一个teacher-student模型,选择器教会检测器如何定位并修复bug。

 

为开源社区修bug!

 

虽然从理论上来说,使用这种hide and seek的方式可以训练更复杂的selector来生成更多样的bug,从而detector的修bug能力也会更强。

 

但以目前的AI发展水平来说,还无法教会selector写更难的bug。

 

所以研究人员表示,我们需要集中精力关注那些更经常犯的错误,包括不正确的比较符,或者不正确的布尔运算符,错误的变量名引用等等其他一些简单的bug。并且为了简单起见,实验中只针对python代码进行研究训练。

 

虽然这些解释听起来都像是借口。

 

为了衡量模型的性能,研究人员从Python包索引中手动注释了一个小型bug数据集,和其他替代方案(例如随机插入bug的selector)相比,使用hide and seek方法训练的模型性能最多可以提高30%

 

 

并且实验表明大约26%的bug都可以被发现并自动修复。在检测器发现的bug中,有19个在现实生活中的开源GitHub代码中都属于是未知的bug。

 

 

但模型也会对正确的代码报告存在bug,所以这个模型在离实际部署上线还有一段距离。

 

如果更深入地研究selector和detector模型的话,就会引出那个老生常谈的问题:深度学习模型到底有没有,又怎幺样去「理解」一段代码的作用?

 

过去的研究表明,将代码表示为一个token序列就能够产生次优的(suboptimal)效果。

 

但如果想要利用代码中的结构,例如语法、数据、控制流等等,就需要将代码中的语法节点、表达式、标识符、符号等等都表示为一个图上的节点,并用边来表示节点间的关系。

 

有了图以后就可以使用神经网络来训练detector和selector了。研究人员使用图神经网络(GNN)和relational transformer都进行了实验,结果发现GNN总体上优于relational transformer。

 

如何让AI帮助人类来写代码和改bug一直都是人工智能研究中的一项基础任务,任务过程中AI模型需要理解人类对程序代码、变量名称和注释提供的上下文线索来理解代码的意图。

 

虽然BugLab离真正解放程序员改bug还很遥远,但距离我们消灭bug总算又向前走了一步!

 

参考资料:

 

https://www.microsoft.com/en-us/research/blog/finding-and-fixing-bugs-with-deep-learning/

Be First to Comment

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注