微软、阿里用阅读理解证明,文字的事儿人类已经不如 AI 了

据CNN、CNET、彭博社等多家外媒报道,1月11日,微软和阿里巴巴开发的AI模型在斯坦福阅读测试中首次胜过人类。这是继国际象棋、桥牌等游戏之后,机器再次战胜人类。

机器精准度匹配首次超越人类

SQuAD比赛,是由斯坦福大学发起的机器阅读理解领域顶级赛事,它构建了一个大规模的机器阅读理解数据集(包含10万个问题),文章来源于500多篇维基百科文章。机器在阅读完数据集中的一篇短文之后,需要回答若干个基于文章内容的问题,然后与标准答案进行比对,得出精确匹配(Exact Match)和模糊匹配(F1-score)的结果。

通过这套试题梳理出线索,可看出机器学习模型是否能够在经过大量信息处理后给出问题的确切答案。这些题目所构成的试卷被认为是当前世界检测机器阅读水平的最权威标准之一。

此次测试中,参赛公司让各自的人工智能系统解答斯坦福问答数据集的提问,然后,该数据集评估阅读理解能力,将智能系统与普通人的答案进行比较,并进行排名。

结果,微软、阿里巴巴分别以82.650和82.440的精准率打破了世界纪录,并且超越了人类82.304的成绩,刷新了在SQuAD上的排名。

 

SQuAD的负责人Pranav Rajpurkar在Twitter上表示,“2018年是一个强劲的开始,第一个模型(阿里巴巴iDST团队提交的SLQA +)在精准度匹配上超越人类表现!下一个挑战:模糊匹配,人类仍然领先2.5分!”

 

理解和分析是机器与人的最大区别

机器阅读理解,虽然看起来仅是让AI进行一场考试,但确实自然语言处理(NPL)技术中,除了语音判断、语义理解之后更大的挑战,即如何让机器理解全文语境。因为阅读理解问题,不止要处理语音和语义,还要关注和理解词汇、语句、篇章结构、思维逻辑、辅助语句和关键句等元素构成的复杂组织网络。

正如做一份阅读理解题,斯坦福阅读理解数据集中会提问:“德国首相出生于哪一年?”紧接着,根据上下文理解,“她的出生地又是哪里?”

再比如,“乔治·史密斯是否是美国国籍?”那么这个问题在原文中可寻究的出处是“乔治·史密斯出生于夏威夷,位于美国。”

这其中的关键在于,处理阅读理解相关问题,需要的不仅是人工智能的计算能力,更多的是理解和分析能力,而这恰恰是机器与人最大的区别。

而从目前来看,机器在复杂语言的理解方面,仍然很难与人类相匹敌。



发表评论

电子邮件地址不会被公开。 必填项已用 * 标注

*

您可以使用这些 HTML 标签和属性: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>

(Spamcheck Enabled)

最新评论