当前位置: 首页 > 科技观察

阿里达摩院拿下AI领域权威榜单前六:用人类的学习方式超越人类

时间:2023-03-20 10:59:35 科技观察

让AI模仿人类的学习方式,结果会是什么?8月26日,阿里巴巴达摩院语言技术实验室取得一系列突破,斩获自然语言处理(NLP)领域权威技术榜单前六名。据介绍,参赛的六项自主研发的人工智能技术均采用了模仿人类的学习模式,全面提升了机器的语言理解能力,部分能力甚至超越了人类。目前,这些技术已广泛应用于阅读理解、机器翻译、人机交互等场景。据悉,过去几年,人工智能在图像识别、语音识别等方面逐渐超越人类水平,但在复杂文本语义的理解上,人工智能与人类仍有差距。主要原因是传统人工智能学习文本知识的效率较低。为此,业界提出了一种模仿人类的学习思路,即先让AI在大规模的网页和书籍文本上进行训练,学习基本的词汇、语法和语义知识,然后对文本进行有规律的训练。固定字段。培训,学习特定领域的知识。这个思想是预训练语言模型的核心创新。自谷歌提出模仿人类注意力机制的BERT模型以来,预训练语言模型就成为NLP领域的热门研究方向。DharmaAcademy早在2018年就开始布局通用的预训练语言模型,并逐步将这一思路扩展到多语言、多模态、结构化和语篇文本理解和文本生成等领域。现已建立系统的深度语言模型体系,自主研发的通用语言模型StructBERT、多语言模型VECO、多模态语言模型StructVBERT、生成语言模型PALM等6个自研模型分别刷新世界纪录。达摩院自研模型在GLUE榜单中排名第一。其中,StructBERT可以让机器更好地掌握人类的语法,让机器在面对乱序或不符合语法习惯的单词时,依然能够准确理解并给出。正确的表达和回答大大提高了机器对单词、句子和语言整体的理解。该模型在自然语言处理领域权威数据集GLUEBenchmark中排名第一,平均得分90.6,大幅超越人类水平(87.1)。达摩院语言技术实验室团队表示:“实验室的目标是让AI掌握人类知识的基础技术。预训练语言模型的诞生,让AI像人一样学习新知识成为可能。”未来,达摩院将全面对外开放,这些技术让AI在特定领域更加智能。“近两年,阿里在NLP领域的顶级赛事中获得30余项世界冠军,相关顶级会议论文100余篇;阿里的自然语言技术服务于金融、新零售、通信、互联网、医疗、电力、客服等领域超过十亿用户,数万家企业客户。