改写多项使命分数,百度自研的语义了解技能与渠道文心 ERNIE 再次登上了 GLUE 的第一。
近来,自然言语处理范畴威望排行榜——GLUE(通用言语了解评价基准)新排名出炉。百度自研的语义了解技能与渠道文心 ERNIE 以 90.9 的分数再登第一,抢先微软 DeBERTa/TuringNLRv4,谷歌 T5 以及阿里巴巴、华为等研制的其他同类别技能。
GLUE 排行榜由纽约大学、华盛顿大学、谷歌 DeepMind 等组织联合推出,包括自然言语揣度、语义类似度、问答匹配、情感剖析等 9 大不相同的 NLP 使命。GLUE 榜单的挑战者包含了谷歌、Facebook、微软等国际顶尖科技公司以及斯坦福大学、卡耐基 · 梅隆大学等闻名高校,含金量极高。GLUE 榜单在某些特定的程度上成为了衡量各组织自然言语处理预练习技能水平最重要的目标之一。
早在 2019 年 12 月,百度文心 ERNIE 就曾以 9 个使命均匀得分初次打破 90 大关的好成绩,改写 GLUE 榜单前史夺得第一。此次百度文心 ERNIE 再度登顶,首要源于文心 ERNIE 对模型继续学习方法的进一步晋级和模型神经元数目的进一步增多,使得模型能更高效地、高质量地学习海量数据中的丰厚常识。具体来说,文心 ERNIE 提出了层次化 Post-LN Transformer 算法,处理了大规模 Post-LN Transformer 模型练习不稳定问题,确保了模型练习作用。此外,文心 ERNIE 还利用了百度飞桨首创的 Hybrid Sharding 分布式算法,极大地降低了模型练习时刻。
自然言语处理(NLP)被称为人工智能皇冠上的一颗明珠,该范畴的技能打破关于机器认知智能开展至关重要。百度文心 ERNIE 则是一个获得国际级打破的语义了解技能与渠道,它依托于百度的深度学习渠道飞桨打造,将机器了解言语的水平提升到一个新的高度,为计算机带来了认知智能范畴的巨大跨域。此次文心 ERNIE 可以再次逾越国际顶尖公司及高校荣登第一,背面是百度在 NLP 技能的长时间堆集。
文心 ERNIE 的核心技能长处是,它创始性地将大数据预练习与多源丰厚常识相结合,经过继续学习技能,不断吸收海量文本数据中词汇、结构、语义等方面的新常识,完成模型作用不断进化,好像人类继续学习相同。这让它在 16 个中英文典型 NLP 使命上明显逾越其时国际最好作用。
文心 ERNIE 语义了解渠道集先进的预练习模型、全面的 NLP 算法集、端到端开发套件和渠道化服务于一体,为企业和开发者供给一站式 NLP 开发与服务。
现在,百度在自然言语处理范畴的深沉堆集已辐射至不相同的范畴。文心 ERNIE 已广泛地应用于百度表里多个产品和技能场景,在百度查找、小度音箱、信息流引荐等一系列产品应用中发挥了及其重要的作用,大幅度的提高了产品作用和使用者实在的体会,并经过百度智能云构成 “云智一体” 的竞赛优势,输送到金融、通讯、教育、互联网等职业,助力各行各业工业智能化晋级。
原标题:《百度文心多项使命分数改写GLUE榜单,NLP界的「MVP」再次夺冠》
本文为汹涌号作者或组织在汹涌新闻上传并发布,仅代表该作者或组织观念,不代表汹涌新闻的观念或态度,汹涌新闻仅供给信息发布渠道。请求汹涌号请用电脑拜访。