网易推出超大模型推理引擎EET快速响应 3秒创作一首歌词
发布时间：2021-12-14 11:53:29 所属栏目：手游 来源：互联网
导读：近日，网易旗下AI研究与应用机构网易伏羲推出新一代Transformer推理引擎Easy and Efficient Transformer（简称：EET引擎）。该引擎具有可扩展、性能高、易使用等特点，能够在自然语言处理和多模态领域，有效提升Transformed-based超大模型的推理效率，让AI算
|
近日，网易旗下AI研究与应用机构网易伏羲推出新一代Transformer推理引擎Easy and Efficient Transformer（简称：EET引擎）。该引擎具有可扩展、性能高、易使用等特点，能够在自然语言处理和多模态领域，有效提升Transformed-based超大模型的推理效率，让AI算法产生更大的社会价值，助力中国在超大模型生态研发领域领先全球。 近年来，国内外掀起了对Transformed-based超大模型的研发热潮。Google、OpenAI、华为、微软、NVIDIA等AI巨头纷纷投身其中，在多个领域展开“军备竞赛”。然而，超大模型庞大的参数量带来了巨大的计算压力，处在高速发展期的超大模型生态，急需好用、高效、具有扩展性的推理引擎，来助推工程落地。 目前，EET引擎已经应用在网易云音乐、Lofter，以及《逆水寒》、《天谕》等游戏中，在情境对话、语义判别、故事生成、AI作词、AI作曲等场景中发挥效能。 而技术应用，正是网易伏羲的重点研究方向。据悉，此次推出的EET引擎相当于在超大模型和应用场景之间搭建了一座桥梁，把超大模型的算法成果运用到实际业务中，有效降低响应时间、增强用户体验、提高吞吐量、缓解线上部署压力。 （编辑：52刷机网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
