NVIDIA 推出首个设备内置小型语言模型，以增强数字人类

本周，NVIDIA 在 Gamescom 上宣布推出 Nemotron-4 4B Instruct，这是其首款设备内置小型语言模型 (SLM)。据 NVIDIA 博客称，这款创新模型旨在增强游戏和其他互动体验中数字人类的逼真度。

SLM 优势

SLM（例如 Nemotron-4 4B）针对特定用例进行了优化，与较大的通用语言模型相比，它们能够提供更准确、更快速的响应。Nemotron-4 4B 是从较大的 Nemotron-4 15B 模型中提炼出来的，减少了内存占用并提高了速度，同时又不影响准确性。这使得它适合在 GeForce RTX 驱动的 PC 和笔记本电脑以及 NVIDIA RTX 驱动的工作站上本地运行。

该模型包括角色扮演、检索增强生成和函数调用功能等高级功能。这些功能使游戏角色能够更好地理解和响应玩家的指令，从而使游戏内互动更加直观和引人入胜。

ACE 上升

NVIDIA 的 ACE（头像创建引擎）技术（包括 Nemotron-4 4B）允许开发人员在云端以及 RTX AI PC 和工作站上部署最先进的生成式 AI 模型。该套件包括语音转文本、语言处理、文本转语音和面部动画等关键 AI 模型，使其模块化并可适应各种开发人员的需求。

例如，在视频游戏中 機械破壞中，玩家可以与机械游戏角色交谈并指示其切换和定制机甲，展示 Nemotron-4 4B 功能的实际应用。

灵活的人工智能

ACE 还支持混合推理，允许开发人员在云端或本地运行 AI 模型。NVIDIA AI 推理管理器软件开发套件简化了这些模型的部署和集成，根据开发人员的特定需求为其提供灵活的解决方案。

目前在本地运行的 ACE NIM 微服务包括 Audio2Face 和新的 Nemotron-4 4B Instruct，以及先进的自动语音识别系统 Whisper ASR。这些服务增强了游戏和其他应用中数字角色的互动性和真实感。

超越无限

NVIDIA 在数字人技术方面的进步不仅限于游戏。在最近的 SIGGRAPH 大会上，该公司展示了“James”，这是一个能够通过情感和幽默与用户建立联系的交互式数字人。James 是使用 ACE 框架构建的，展示了数字人在各个行业的潜力，包括客户服务、医疗保健、零售和机器人技术。

根据 Gartner 的数据，到 2025 年，80% 的对话式产品将嵌入生成式 AI，75% 的面向客户的应用程序将具有具有情感功能的对话式 AI。这表明人机交互将朝着更具吸引力和自然的方向转变。

对于那些有兴趣体验这项未来技术的人，可以通过 ai.nvidia.com 与詹姆斯进行实时互动。

图片来源：Shutterstock