生成式AI笔记本电脑和PC正推动游戏、内容创作、生产力和开发的进步。如今,全球已有超过600款Windows应用和游戏在超过1亿台GeForce RTX AI PC上本地运行AI,以提供快速可靠且低延迟的性能。
在Microsoft Ignite大会上,英伟达和微软发布了助力Windows开发者在RTX AI PC上快速构建和优化AI应用的工具,让本地AI更加易于访问。这些新工具使应用和游戏开发者能够基于强大的RTX GPU来加速AI代理、应用助手和数字角色等应用的复杂AI工作流程。
NVIDIA ACE是一套数字人类技术,可让代理、助手和虚拟化身栩栩如生。为了实现更高层次的理解,以便以更强的情境意识做出反应,数字角色必须能够像人类一样以视觉方式感知世界。
要增强数字角色的互动,使其更加真实,就需要一种更细致感知和理解周围环境的技术。为了实现这一目标,英伟达开发了多模式小型语言模型,该模型可处理文本和图像,擅长角色扮演,并针对快速响应时间进行了优化。
即将推出的NVIDIA Nemovision-4B-Instruct模型使用最新NVIDIA VILA和NVIDIA NeMo框架进行提炼、修剪和量化,使其变得足够小,从而可在RTX GPU上以开发者所需的精度运行。
该模型使数字角色能理解现实世界和屏幕上的视觉图像,从而做出相关反应。多模态性是代理工作流程的基础,并让我们看到了数字角色在用户最少协助下推理和采取行动的未来。
不仅如此,英伟达还将推出Mistral NeMo Minitron 128k Instruct系列,这是一套专为优化、高效的数字人机交互而设计的大语境小语言模型。该系列模型有8B、4B和2B参数版本,可在RTX AI PC上提供灵活的选项,以平衡速度、内存使用量和准确性;模型可一次性处理大型数据集,无需进行数据分割和重组;模型采用GGUF格式构建,可提高低功耗设备的效率,并支持与多种编程语言的兼容性。