黄仁勋在GTC 2021上又放了哪些“大招”？

英伟达GTC 2021于11月9日在线上举行，在此次GTC大会中，英伟达首席执行官黄仁勋率先发表了主题演讲，展示了基于英伟达Omniverse平台开发的多项最新技术，彰显AI技术的愈发强大。黄仁勋在GTC 2021上究竟又放了哪些“大招”？跟随《中国电子报》记者一起一探究竟。

发布NVIDIA Omniverse Avatar

在今日的GTC大会上，英伟达发布了NVIDIA Omniverse Avatar，一个用于生成交互式AI化身的技术平台。会上，黄仁勋介绍，Omniverse Avatar集合了该公司在语音AI、计算机视觉、自然语言理解、推荐引擎和模拟技术方面的技术。该平台为创建人工智能助手打开了大门，可以帮助处理数十亿的日常客户服务互动，从而带来更大的商业机会和提高客户满意度。

据了解，Omniverse平台是一个可轻松加速设计工作流程、实现实时协作的开源云原生平台。专业人士可通过Omniverse创建并模拟一个虚拟3D世界。近期上映的中国探月官方纪录片《飞向月球》第二季中也采用了Omniverse平台，其通过运用物理渲染、实时光线追踪、高精度3D扫描等多项黑科技，首次将AI超写实数字人应用在4K科学纪录片中。

随着NVIDIA Omniverse的更新发展，新的特征和功能将赋予更大范围的设计和仿真模拟工作流程。

Triton推理服务器迎来重大升级

会上，黄仁勋宣布，NVIDIA Triton推理服务器迎来了重大升级。据了解，NVIDIA Triton 是一款开源软件，对于所有推理模式都可以简化模型在任意框架中以及任何 GPU 或 CPU 上的运行方式，从而在生产环境中使用 AI。Triton 支持多模型ensemble，以及 TensorFlow、PyTorch、ONNX 等多种深度学习模型框架，可以很好的支持多模型联合推理的场景，构建起视频、图片、语音、文本整个推理服务过程，大大降低多个模型服务的开发和维护成本。

黄仁勋介绍，升级后的Triton推理服务器将会扩大对所有模型、各种框架、多查询类型的推理，面向所有平台、云、本地、边缘和嵌入式系统提供更好的机器学习和深度学习。此外，Nvidia Triton这一引擎可用于所有推理的工作负载，在图像处理、语音AI、自然语音处理、推理系统和强化学习等方面都将展现更出色的性能。未来，对于云服务商而言，Triton将提高其基础设施的利用率和吞吐量，释放其基础设施容量，以应更高的技术需求，与此同时，由于Triton可提高吞吐量，还可有效降低成本。

推出Nvidia Clara Holoscan软件定义的可编程影像平台

会上，黄仁勋宣布，英伟达推出最新Nvidia Clara Holoscan软件定义的可编程影像平台。黄仁勋介绍，Holoscan是英伟达多年的研究成果，打造Holoscan需要充分运用Nvidia的所有技术，其中包括统一的计算框架，以及全新的超高速传感器处理机器人芯片Orin。

黄仁勋表示，基础Holoscan平台由Orin和Connect-7组成，Orin可以在单个芯片中处理整个机器人流水线，即传感器、物理、AI、成像和图形。据了解，Orin SOC在单个芯片上可提供 200 TOPs 的性能，共有 170 亿个晶体管，其性能大约是 NVIDIA Xavier SOC 的 7 倍。它共有 12 个 ARM Cortex-A78AE 内核以及 Ampere GPU 架构。

黄仁勋介绍，Holoscan是开放的平台，第三方用户可以在Holoscan的界面和API的基础上进行构建，例如，仪器制造商可以将Holoscan集成到他们的解决方案中。此外，Holoscan应用程序还可以完整部署在设备、数据中心等领域。