首款面向边缘设备的AI平台Nvidia EGX发布!将 AI 带到网络的边缘

英伟达最新发布首款面向边缘设备的AI平台Nvidia EGX，将 AI 带到了网络的边缘。该平台可以实时感知、理解和处理数据，而无需先将数据发送到云端或数据中心。

在今天台北电脑展 COMPUTEX 2019上，英伟达带来了一项重大发布：推出首款面向边缘设备的AI平台Nvidia EGX。

此外，发布会还公布了另几项好消息，包括将最先进的 RTX  GPU 带到了笔记本电脑上，免费提供带有实时光线追踪的体验版游戏等。

新的 Nvidia EGX 平台，将 AI 带到了网络的边缘。该平台可以实时感知、理解和处理数据，而无需先将数据发送到云端或数据中心。

将 AI 应用到智能手机、传感器和工厂机器等边缘设备上，是 AI 技术发展的下一步。最早的 AI 算法非常复杂，只能在运行在云端数据中心的强大机器上处理，这意味着要通过网络发送大量信息。但这是不可取的，因为这样做需要大量带宽，并且会导致更高的延迟，使得 “实时” 非常难。

“在 [物联网] 传感器的增长推动下，计算行业发生了巨大的变化，” 英伟达企业与边缘计算高级主管 Justin Boitano 在新闻发布会上表示。“有用于观察世界的摄像头，用于聆听世界的麦克风，还有一些设备可以让机器探测到现实世界正在发生什么。”

这些都意味着需要分析的原始数据量正在呈指数增长。

“我们很快就会到达一个交叉点，在这个交叉点，边缘的计算能力比数据中心更强，”Boitano 说。

企业真正想要的是让 AI 在数据产生的地方执行，无论是在制造设施、零售店还是仓库。领先的科技公司一直试图解决的问题，包括最近英特尔也推出了其首款面向边缘计算的10 纳米 “Ice Lake” 芯片，此外，许多初创公司也推出了这类芯片。

但英伟达进军 AI 领域的举动引人注目，因为英伟达的 GPU 被广泛认为是最好的 AI 处理硬件之一。其中包括用于深度学习的 Tesla V100，以及能够实时进行光线追踪的Quadro GV100。

英伟达边缘AI平台三大特性

新的 NVIDIA EGX 平台专为边缘新型的高吞吐量 AI 应用而设计，其中数据来源可实现即时或保证响应时间，同时减少云带宽。

EGX 平台是可扩展的。可以从基于 Jetson Nano 处理器的轻型服务器扩展到基于 NVIDIA T4 的边缘服务器的微型数据中心，前者每秒可执行 0.5 万亿次操作，仅需几瓦特；后者每秒可执行 10,000 万亿次操作。芯片的节能能力对 AI 来说非常重要，因为传统硬件在运行这类任务时耗电量巨大。

Justin Boitano 表示，到 2025 年，全球将有约 1500 亿台机器传感器和 “物联网” 设备，因此对 NGX 这样的平台的需求将是巨大的。他说，其中许多传感器将用于 “智能城市” 等项目，并将输出需要在现场处理的数据，原因包括需要更低的延迟、实时响应、数据主权规则或隐私方面的担忧。

“无论是视觉方面还是在语言方面上，AI 确实是所有行业的杀手级应用，”Boitano 说。

如果人们真的想要充分利用这些芯片，那么合作关系也很重要。出于这个原因，Nvidia正在将运行在 EGX 上的 Nvidia Edge Stack 软件与 Red Hat 公司的 OpenShift Kubernetes 容器编排平台相整合，以使其与现代软件应用程序兼容。

该平台还集成了来自 Mellanox technologies Ltd. 的安全、存储和网络技术。英伟达计划在年底前以 69 亿美元的价格收购这家公司。

总结而言，NVIDIA EGX 具有以下特性：

高性能和可扩展

EGX 从小型的 NVIDIA®Jetson Nano™开始，几瓦的功率就可以提供每秒 0.5 万亿次(TOPS) 的处理操作，用于图像识别等任务。此外，EGX 可扩展到所有的 NVIDIA T4 服务器，提供超过 10,000 TOPS，可以为数百名用户提供实时语音识别和其他复杂的 AI体验。

混合云和多云物联网

NVIDIA EGX 在架构上与主要云提供的 NVIDIA AI 计算兼容。在云上开发的 AI 应用可以运行在 NVIDIA EGX 上，反之亦然。NVIDIA Edge Stack 连接主要的云物联网服务，客户可以通过 AWS IoT Greengrass 和微软的 Azure IoT Edge 远程管理他们的服务。

企业级和安全性

NVIDIA Edge Stack 在领先的企业级 Kubernetes 容器编排平台 Red Hat OpenShift 上进行了优化。Mellanox Smart NIC 可以卸载和加速软件定义的网络，从而在不影响CPU 性能的情况下实现更高级别的隔离和安全性。

Mellanox 的首席技术官 Michael Kagan 说：“Mellanox Smart NIC 和交换机为从边缘到超大规模数据中心的数据访问提供了理想的 I/O 连接。”

NGX 还与运行在主要云基础设施服务 (如 AWS 和 Microsoft Azure) 上的 AI 应用程序兼容，并可以连接到物联网服务，如 AWS Greengrass 和 Azure IoT Edge 等。

笔记本电脑也可以用英伟达最先进的专业级GPU

作为 Computex 2019 新闻发布会的一部分，英伟达宣布了全新的 “笔记本电脑品牌认证推广计划”，即 Nvidia RTX Studio 。

首款支持的是 Quadro RTX 5000，与台式机版本相同，有 3072 颗 CUDA 核心、48 颗RT 核心、384 颗 Tensor 核心和 16GB GDDR6 RAM，专为那些从事大量图形或视频工作的专业人士而设计。

首批共有 7 家合作伙伴公司 (华硕，戴尔，惠普，微星，雷蛇，技嘉和宏碁) 的一共 17 款笔记本电脑由，这些笔记本电脑将搭载新的 Quadro GPU，都以 “RTX Studio” 的名称命名。

用英伟达 GeForce 软件与技术总经理 Jason Paul 的话说，这些笔记本将能够 “随时随地” 提供 “桌面级性能”。英伟达还宣称这些笔记本的运行速度比同等级的 MacBook Pro 快 7 倍，配备 32GB RAM 和 AMD 的 Pro Vega 20 GPU。

One More Thing：快来玩带光线追踪的《雷神之锤 2》

在今年 GDC 上，英伟达展示了实时光线追踪加强版的《雷神之锤 2》demo，新技术加持后的老游戏魅力大放异彩，收获了非常多的关注。

今天在 Computex 上，英伟达宣布将从 6 月 6 日起免费向玩家提供《雷神之锤 2 RTX》的体验版本，大家可以亲身体验堪称游戏革命的实时光线追踪技术了！

据介绍，这个体验版总共只有三关，之后可以通过 NVIDIA 官网或 Steam 下载。NVIDIA 内部的 Lightspeed Studios 为游戏加入了更真实的光影效果，比如即时光线、间接照明、水面反光等视觉元素在作品中都可以找到。