利用NVIDIA AI Enterprise IGX在边缘赋能任务关键型AI

 

NVIDIA SDK 在加速智慧城市、医疗和机器人等领域的 AI 应用方面发挥了重要作用。然而，要实现可在边缘部署的生产级 AI 解决方案来为人类与机器的协作提供安全可靠的支持，就需要同时具备针对企业需求量身定制的高质量硬件和软件。

NVIDIA 再次为边缘任务关键型 AI 应用加速。NVIDIA AI Enterprise IGX 是一款可在 NVIDIA IGX 平台上运行边缘 AI 的企业级软件解决方案。

NVIDIA IGX 为您的工业级硬件提供超快的 AI 性能和高吞吐量数据处理能力，同时还具备边缘所需的尺寸和功耗，以及强大的边缘安全性、远程易管理性和内置安全机制。

NVIDIA IGX 与 NVIDIA AI Enterprise 的集成使边缘 AI 更易于访问、更高效且更适合企业使用。

企业对边缘 AI 的需求

AI 堆栈由许多第三方应用和开源软件（OSS）组成并依赖于它们。鉴于其复杂性与日益增加的依赖性，维护 AI 软件堆栈的安全和稳定已成为一项艰巨的任务，这项资源密集型的任务阻碍了企业的 AI 创新步伐。

以下是一些需要考虑的因素：

稳定性和可靠性

安全性和威胁减轻措施

监管问题

稳定性和可靠性

了解软件包内的所有依赖关系对于保持 API 的稳定性来说至关重要。任何第三方和开放源码软件包的更改，都可能需要随后对 API 进行更改，而这可能会破坏堆栈。这种依赖关系网使企业几乎不可能在部署中实现最新开源版本的标准化。

安全性和威胁减轻措施

不断扩大的软件依赖性增加了引入软件漏洞的风险。这些漏洞可能导致后果严重的攻击，如数据泄露、服务中断和巨大的经济损失等。

2022 年报告的关键漏洞数量共计 4,135 个，较 2021 年增加了 59%。在延迟、隐私、带宽和监管要求方面具有更高标准的行业也不能幸免于难。根据《临床医生对医疗网络安全和网络威胁的看法》一文，2019 年有 24% 的网络攻击发生在医疗行业，2022 年，针对医院的网络攻击激增。

监管问题

许多受到高度管制的行业都对 AI 软件的维护制定了严格的规定。

例如，航空航天领域越来越多地将 AI 用于导航系统和飞行控制算法，通过严格的指导来保证持续的监控与更新，以保持系统的完整性和安全标准。

在医疗行业，AI 驱动的治疗和诊断工具同样必须遵守严格的维护协议，以保证医疗决策过程的准确性和可靠性。

NVIDIA AI Enterprise IGX

NVIDIA AI Enterprise IGX 是专为在 NVIDIA IGX Orin 平台上运行关键任务应用而打造的软件解决方案。

它为整个软件堆栈提供了无与伦比的性能、安全性、稳定性和支持，使企业不再需要为维护和保护复杂的 AI 软件平台而头疼，这不仅简化了 AI 赋能的运营，还让企业能够更加放心地大规模部署 AI 应用。

在 NVIDIA AI Enterprise 成功应用于数据中心和云的基础上，NVIDIA AI Enterprise IGX 的推出将这些优势扩展到了边缘。

作为一款工业级的高性能企业级边缘解决方案，NVIDIA AI Enterprise IGX 与 NVIDIA IGX 一起为各种固件、操作系统、驱动程序、AI 框架、SDK 和库提供全面的端到端软件支持。借助专为 NVIDIA IGX 打造的稳定软件分发，您就可以在关键用例所要求的更长时段内获得软硬件支持。除了能够从单一的来源获得支持外，您还能获得长期 API 稳定性和一致的软件物料清单（SBOM）。

加入企业支持的价值在于提供能够及时解决技术问题的方案，确保边缘 AI 系统的稳定性和可靠性，避免因停机而导致重大经济损失或运营中断。

图 1. NVIDIA AI Enterprise IGX 和 NVIDIA IGX 平台

NVIDIA AI Enterprise IGX 包含基本的 AI 库和 SDK，例如 NVIDIA TensorRT、TensorFlow、PyTorch、NVIDIA Triton 推理服务器、Holoscan 和企业 Ubuntu Linux 操作系统等。

此外还有两个附加选项：

Yocto：适用于部署 Yocto 的企业。

功能安全：在安全、人员和财产至关重要的领域（如工业制造），可确保系统能够利用主动和被动安全策略保护关键资产和人员生命安全。

NVIDIA AI Enterprise IGX 专门用于帮助企业在构建尖端技术的同时，降低总体拥有成本（TCO）、加快产品上市速度并全面提高产品开发效率。

它具有灵活的软件分支，可提供符合您行业需求和产品开发周期的选择：

生产分支：通过每月的安全更新确保 API 的稳定性。这些分支非常适合在需要稳定性的生产环境中部署 AI，每 6 个月发布一次，生命周期为 9 个月。

长期支持分支：通过每季度的安全更新来支持长期应用生命周期。这些分支最适合用于受到高度监管的 AI 应用，每两年半发布一次，生命周期长达 10 年。

在充满挑战且复杂的边缘 AI 开发过程中，该解决方案提供了一条行之有效的 AI 成功路径。

审核编辑：刘清