借助NVIDIA技术构建实时视觉检测工作流

构建一套可靠的视觉检测流程来实现缺陷检测和质量控制面临诸多挑战，例如针对特定领域定制通用视觉 AI 模型、在算力受限的边缘设备上优化模型规模，以及高效实时部署以实现最大的推理吞吐量。

NVIDIA Metropolis 是一个面向视觉 AI 智能体与应用的开发平台，旨在帮助解决上述挑战。NVIDIA Metropolis 提供了一个统一的框架，包含用于训练和优化视觉 AI 基础模型的 NVIDIA TAO 6，以及端到端流分析工具套件 NVIDIA DeepStream 8。

DeepStream 8.0 为开发者提供推理构建器等强大工具，简化工作流的创建，并提升复杂环境中的跟踪准确性。TAO 6 通过领域适应性、自监督微调和知识蒸馏，充分释放基础模型的潜力。借助 NVIDIA DeepStream 和 NVIDIA TAO，开发者正在推动视觉 AI 从快速原型设计到大规模部署的演进。

本文将为您介绍如何利用 NVIDIA TAO 和 NVIDIA DeepStream 构建端到端的实时视觉检测工作流，具体步骤如下：

使用 TAO 进行自监督式微调，实现对领域特定未标注数据的高效利用；

使用 TAO 知识蒸馏优化基础模型，以提高吞吐量和效率；

使用 DeepStream Inference Builder 进行部署。

利用 NVIDIA TAO 规模化开发基于视觉基础模型的自定义模型：

NVIDIA TAO 支持端到端工作流程，可用于训练、调整和优化面向特定领域用例的大型视觉基础模型。该框架可依托微调微服务对视觉基础模型进行自定义，助力实现高精度和高性能。

使用 NVIDIA TAO 创建高精度、定制化的企业可直接使用的 AI 模型，为视觉 AI 应用提供支持

TAO 提供一系列强大的基础骨干和任务头，可针对工业视觉检测等关键工作负载对模型进行微调。在 TAO 6 中，两个关键的基础骨干是 C-RADIOv2（开箱即用，精度领先）和 NV-DINOv2。TAO 同样支持第三方模型，前提是其视觉骨干和任务头架构与 TAO 兼容。

为提高模型准确性，TAO 支持多种模型自定义技术，例如监督式微调（SFT）和自监督式学习（SSL）。其次，利用 NVIDIA TAO 6，用户可以利用自监督学习技术，充分发掘未标记图像的巨大潜力，从而在标记数据稀缺或采集成本高昂的情况下加速模型定制流程。

在实际场景中，此工作流意味着模型能够从大量未标记图像中学习缺陷的细微特征，再通过有针对性的监督式微调来优化决策能力，即使在自定义的真实数据集上也能实现卓越的性能。

优化视觉基础模型以提高吞吐量：

NVIDIA TAO 利用从大型基础模型中获得的知识，通过“知识蒸馏”（Knowledge Distillation）技术，将其优化为更小的模型尺寸。知识蒸馏通常能够在不牺牲准确性的前提下，将大型、高精度的教师模型压缩为更小、更高效的学生模型。该过程的核心在于引导学生模型不仅模仿教师模型的最终预测，同时要学习其内部特征表示和决策边界，从而在资源受限的硬件上实现实际部署，并支持可扩展的模型优化。

NVIDIA TAO 进一步拓展了知识蒸馏的能力，能够稳定支持多种蒸馏形式，包括骨干、logit 以及空间或特征蒸馏。TAO 的一项显著特性是其专为物体检测设计的单级蒸馏方法。借助这一简化流程，通常更小且更高效的学生模型能够在统一的训练阶段，直接从教师模型学习骨干特征表示以及任务特定的预测结果。这种方法在不牺牲精度的前提下，显著降低了推理延迟和模型尺寸。

使用 DeepStream 8 Inference Builder 打包和部署模型：

全新的 NVIDIA DeepStream 8 Inference Builder 是一款低代码工具，可将模型设想快速转化为独立应用或可部署的微服务。

Inference Builder 的设计目标是根据用户提供的模型和配置文件，自动生成推理服务代码、API 层以及部署所需的构件。通过简单的配置，即可处理与服务器、请求处理和数据流相关的复杂任务，而无需手动编写大量重复性代码。