NVIDIA DeepStream傻瓜教程

作者：Pedro Azevedo

编译：ronghuaiyang

导读

NVIDIA DeepStream SDK的简单介绍。

DeepStream 将深度神经网络和其他复杂的处理任务引入到流处理管道中。这使得对视频和其他传感器数据的近乎实时的分析成为可能。

例如，摄像头是目前使用最多的物联网传感器；在我们的家中、街道、停车场、购物中心、仓库、工厂中都可以找到摄像头，它们无处不在。视频分析的潜在用途是巨大的：交通控制/工程、自动结账、医疗保健、工业自动化、通信等。

DeepStream是一组连接起来形成处理管道的模块化插件。每个插件代表一个功能块。将它们想象成从相机到模型推理的乐高模块。

这些功能块的示例包括多流批处理、使用 TensorRT 的推理和解码。

DeepStream SDK 加速可扩展应用程序的开发，使开发人员更容易构建核心深度学习网络，而不是从头开始设计端到端应用程序。该 SDK 是一个可扩展的硬件加速插件集合，可与低级库交互以优化性能。

作为一个额外的好处，DeepStream SDK 附带了集成的目标跟踪库。这些跟踪器与 NVIDIA 的 DeepStream 兼容。这带来了许多优势，因为这意味着它们经过优化以在考虑推理速度和准确性的情况下在 DeepStream 管道上工作；作为一个额外的好处，它使不同跟踪器与不同检测器的集成变得更加容易。

这使得从相机到模型推理的所有管道都得到了极大的优化。使其对多相机应用程序非常有用。

除了这个 DeepStream SDK 还附带 TAO Toolkit

TAO Toolkit

NVIDIA TAO 工具包是 NVIDIA TAO 基于 CLI 和 Jupyter notebook 的解决方案，它抽象出 AI/深度学习框架的复杂性，允许对高质量的 NVIDIA 预训练 AI 模型进行微调，与 从头开始训练相比只需要一小部分数据。

DeepStream In Python

DeepStream SDK 与多个 C/C++ 示例应用程序以及预训练模型、示例配置文件和示例视频流打包在一起。Python 绑定和等效示例应用程序可以从 https://github.com/NVIDIA-AI-IOT/deepstream_python_apps 单独安装。

DeepStream的优势体现在以下方案中：