前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >NVIDIA Deepstream 7.0发布:太多新功能,Windows用户也能用了!

NVIDIA Deepstream 7.0发布:太多新功能,Windows用户也能用了!

作者头像
GPUS Lady
发布2024-05-17 14:18:44
2330
发布2024-05-17 14:18:44
举报
文章被收录于专栏:GPUS开发者GPUS开发者

NVIDIA正式发布Deepstream 7.0。

做AI视频分析的开发者们很熟悉NVIDIA DeepStream,这是一个强大的软件开发工具包(SDK),能帮助我们利用NVIDIA GPU的加速能力,来构建完整的视觉人工智能(AI)处理流程。这个工具包里有40多个现成的插件,可以帮助我们快速部署优化后的处理流程,这些流程具备先进的AI推理功能、对象跟踪功能,并且可以与REDIS、Kafka和MQTT等流行的物联网消息传递系统进行无缝连接。

DeepStream 还提供了一个直观的REST API,无论你的AI处理流程是部署在远离中心的地方还是云端,都可以通过这个API进行控制。

最新推出的DeepStream 7.0有飞跃式的更新,为应对生成式AI的新时代提供了许多突破性的功能,并加速了新一代应用程序的开发。

新版本DeepStream 7.0的亮点有:

  • 通过Python API,开发者可以使用新的DeepStream库,这为开发提供了新的路径。
  • 新的Service Maker功能让应用程序的开发变得更加简单。
  • 单视图3D跟踪器的功能得到了增强。
  • 现在支持使用DeepStream 3D框架的传感器融合模型BEVFusion。
  • 增加了对适用于Linux的Windows子系统(WSL2)的支持。
  • PipeTuner工具可以简化AI处理流程的优化过程。

DeepStream 7.0:优化视觉AI应用性能的新选择

在构建视觉AI应用时,NVIDIA要先优化AI的处理流程,以达到最佳性能。不论你是经验丰富的专家还是新手,了解整体策略都很重要。

简单来说,你有两种主要的选择:

  • 使用现成的框架,例如GStreamer。
  • 使用功能API,这种API可以加速你自己框架中的关键部分。每个插件都把自己的核心功能装在一个库里,我们可以通过一个明确定义的接口来访问它,这个接口符合GStreamer的插件规范。

如图:视觉 AI 应用工作流

这种方法的好处是,它能确保GStreamer生态系统中的各个部分都能很好地兼容和集成。DeepStream在处理流程中的各个插件之间实现了零内存复制,从而达到了很高的性能。

如图:DeepStream 插件高级架构

随着DeepStream 7.0的推出,NVIDIA为开发者提供了新的方式,既可以继续使用GStreamer的强大功能,也可以通过直观的Python API来使用DeepStream库的功能。这种方法不仅让Python开发者更容易使用NVIDIA的加速功能,而且还能与你现有的AI框架无缝集成。DeepStream库由NVIDIA CV-CUDA、NvImageCodec和PyNvVideoCodec支持,提供了一系列低级别的GPU加速操作,可以轻松地替代视觉AI处理流程中前处理和后处理阶段的CPU操作。

如图:DeepStream 库

作为开源库,它们提供了完全的透明度和必要的工具,让库之间可以零内存复制交互,并且可以与流行的深度学习框架相结合。安装命令可以简化集成过程。

DeepStream 7.0现在支持的两种方式各有优点:

  • 易于学习和集成:DeepStream库简化了学习过程,使你能够快速集成Python API,并立即看到GPU加速的效果。一个典型的例子是与DeepStream库的编解码器集成,只需几行代码就可以看到图像或视频帧的加速解码/编码效果。
  • 开箱即用的解决方案:如果你没有现有的处理流程框架,或者想从头开始,那么成熟的DeepStream插件与GStreamer框架的结合为你提供了一条快速进入市场的途径。这些插件具有内置的零内存复制和复杂的资源管理功能,非常适合高效的应用程序开发。未来,NVIDIA计划不断扩大支持的DeepStream库范围,以丰富每个新版本的开发者体验。

DeepStream Service Maker:让应用开发变得简单直观

DeepStream Service Maker是NVIDIA DeepStream技术套件中的一个创新功能,主要为简化应用程序的开发过程。对于初次接触GStreamer的开发人员,其学习曲线可能会比较陡峭,但DeepStream Service Maker的推出为他们带来了福音。

这个功能能够降低GStreamer的复杂性,使得开发过程更加简化,让开发者能够更快速地构建C++面向对象的应用程序。使用DeepStream Service Maker,开发者可以在很短的时间内构建管道、集成必要的插件、将它们连接起来并启动应用程序。这些应用程序可以轻松打包到容器中,并通过REST API进行管理,从而极大地简化了工作流程,并大幅减少了传统的编码工作量。

这个功能还特别适合不熟悉GStreamer的用户,使他们的开发过程更加直观。同时,对于有经验的开发者来说,它也能解锁新的功能。此外,它还支持自定义插件,这对那些花时间创建自定义解决方案的开发者来说非常重要。

DeepStream Service Maker改变了处理和管理应用程序开发的方式,将复杂的编码需求简化为几行代码,使得开发过程比以往任何时候都更容易、更便捷。这个功能还能加速边缘环境的应用程序开发,是开发Metropolis Microservices for Jetson(MMJ)微服务的理想选择。它还可以轻松部署为云上的微服务,并可通过REST API进行控制。使用这个功能生成的应用程序可以轻松打包到容器中,并通过直观的REST API(如流添加和删除以及感兴趣区域ROI配置)进行管理和动态控制。目前,DeepStream Service Maker的首个版本支持C++,而未来的版本将提供Python支持,这将进一步扩大该工具的可访问性和功能多样性。

DeepStream与WSL2的完美结合:直接在Windows上开发AI应用

如今,Windows用户有个好消息:您可以直接在Windows系统上,利用适用于Linux的Windows子系统(WSL2)来开发DeepStream应用程序了。这是很多希望在Windows这一IT认可的系统上进行开发的客户长期以来的需求,现在终于实现了。

WSL2与DeepStream的结合,让您无需远程登录Linux系统,就能在同一个系统上简化工作流程。这意味着,您可以使用DeepStream的强大功能,而无需设置复杂的双系统,从而让开发过程更加简洁,并提升您的工作效率。

如图:基于 WSL2 体系结构的 DeepStream SDK

WSL2对DeepStream的支持为用户提供了在Windows上直接开发高级应用程序的灵活性和方便性。现在,您既可以享受到Windows的兼容性便利,又能利用DeepStream的强大功能。

关于Deepstream最新文档,请访问:

docs.nvidia.com/metropolis/deepstream/dev-guide/

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2024-05-17,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 GPUS开发者 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
容器服务
腾讯云容器服务(Tencent Kubernetes Engine, TKE)基于原生 kubernetes 提供以容器为核心的、高度可扩展的高性能容器管理服务,覆盖 Serverless、边缘计算、分布式云等多种业务部署场景,业内首创单个集群兼容多种计算节点的容器资源管理模式。同时产品作为云原生 Finops 领先布道者,主导开源项目Crane,全面助力客户实现资源优化、成本控制。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档