前往小程序,Get更优阅读体验!
立即前往
发布
社区首页 >专栏 >今日起,NVIDIA Jetson Orin NANO和Orin NX模组也可以升级成Super模式

今日起,NVIDIA Jetson Orin NANO和Orin NX模组也可以升级成Super模式

作者头像
GPUS Lady
发布2025-01-19 18:39:44
发布2025-01-19 18:39:44
58500
代码可运行
举报
文章被收录于专栏:GPUS开发者GPUS开发者
运行总次数:0
代码可运行

昨晚,NVIDIA在其论坛上公布了JetPack 6.2版本,意味着NVIDIA Jetson Orin NANO和Orin NX模组也可以升级成Super模式

JetPack 6.2集成了Jetson Linux 36.4.3版本,该版本基于Linux Kernel 5.15和Ubuntu 22.04的根文件系统。此次更新为NVIDIA Jetson Orin Nano和Jetson Orin NX模组引入了超级模式(Super Mode),极大地提升了AI性能。

在超级模式下,Jetson Orin NX系列模组的AI TOPS(每秒万亿次操作数)性能提升了高达70%,而Jetson Orin Nano系列模组也实现了可比的AI TOPS性能提升,并且内存带宽增加了50%。这些性能改进使得Jetson Orin模组在生成式AI推理方面的性能提升了高达两倍。

JetPack 6.2亮点:

  • 支持Jetson Orin Nano和Jetson Orin NX生产模块的新参考电源模式,实现高达两倍的生成式AI性能(需使用新的刷机配置)。
    • NVIDIA Jetson Orin Nano 4GB:现支持10W、25W和MAXN SUPER模式。
    • NVIDIA Jetson Orin Nano 8GB:现支持15W、25W和MAXN SUPER模式。
    • NVIDIA Jetson Orin NX 8GB:现支持10W、15W、20W、40W和MAXN模式。
    • NVIDIA Jetson Orin NX 16GB:现支持10W、15W、25W、40W和MAXN模式。
  • 修复了CVE漏洞和一些小错误。

注意事项:

  1. MAXN SUPER是一种无限制电源模式,允许CPU、GPU、DLA、PVA和SOC引擎使用最多数量的核心和最高时钟频率。如果模组总功率超过热设计功率(TDP)预算,在这些模式下,模组将降低频率以维持热预算,从而导致性能下降。强烈建议用户根据自己的应用和需求,创建自定义电源模式以在功耗(或热稳定性)和性能之间找到最佳平衡。
  2. Jetson Orin NX模组不应与Jetson Orin Nano开发者套件一起使用超级模式,因为该套件未设计为满足此配置的热要求。

在JetPack 6.2上安装和启用超级模式:

您可以通过以下任何一种方法安装JetPack 6.2:

  • SDK Manager:您可以使用SDK Manager进行JetPack 6.2的全新安装。请注意,SDK Manager仅支持Jetson Orin Nano开发者套件的默认超级模式闪存配置。
  • SD卡:如果您使用的是Jetson Orin Nano开发者套件,请按照以下说明操作:

-对于当前运行JetPack 6.x的Jetson Orin Nano开发者套件:您可以从JetPack SDK页面下载SD卡映像,并使用Balena Etcher准备JetPack 6.2的SD卡。请遵循《入门指南》中的说明。

-对于其他Jetson Orin Nano开发者套件(全新未拆封单元或当前运行JetPack 5.x的现有单元):Jetson Orin开发者套件上的工厂安装固件支持JetPack 5.x,需要更新以确保与JetPack 6.x兼容。请按照《Jetson Orin Nano开发者套件初始设置指南》中的说明更新固件,然后再安装JetPack 6.2。

  • Debian软件包:如果您已在Jetson AGX Orin开发者套件或Jetson Orin Nano开发者套件上安装了JetPack 6,可以使用APT升级到JetPack 6.2。请参阅《NVIDIA JetPack SDK开发者指南》中的升级步骤。通过此方法从JetPack 6.0/6.1升级到JetPack 6.2不会启用超级模式,因为源构建不支持超级模式。从支持超级模式的JetPack 6.1 Rev1升级到JetPack 6.2将在Jetson Orin Nano开发者套件上启用超级模式。
  • 手动刷机:如果您更喜欢使用命令行进行安装,可以在Linux主机上通过以下步骤刷Jetson设备。刷Jetson Linux后,您可以使用SDK Manager(在Linux主机上)或通过在Jetson上运行“sudo apt update”后跟“sudo apt install nvidia-jetpack”来安装计算堆栈。
  • 新的电源模式仅在使用新的刷机配置时可用。请注意,默认刷机配置未更改,因此用户需要在刷机时使用新的刷机配置以启用新的电源模式。要使用的新的刷机配置如下:jetson-orin-nano-devkit-super.conf。

刷机或更新到JetPack 6.2后,运行以下命令以启动新可用的“超级”电源模式:

-在Jetson Orin Nano模组上启用MAXN SUPER模式:

代码语言:javascript
代码运行次数:0
复制
sudo nvpmodel -m 2

-在Jetson Orin NX模组上启用MAXN SUPER模式:

代码语言:javascript
代码运行次数:0
复制
sudo nvpmodel -m 0

您还可以从GUI右上角的电源模式菜单中选择MAXN SUPER和其他电源模式。

JetPack 6.2组件:

  • Jetson Linux 36.4.3
  • CUDA 12.6
  • TensorRT 10.3
  • cuDNN 9.3
  • VPI 3.2
  • DLA 3.1
  • DLFW 24.0
  • Vulkan 1.3
  • Nsight Systems v2024.5
  • Nsight Graphics v2024.2
  • Nsight Compute v2023.2(作为CUDA Toolkit的一部分)

SDK支持:

  • DeepStream 7.1
  • Isaac ROS 3.2(将于2025年1月推出)
  • Holoscan 2.9(将于2025年1月推出)

容器:JetPack 6.2的容器即将提供。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2025-01-17,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 GPUS开发者 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档