NVIDIA Jetson AGX Orin工业级模组为什么这么贵？有原因的

本文整理自NVIDIA讲座《Empower Your Industrial Edge AI applications with NVIDIA Jetson》

（不是完整的讲座，只是挑选了我们认为是重点的Slide进行整理）

让我们深入了解工业方面的事情。在认知环境方面有哪些挑战呢？工业应用需要考虑一些冲击因素。例如，系统可能会在一辆载货车上颠簸，经历一定程度的冲击。还有更大的振动要求。例如，拖拉机可能会行驶在崎岖的路面上，经历更多的振动。由于这些系统通常需要在各种气候条件下运行，所以还需要考虑在极端和恶劣的环境中的要求，从极寒到酷热，想象一下在一个炎热的农场上工作的拖拉机。通常还需要考虑操作寿命以及产品生命周期的要求，以及内存错误校正的要求。

一些典型的工业应用有哪些？包括了很多你在这里看到的内容。所以有工业制造，客户需要在他们的应用中更多的自主性，还有像农业应用，如收割和建筑，需要使机械能够承受重负荷，应对崎岖的地形，并持续运行，无论是在不同的温度下。农场需要能够在各种地形上收获成千上万英亩的庄稼，并携带肥料和除草剂喷雾器。建筑工地上有重型设备，必须在各种气候条件下运行。物流、航空和国防应用通常也需要承受很大的冲击、振动、温度，以及更长的操作寿命和产品生命周期。例如，太空应用需要具有辐射耐受性的系统，以及更多的记录型无人机，它们需要在恶劣环境中飞行时承受极端的冲击、碰撞和振动。铁路应用中，高速行驶的火车会产生振动，火车车轮与铁轨之间的相互作用还会导致额外的间歇性振动和冲击。运输公司使用喷气式飞机进行物体检测、事故预防和优化维护成本。石油、天然气、检测和矿业应用都具有与我们刚才讨论的类似的要求。例如，采矿卡车需要在开放式或极端环境中运行。总之，这些都是很多关键要求。

介绍一下我们的Jetson AGX Orin工业模块。这个模块现在已经上市，旨在将服务器级性能引入工业应用。它提供了高达248DL TOPS，这是因为工业模块利用了我们自己的架构。这带来了我们最新一代的Ampere GPU。工业模块配备了高达2048个CUDA 核心和64个Tensor核心，用于传感器融合聚合以及信号处理。除了最新的Ampere GPU，您还将获得性能更高、更节能的第三代Tensor核心。与以前的架构相比，我们还推出了新版本的深度学习加速器(DLA)，性能更高，旨在加速您的AI工作负载。除此之外，工业模块还利用了12个Arm Cortex-A78 CPU核心，以及64GB的内存和内置ECC内存。工业模块真正将服务器性能带到了边缘。工业模块不仅利用了Orin架构，还专门设计了特定的工业功能。这包括一些我们刚刚讨论的挑战解决方案。例如，机械冲击支持高达50G的操作冲击，以及高达5G的操作振动和-40°C到85°C的扩展工作温度。此外，工业模块还具有长达十年的扩展操作寿命，并添加了一些组件填充，以确保模块能够在更严苛的环境中运行，并能够承受更广泛的温度范围。最重要的是，工业模块与商业模块的引脚兼容度为100％，因此您可以设计一个载板来支持这两种模块。工业模块还支持所有启用的安全功能，这些功能通常在工业应用中是必需的，包括硬件信任根、安全引导硬件、加速的加密以及支持加密存储和内存。1000片的价格为2149美元每片。最重要的是，它真正为工业应用而设计。

以上为工规和商规的比较

以上为AGX Xavier工规和AGX Orin工规的对比

接下来说明如何在AGX Orin工规模组上进行软件开发。

Jetson Orin Industrial 上的软件堆栈支持各种安全功能，以保护您在现场部署的产品。

安全功能包括安全启动以加密和签署引导加载程序。我们还首次带来了 FTPM 支持信息。FTPM 可用于设备身份验证以及存储加密密钥和证书。我们还提供了支持Measured boot以确保平台完整性。支持安全存储还支持加密存储和加密内存。我们在jetson上提供opt作为可信执行环境，以确保完全隔离的执行以保护代码和数据。还有一个安全引擎，可以加速加密操作。您可以使用硬件熔断器控制不同的安全方面，例如配置安全启动密钥。我们还支持您可以启用的回滚保护，以杜绝不可靠的员工将您的堆栈回滚到之前的版本。通过这些安全功能，您可以完全保护您的平台，还可以实现边缘到云的安全。

让我们快速看一下今年的jetpack路线图。今年1月和3月发布jetpack 5.1和5.1.1。JetPack 5.1.2是JetPack 5的最后一个功能版本，也支持Jetson AGX Orin工业级模组，这个版本以后，JetPack5 将不会有新功能或计算跟踪更新。我们将把JetPack 5 过渡到维持模式，并将发布仅包含安全修复和关键错误修复的 Jet Pack 5 常规版本。从今年 10 月左右开始，我们将发布JetPack 6 的第一个版本，这将是新的功能分支，将支持Ubuntu 22.04。我们定期发布JetPack 6，并提供新功能和计算堆栈更新。这就是今年剩余时间的项目.

在我进入正常的人工智能用例之前，了解从开发到生产的一些关键挑战非常重要。正如人们经常断言的那样，将生产解决方案推向市场需要一个完整的生态系统。当我们处于人工智能之旅的早期阶段。面临的一个挑战是缺乏预先验证和兼容的工业网格相机、传感器、连接模块和软件堆栈。人们经常面临的另一个挑战是将模型从通用扩展到垂直特定和真正将它们优化为最佳性能。因此，迁移的时间和成本、艰难的设计和系统的旅程成为许多小型公司需要跨越的巨大障碍。

我将从建筑用例开始。Sodex Innovation 为建筑工地创建了突破性的数字记录解决方案，简化了确定和记录展示材料的任务。与现有方法不同，现有方法可能成本高昂且需要单独的工作流程。该技术可以可改装到任何化身，使其具有高度通用性。它利用先进的激光和摄像技术自动识别和捕获活性材料的图像，以及 3800 万个 GE 参考物质点。然后该数据被传输到云端，并在云端转换为全面的 3D 模型。该解决方案的好处包括准确记录和加速施工工作、简化建筑公司的流程、提高整个项目中客户的透明度，当然还可以减少现场访问和节省时间，从而降低成本。Jetsonpanter 表示，sysLogic 与 Sodex 合作，为解决方案提供可靠的设计和丰富的IO接口，以便他们能够专注于开发软件自技术和边缘到云工作流程。

Waytous 是采矿业领先的自主解决方案提供商。他们开发了一款强大的高性能域控制器，与四个雷达和一个摄像头连接，以提高矿用卡车的可靠性和安全性。该控制器配备了双 Nvidia Jetson Xavier 工业模块，用于自动驾驶，允许许多卡车在没有人工监督的情况下执行复杂的操作。在软件方面，服务员部署了用于物体检测的模型，并利用 3D 点云进行障碍物检测。该解决方案有效地提高了工人的安全并降低了高风险环境中发生伤亡事故的概率。NVDIA Jetson工业模型为其提供了卓越的性能、效率和可编程性，双Xavier设计确保了它们拥有足够的AI计算能力实现l四级自主采矿能力.

Vulcan 是下一代除草工具。它由农场创建，将尖端计算机视觉封装到轻量、开放式耕耘机框架中。围绕 NVIDIA Jetson Orin 进行设计。行走的大脑可以处理高质量图像，并为蔬菜提供可靠的杂草控制解决方案。在高速移动的同时。得益于 Jetson Partner 设计的高帧率摄像头、框架和视觉组件，步行可以看到每株植物五到二十次。这带来了更高的预测准确度和极高的刀片驱动精度。最终结果是农民看到了劳动并减少除草剂的使用

既然地球上部署了如此多的用例，那么将 Jason 发送到太空怎么样？由于极端的环境，这更具挑战性，但这绝对是可能的。我们只看到了 NASA 等航天机构以及许多商业公司的实施方案。我们从这些客户那里听到的一个常见反馈是，与传统 CPU 解决方案相比，价格低廉得多，并将上市时间从几年缩短到几个月。一个例子是 Orbital Sidekick，他操作具有高光谱图像有效载荷的卫星。高光谱数据对于化学指纹分析至关重要。例如冰毒、大豆和许多其他碳氢化合物。通过AGX Xavier工业模块结合特殊的传感器设计， Orbital Sidekick可以使用准备分析或算法处理空间中的所有传感器数据，例如匹配的未来分子吸收模型甚至您的网络模型。检测碳氢化合物泄漏、入侵、新的矿产勘探危险、废物监测甚至精确农业。Jetson GPU 加速使其成为航空航天应用技术民主化的领跑者。

另一个出色的太空应用是野火检测和监测。正如我们都听说的，野火已经成为像加利福尼亚、澳大利亚以及最近的加拿大等地区最常见的自然灾害，造成数百万美元的基础设施损坏和大量二氧化碳排放。Orora Tech是一家全球情报服务公司，利用热情报来促进地球的可持续发展。他们的产品野火解决方案，利用来自他们的Promory的高分辨率热数据，这是一种太空传感器系统，被全球信任以革命性地改进野火检测。由于计算能力，这一解决方案在轨道上处理数据，以便发送到地球的数据得到优化，只包括有用的图像，而不是返回原始信息。这提供了实时的警报和见解，以确保社区的安全，并保护我们最有价值的资产。