数据中心之外，为何还要发展边缘人工智能？

芝能智芯出品

人工智能（AI）已经成为几乎所有应用领域的关键技术，但随着其应用范围不断扩大，处理大量数据的需求也在不断增加。这种需求的变化促使人们将注意力从传统的数据中心转移到了边缘设备，以便更快地进行数据处理和实时决策。

Part 1

为什么要做边缘人工智能

边缘人工智能处理的主要优势之一是低延迟，在边缘设备上进行处理，可以更快地实现实时决策，从而提高了效率，并减少了因传输数据到远程数据中心而引起的延迟，边缘处理还有助于降低数据传输过程中可能发生的安全风险。

Part 2

开发方案的妥协和折衷

为了确保特定用途的定制功能，不会因面积扩大、功耗增加和设计复杂性提高而损害芯片的核心性能，必须进行精细的审查和判定。设计过程中应全面考虑多个关键因素，如供电需求、热管理限制、对训练与推理的支持需求、以及精确度标准等。鉴于边缘计算的使用场景和应用极其多样，对这些方面的考量需格外细致。在选择处理器架构和芯片设计方案时，必须在灵活性、性能和能效之间找到平衡点。随着技术进步，开发和部署针对人工智能边缘处理的方案也需不断追求创新和优化。

● 关注目标用例和功能定义：在边缘AI中设计的起点是关注目标用例并定义解决问题所需的功能。

● 严格审视功能增加的影响：在设计芯片时，必须严格审视添加功能的影响，过多的功能可能会增加面积、功耗和复杂性，从而损害芯片主要应用的性能。

● 权衡选择：需要在数据处理量和类型、供电方式、热限制、训练和推理需求、准确性要求等方面做出一系列权衡选择，以达到合适的性能、功耗和面积。

人工智能技术的快速变化意味着设计中需要内置灵活性，以便在面对功耗、性能和成本之间的权衡时做出调整。在硬件选择方面，需要权衡通用产品（如CPU）和固定功能的硬件加速器之间的优劣，并根据市场成熟度和需求做出适当的选择。

模拟神经网络等新颖方法在人工智能加速器和处理器中具有潜力，在边缘端进行部署仍面临诸多挑战。在实际应用中，将在云中训练的网络转移到边缘设备上面临很多困难。这是因为边缘设备所处理的数据通常是整数格式，而不是浮点数。要将训练好的网络适应边缘设备，需要将其转换为整数格式，这需要一些手动调整。这也意味着模拟神经网络在部署时可能只能处理特定的功能，而不是多个不同的数字网络模型。

目前在使用模拟人工智能芯片方面还处于起步阶段，面临着许多软件和性能方面的挑战。虽然模拟技术有潜力，但在实际应用中仍需要更多的研究和发展。

小结

未来，对于边缘人工智能处理器的设计和优化将需要更深入的基础知识和技术创新。定制数字芯片仍然是实现最佳性能和功耗效率的最佳选择之一，但需要权衡设计成本和收益。随着技术的进步，还需要不断探索新的架构和算法，以满足不断变化的市场需求和应用场景。

‍