人人都能看懂的边缘AI科普

你的智能手机和其他智能设备（比如家里的智能恒温器）每天都在产生大量的数据。如果所有这些数据都要发送到遥远的云端服务器去处理，那不仅会很慢，还可能会泄露你的隐私。边缘智能就是解决这个问题的。它允许你的设备在靠近你的地方（也就是网络的“边缘”）进行智能处理，这样就能快速、安全地处理数据。

随着深度学习的发展，AI应用和服务迅速增长，如个人助理、推荐系统和监控。移动计算和物联网（IoT）设备数量激增，产生大量数据，需要在网络边缘进行智能处理。边缘计算将计算任务从网络中心推向边缘，与AI结合形成边缘智能，以充分利用边缘大数据的潜力。

边缘智能（EI）结合了人工智能和边缘计算，使得智能分析更加接近数据源，提高了效率和隐私保护。边缘计算是一种分布式计算模式，它允许数据在靠近数据源或用户的地方（工业物联网的设备、交通信号灯、路边摄像头、智能家居等边缘设备）进行处理和分析，而不是将所有数据传输到远程的数据中心。这种方法可以减少延迟、提高数据处理效率，并增强数据的安全性和隐私保护。

边缘智能可以分为六个等级，从完全在云端训练和推理到完全在设备上处理。

云智能：完全在云中训练和推断DNN模型（深度神经网络，Deep Neural Networks）。

第1级 - 云边缘协作和云训练：在云中训练DNN模型，但以边缘云协作方式推断DNN模型

第2级 - 边缘协同和云训练：在云中训练DNN模型，但以边缘方式推断DNN模型

第3级 - 设备上的推断和云训练：在云中训练DNN模型，但以完全本地的设备上方式推断DNN模型

第4级 - 云边缘协作和推理：以边缘云协作方式对DNN模型进行训练和推理

第5级 - 所有边缘：以边缘方式训练和推论DNN模型

第6级 - 所有设备上：都以设备上方式训练和推论DNN模型

分布式训练、联邦学习、梯度压缩等技术会应用在EI模型训练中。

在边缘设备上进行深度学习模型的训练，有三种主要的架构模式：集中式、去中心化和混合模式。

几个重要的指标，比如训练损失、收敛性、隐私保护、通信成本、延迟和能效。

为了提高训练效率，可以采用了邦学习、梯度压缩等技术。

现有的系统和框架，如FedAvg、SSGD、Zoo等，都在不同程度上优化了EI模型的训练。

在边缘设备上进行深度学习模型的推理，有四种主要的架构模式：基于边缘、基于设备、边缘-设备和边缘-云端。

几个重要的指标，比如延迟、准确性、能量消耗、隐私保护和通信开销。

为了提高推理效率，可以采用了模型压缩、模型分区、模型早退出等技术。

现有的系统和框架，如VideoEdge、Chameleon、DeepX等，都在不同程度上优化了EI模型的推理。

未来，我们需要更好的编程平台和软件工具来支持边缘智能服务。

我们需要设计更加高效的AI模型，使其能够在资源有限的环境中运行。

网络技术需要更加智能，以便更好地支持分布式AI应用。

我们需要找到最佳的模型性能指标权衡，以提高AI应用的效率和准确性。

服务和资源的管理需要更加智能化，以适应动态变化的需求。

安全和隐私是边缘智能应用中的重要问题，我们需要找到更好的解决方案。

为了促进边缘智能的发展，我们需要设计合理的激励机制和商业模型。

本文总结自文章《Edge_Intelligence_Paving_the_Last_Mile_of_Artificial_Intelligence_With_Edge_Computing》