对于技术领导者、工程师和决策者来说，这既是巨大的挑战，也是充满希望的机遇。要对能够充分释放AI在工业边缘的潜力的使能技术进行明智投资，驾驭这些复杂性至关重要。
将AI用于本地边缘计算
AI在边缘的实际应用既取决于推理模型的有效性，也取决于推理模型在每个用例中的有效位置。在许多情况下，用例需要在边缘计算设备上建立推理模型的本地实例，该实例可以实时响应，而不是将请求发送到云或中央服务器。根据给定应用程序和推理模型的具体情况，硬件的选择将属于以下选项之一：
· 图形处理单元（GPU）：以并行处理而闻名，擅长处理大型 AI 工作负载，例如训练复杂的神经网络。它们对于需要大量矩阵计算的任务（例如图像和视频处理）非常高效。但是，对于边缘部署，GPU可能非常耗电且成本高昂。
· 神经处理单元（NPU）：专为 AI 任务而设计，为边缘推理提供出色的性能，在低功耗嵌入式环境中提供高效率。虽然NPU非常适合特定的AI任务，但通常不太灵活，不适合通用处理。
· 中央处理器（CPU）：用途广泛且使用广泛，可处理各种任务，包括更简单的AI计算，并且有利于不需要大量处理的应用程序。尽管历史上CPU缺乏处理高强度人工智能工作负载所需的并行化和效率，但CPU制造商已经在通过引入具有不同级别NPU和GPU集成的新产品来应对这一挑战。
图 1：带有 NPU 或 AI 加速器的宽温度等级 IPC 是在恶劣环境中实现 AI 的可扩展选项。图片来源：Moxa
使用AI进行基于视频的泄漏检测
AI 在工业边缘的一个有前途的应用是泄漏检测。借助可以从实时视频片段中快速识别潜在气体泄漏的推理模型，制造企业有可能在数百个站点实现连续且经济高效的实时泄漏检测。
但是，如果该模型依赖于功能强大的计算机和GPU，则可能很难找到合适的硬件来在远程和恶劣环境中可靠地运行该模型。如果现有网络架构无法处理带宽或延迟要求，那么依靠位于中央的服务器来托管推理模型也可能极具挑战性。
关于推理模型的具体情况，在部署AI驱动的泄漏检测解决方案时，也可能对投资类型和工程工作量产生重大影响。例如，如果使用Nvidia GPU在内部开发了推理模型，那么选择可能是投资于必要的计算机硬件的外壳和冷却装置，或者等待制造商提供更强大、更坚固的计算模型。如果推理模型与平台无关，那么其他选项也可能出现，例如使用节能的NPU或AI加速器，以优化特定人工智能计算任务的性能。
这些架构上的考虑在其他涉及实时分析大量数据流的用例中也能看到，例如由LiDAR传感器生成的3D点云。每个用例可能还有其特定的其他考虑因素，例如推理模型的有效性和成熟度。
利用AI进行预测性维护
与视频分析等计算密集型实时应用程序相比，预测性维护应用程序可能更容易利用增量投资和现有架构来利用AI。至关重要的是，通过可编程逻辑控制器（PLC）和工业物联网平台收集有价值数据的系统可能已经到位，这些系统可以利用人工智能支持预测性维护平台。由于预测性维护并不依赖于对海量数据的即时实时分析，因此推理模型可以驻留在中央服务器或云服务器上，而边缘设备只需负责轻松、经济高效地收集设备数据即可。
图 2：用于预测性维护的高效ML模型可能能够在低功耗 ARM 计算机上运行，而无需 NPU 或 GPU。图片来源：Moxa
在预测性维护方面，边缘设备也可以在本地运行推理模型，而无需GPU或NPU等特殊硬件。高度优化的预测模型可以在轻型、低功耗处理器上运行，例如基于Arm的系统。对于许多客户来说，这也是一个自然的进步，他们利用工业物联网获得了设备和流程的实时可见性，从而发现了利用这些数据实现更高效运营和维护的价值。
边缘计算的监管和注意事项
围绕AI的监管环境为边缘工业应用带来了挑战和增长机会。例如，排放报告法规可能会推动对基于AI的泄漏检测解决方案的需求，这些解决方案利用边缘处理，以传统系统的一小部分成本进行全面监测。同样，关于管理或减少能源使用的法规可能会为 AI 应用程序打开大门，这些应用程序可以快速查明能源浪费区域并优化运营。
然而，监管也可能为AI解决方案制造障碍，或改变其经济性。例如，如果某些技术出现新的分类，这可能会改变人工智能工具的应用方式，无论是通过施加额外限制、强制特定合规措施，还是改变人工智能技术进出口的激励政策。
人工智能领域的快速演变，还带来了市场动荡的风险。随着新参与者带着创新解决方案涌现，既有企业转型，或并购改变产品供应和支持经济性，市场格局可能被重塑。例如，ChatGPT大型语言模型的推出及其有效性，彻底改变了AI应用的格局和认知，促使其他公司迅速调整策略，甚至基于查询GPT引擎开发新的商业产品。Meta、Anthropic、DeepSeek等公司创新的人工智能平台，将如何创造新机遇或使现有解决方案过时，仍有待观察。
企业需要对这些市场变化和监管变化保持警惕，以保护他们的投资并确保长期成功和竞争力。在这样一个令人兴奋且快速增长的市场中，高度的不确定性是不可避免的。因此，必须考虑解决方案依赖于这些平台的可用性所带来的风险，尤其是未来许可费用的不确定性，以及对训练数据和查询的所有权的法律问题。
AI正在迅速成为工业边缘计算的强大工具，它具有提高效率、提供预测性洞察和增强运营弹性的潜力。然而，这也要求决策者仔细考虑硬件权衡、不断变化的应用场景、监管影响以及适应新技术和新参与者的灵活性。与任何处于创新前沿的技术一样，在工业环境中充分发挥AI潜力的旅程将充满动态变化。今天深思熟虑、战略性投资可以为未来的可持续增长和竞争优势奠定基础。
* 本文作者：Oliver Wang 是 Moxa 美国公司工业计算产品线的产品营销经理。
