首页 > 工业AI

为什么要在边缘部署 AI?边缘AI技术如何工作?

www.cechina.cn2022.04.02阅读 3422

  
       最近在人工智能(AI)、边缘计算物联网设备的采用等方面取得了长足的进步,这些都汇集在一起为边缘AI带来了机遇。
  这为以前无法想象的边缘AI开辟了新的机会——从帮助放射科医生识别疾病,到在高速公路上驾驶汽车,再到帮助我们为植物授粉。
  被无数分析师和企业谈论和实施的边缘计算,其起源可以追溯到20世纪90年代,当时创建了内容交付网络,以从部署在用户附近的边缘服务器提供Web和视频内容。
  今天,几乎每个企业都有可以从采用边缘AI中受益的工作职能。事实上,边缘应用正在推动下一波人工智能浪潮,以改善我们在家庭、工作、学校和交通中的生活。
  本文将带您详细了解边缘 AI 是什么,它的优势和工作原理,边缘 AI 用例以及边缘计算和云计算之间的关系。
  什么是边缘AI? 
  边缘AI是在整个物理世界的设备中部署AI应用程序。之所以称为"边缘AI",是因为AI计算是在网络边缘的用户附近完成的,靠近数据所在的位置,而不是集中在云计算设施或私有数据中心。
  由于互联网具有全球影响力,因此网络的边缘几乎可以是任何位置。它可以是零售店、工厂、医院或我们周围的设备,如交通信号灯、电话、和自动化机器。
       
  边缘AI:为什么是现在? 
  各行各业的企业都在寻求提高自动化程度,以改善流程、效率和安全性。
  为了帮助他们,计算机程序需要识别模式并反复安全地执行任务。但世界是非结构化的,人类执行的任务范围涵盖了无限的环境,这些环境不可能在程序和规则中完全描述。
  边缘AI的进步为机器和设备开辟了机会,无论它们身在何处,都可以用人类认知的"智能"进行操作。支持AI的智能应用程序可以学习在不同情况下执行类似的任务,就像现实生活一样。
  在边缘部署AI模型的兴起源于最近3个领域的进展:
  ·神经网络的成熟:神经网络和相关的AI基础设施终于发展到允许广义机器学习的地步。企业正在学习如何成功训练 AI 模型,并将其部署到边缘生产环境中。
  ·计算基础设施的进步:在边缘运行 AI 需要强大的分布式计算能力。高度并行 GPU 的最新进展已适用于执行神经网络。
  ·物联网设备的采用:物联网的广泛采用推动了大数据的爆炸式增长。凭借突然能够在企业的各个方面收集数据--从工业传感器、智能相机、机器人等,我们现在拥有在边缘部署 AI 模型所需的数据和设备。此外,5G 为物联网提供了更快、更稳定和更安全的连接。
       
  为什么要在边缘部署 AI? 
  由于AI算法能够理解语言、视觉、声音、气味、温度、面部和其他模拟形式的非结构化信息,因此它们在有实际问题的最终用户占据的地方特别有用。由于与延迟、带宽和隐私相关的问题,将这些AI应用全部部署在集中式云或企业数据中心是不切实际的,甚至是不可能的。
  边缘AI带来的好处包括:
  ·智能化:AI应用程序比传统的应用程序更加强大和灵活,因为传统的应用程序只能对程序员预期的输入做出反应。相比之下,AI神经网络不是被训练如何回答一个特定的问题,而是如何回答一个特定类型的问题,即使这个问题本身是新的。如果没有AI,应用程序不可能处理无限多样的输入,如文本、口语或视频。
  ·实时洞察力:由于边缘技术在本地分析数据,而不是在远程通信延迟的遥远云中分析数据,因此可以实时响应用户的需求。
  ·降低成本:通过使处理能力更接近边缘,应用程序需要更少的互联网带宽,从而大大降低了网络成本。
  ·增加隐私:AI可以分析现实世界的信息,而无需将其暴露给人类,从而大大增加了任何需要分析外观、声音、医学图像或任何其他个人信息的人的隐私。边缘AI 通过在本地包含该数据,仅将分析和见解上传到云来进一步增强隐私。即使某些数据是出于培训目的而上传的,也可以将其匿名化以保护用户身份。通过保护隐私,边缘 AI 简化了与数据合规性相关的挑战。
  ·高可用性:去中心化和离线功能使边缘AI更加强大,因为处理数据不需要互联网访问。这为关键任务、生产级 AI 应用带来了更高的可用性和可靠性。
  ·持续改进:随着对更多数据的训练,人工智能模型变得越来越准确。当边缘 AI 应用程序遇到无法准确或自信地处理的数据时,它通常会上传数据,以便 AI 可以重新训练并从中学习。因此,模型在边缘生产的时间越长,模型就越准确。
  边缘AI技术如何工作?
       为了让机器看到、执行物体检测、驾驶汽车、理解语音、说话、走路或以其他方式模仿人类技能,它们需要在功能上复制人类智能。
  AI采用一种称为深度神经网络的数据结构来复制人类认知。这些 DNN 经过训练,可以通过显示该类型问题的许多示例以及正确答案来回答特定类型的问题。
  这种被称为"深度学习"的训练过程通常在数据中心或云端运行,因为训练一个准确的模型需要大量数据,并且需要数据科学家协作配置模型。经过训练,模型可以成为可以回答现实世界问题的"推理引擎"。
  在边缘AI部署中,推理引擎可以在工厂、医院、汽车、卫星和家庭等偏远地区的某种计算机或设备上运行。当 AI 遇到问题时,麻烦的数据通常会上传到云端,以对原始 AI 模型进行进一步训练,在某个时候取代边缘的推理引擎。这种反馈回路在提高模型性能方面发挥着重要作用;一旦部署了边缘 AI 模型,它们只会变得越来越智能。
       
  边缘 AI有哪些应用示例? 
  AI是我们这个时代最强大的技术力量。我们现在处于一个人工智能正在彻底改变世界上最大行业的时代。
  在制造业、医疗保健、金融服务、交通运输、能源等领域,边缘AI正在推动各个领域的新业务成果,例如:
  能源智能预测:对于能源等关键行业,不连续供应会威胁到普通民众的健康和福利,智能预测是关键。边缘AI模型有助于结合历史数据、天气模式、电网运行状况和其他信息,以创建复杂的模拟,从而为客户提供更高效的能源生产、分配和管理信息。
  制造中的预测性维护:传感器数据可用于及早检测异常情况并预测机器何时发生故障。如果机器需要维修,设备上的传感器会扫描缺陷并进行警报管理,以便及早解决问题,避免代价高昂的停机时间。
  医疗保健中的AI仪器:边缘的现代医疗仪器正在通过使用超低延迟手术视频流的设备启用AI,以实现微创手术和按需洞察。
  零售中的智能虚拟助手:零售商希望通过引入语音订购来用语音命令代替基于文本的搜索来改善数字客户体验。通过语音订购,购物者可以使用智能扬声器或其他智能移动设备轻松搜索商品、询问产品信息和在线下单。
  云计算在边缘计算中扮演什么角色? 
  AI应用可以在公共云中的数据中心中运行,也可以在用户附近的网络边缘的现场中运行。云计算和边缘计算各自提供的优势可以在部署边缘AI时结合起来。
  云提供了与基础架构成本、可扩展性、高利用率、服务器故障恢复能力和协作相关的优势。边缘计算提供更快的响应时间、更低的带宽成本和网络故障的弹性。
  云计算可以通过多种方式支持边缘 AI 部署:
  ·云可以在训练期间运行模型。
  ·云持续运行模型,因为它使用来自边缘的数据进行了重新训练。
  ·云可以运行AI推理引擎,当高计算能力比响应时间更重要时,这些引擎可以补充现场的模型。例如,语音助手可能会响应其名称,但会将复杂的请求发送回云进行解析。
  ·云提供最新版本的 AI 模型和应用程序。
  ·相同的边缘人工智能通常在现场的设备群中运行,软件安装在云中。
  边缘AI的未来 
  由于神经网络的商业成熟、物联网设备的普及、并行计算和 5G 的进步,现在有用于通用机器学习的强大基础设施。这使企业能够利用这个巨大的机会,将 AI引入其应用领域,并根据实时洞察采取行动,同时降低成本并增加隐私。我们只是处于边缘 AI 的早期阶段,可能的应用似乎仍然无穷无尽。
  *本文作者:Tiffany Yeung是NVIDIA边缘和企业计算解决方案的产品营销经理