什么是边缘 AI?

复制 URL

边缘人工智能(AI)或边缘 AI,是指将人工智能与边缘计算相结合,以便在物理位置处或附近收集数据。例如,在更靠近数据源的情况下,图像识别算法任务的运行效果会更好。

边缘 AI 可以几乎即时地做出响应。借助边缘 AI,无论是否连接互联网,数据都可以在几毫秒内得到处理并提供实时反馈,因为 AI 算法可以在更靠近设备位置的地方直接处理数据。而且,这个过程也可以令数据更加安全,因为敏感数据可以一直驻留在边缘,不用向外传输。

边缘 AI 与传统 AI 的不同之处在于,边缘 AI 不是在云系统的后端运行 AI 模型,而是在网络边缘的网络设备上运行。这种框架在边缘添加了一层智能,使得边缘设备不仅能收集数据指标和分析数据,而且还能根据设备内部集成的机器学习(ML)模型对数据进行实时处理和决策。

人工智能的目标是一致的:让计算机收集数据、处理数据,然后产生类似人类智能的结果。然而,边缘 AI 是在本地、所用设备内部或附近位置进行工作和决策。 

边缘计算和人工智能的结合带来了巨大的优势。借助边缘人工智能,传感器和物联网设备所在的边缘也可以具备高性能算力。因为不需要在系统之间进行连接和集成,用户可以实时在设备上处理数据,并且用户可以通过收集数据而无需与其他物理位置进行通信,从而节省时间。

边缘 AI 的优势包括:

  • 降低功耗:通过在本地进行数据处理,节省能源成本;在边缘运行 AI 的功耗低于云数据中心的功耗要求
  • 降低带宽:在本地处理、分析和存储更多数据,而不是发送至云,这样可以减少需要发送的数据量并降低成本
  • 隐私性:利用边缘 AI 在边缘设备上处理数据,降低敏感数据泄露的风险
  • 安全性:通过在边缘网络中处理和存储数据,可以优先处理重要数据的传输,并过滤掉冗余或不必要的数据
  • 可扩展性:通过云平台和原始设备制造商(OEM)设备上的本地边缘功能,可以轻松扩展系统
  • 减少延迟:减少在云平台上处理数据的时间,并在本地分析数据,以便进行其他任务

长期以来,红帽一直致力于与广大开源社区共同推进容器Kubernetes 技术的发展。红帽® OpenShift® 整合了多项经过测试且深受信赖的服务,可减少开发、现代化、部署、运行和管理应用等过程中产生的摩擦。 

红帽 OpenShift 包含多项关键功能,可以跨数据中心、混合云和边缘,以一致的方式实现机器学习运维(MLOps)在红帽 OpenShift 上运行 AI/ML 可为 AI/ML 工作流提速,并加快 AI 驱动型智能应用的交付。

红帽 OpenShift AI 是一个围绕 AI 打造的产品组合,提供涵盖 AI/ML 实验和模型的完整生命周期工具。它提供了基于开源技术的一致可扩展基础,可为 IT 运维负责人提供专业的合作伙伴生态系统,并为数据科学家和开发人员带来 AI 创新。

介绍

InstructLab

InstructLab 是一个用于增强大型语言模型(LLM)的开源项目。

扩展阅读

文章

什么是生成式 AI?

生成式 AI 依赖基于大型数据集训练的深度学习模型来创建新内容。

文章

什么是机器学习?

机器学习是一项训练计算机找到模式、做出预测并从经验中学习且无需明确编程的技术。

文章

什么是基础模型?

基础模型是一种经过预训练的机器学习(ML)模型,能够执行一系列的任务。 

有关 AI/ML 的更多信息

产品

现已发布

可无缝开发、测试和运行适用于企业级应用的 Granite 系列大型语言模型的基础模型平台。

这是一个围绕 AI 打造的产品组合,可提供工具来训练、调优、提供、监控和管理红帽 OpenShift 上的 AI/ML 实验和模型。

一个企业级应用平台,包含一系列统一经过测试的服务,可基于您选择的基础架构将应用推向市场。 

搭载 IBM watsonx Code Assistant 的红帽 Ansible Lightspeed 是一项生成式 AI 服务,由 Ansible 自动化工作者、运维人员和开发人员专为自动化同行们设计而成。 

资源

电子书

构建生产就绪型 AI/ML 环境的首要考虑因素

分析师资料

适用于 MLOps 的红帽混合云平台的总体经济影响™

网络培训课堂

借助开源和 Kubernetes 充分挖掘 AI 的价值