엣지 AI란?

엣지 인공지능(AI), 즉 엣지 AI는 인공 지능을 엣지 컴퓨팅 환경에서 구현하여 중앙화된 클라우드 컴퓨팅 시설이나 오프사이트 데이터센터가 아닌 데이터가 실제로 수집되는 위치 가까이에서 컴퓨팅을 수행하는 것입니다. 엣지 AI는 기기가 클라우드나 오프사이트 데이터센터에 연결되어 있지 않더라도 스마트한 결정을 더욱 빠르게 내릴 수 있도록 합니다.

엣지 컴퓨팅으로 데이터를 기기 위치 가까이에 저장할 수 있어, AI 알고리즘은 인터넷 연결 여부에 관계없이 기기에서 생성된 데이터를 처리합니다. 따라서 데이터가 밀리초 내에 처리되어 실시간 피드백을 제공할 수 있습니다. 엣지 AI를 사용하면 거의 즉시 대응이 가능합니다. 이는 일부 민감한 데이터가 실제로 엣지를 벗어나지 않는다는 의미이므로 더욱 안전할 수 있습니다.

센서와 IoT 기기와 같은 엣지 기기는 과도한 작업이 수행되는 클라우드 데이터센터로부터 데이터를 이동시킬 수 있어, 점차 핵심 기술로 각광받고 있습니다.

엣지 AI는 연결된 기술에 의해 생성된 데이터가 백엔드 클라우드 시스템으로 전송되는 기존 AI 애플리케이션 프레임워크와는 다릅니다. 백엔드에서 AI 모델을 실행하는 대신 엣지 AI는 네트워크 엣지에서 운영되는 연결된 기기 내부의 프로세스를 기반으로 구성됩니다. 이는 엣지 기기가 메트릭과 분석을 수집할 뿐만 아니라 이러한 정보를 처리할 수 있는 인텔리전스 계층을 추가합니다. 엣지 기기 내에 통합된 머신 러닝(ML) 모델이 기반이 된 이러한 작업은 강인공지능(True AI)이 구현된 모습을 보여줍니다.

인공지능의 목표는 여전히 사람이 수행하는 태스크를 사람의 감독 없이 수행하고 처리하는 스마트 머신을 구축하는 것입니다. 그러나 엣지 AI는 사용 중인 기기 내부 또는 가까운 위치에서 로컬로 작업을 수행하거나 의사 결정을 내립니다.

엣지 컴퓨팅과 인공지능을 결합하면 엄청난 장점이 있습니다. 엣지 AI를 통해, 고성능 컴퓨팅 기능을 센서와 IoT 기기가 위치한 엣지에 적용할 수 있습니다. 시스템 간의 연결성과 통합이 필요하지 않기 때문에 사용자는 기기에서 실시간으로 데이터를 처리할 수 있으며, 다른 물리적 위치와 커뮤니케이션하지 않고도 데이터를 집계하고 사용자에게 서비스를 제공하여 시간을 절약할 수 있습니다.

엣지 AI의 장점은 다음과 같습니다. 

• 전력 사용량 절감: 클라우드 데이터 센터에서 AI를 실행하는 데 필요한 전력 요구량보다 훨씬 낮은 전력으로 로컬 수준에서 데이터를 처리하여 에너지 비용 절감
• 대역폭 감소: 데이터 흐름에서 대역폭을 줄이고, 더 많은 데이터를 클라우드로 전송하는 대신 로컬에서 처리, 분석, 저장하여 비용 최소화
• 데이터 프라이버시: 엣지 AI를 운영하는 엣지 기기에서 로컬로 처리되는 데이터로 인해 데이터가 오용되거나 잘못 처리될 위험 감소
• 보안: 엣지 네트워크에서 데이터를 처리하고 저장하거나, 중복되고 관련 없는 불필요한 데이터를 필터링하여 중요한 데이터 전송의 우선순위 지정
• 확장성: 클라우드 기반 플랫폼과 OEM(original equipment manufacturer) 장비의 기본 엣지 기능을 통해 시스템을 손쉽게 확장
• 대기 시간 감소: 클라우드 기반 플랫폼이 분석과 같은 다른 태스크를 처리할 수 있도록 클라우드 플랫폼의 부하를 일부 줄이고 로컬에서 분석

Red Hat은 우수한 오픈소스 커뮤니티와 함께 컨테이너와 쿠버네티스 기술을 위해 많은 노력을 들이고 있습니다. Red Hat® OpenShift®는 검증을 통해 신뢰성을 확보한 서비스를 결합하여 애플리케이션 개발, 현대화, 배포, 실행, 관리에 수반되는 마찰을 줄입니다. 

Red Hat OpenShift에는 데이터센터, 하이브리드 클라우드, 엣지 전반에서 일관된 방식으로 머신 러닝 운영(MLOps)을 지원하는 핵심 기능이 포함되어 있습니다. Red Hat OpenShift를 기반으로 하는 AI/ML을 사용하면 AI/ML 워크플로우와 AI 기반 지능형 애플리케이션 제공을 가속화할 수 있습니다.

AI 중심 포트폴리오인 Red Hat OpenShift AI는 AI/ML 실험과 모델의 전체 라이프사이클에 걸쳐 툴을 제공하고 Red Hat OpenShift AI를 포함합니다. 이는 IT 운영 리더를 위한 오픈소스 기술을 바탕으로 한 일관되고 확장 가능한 기반으로서, 데이터 과학자와 개발자를 위해 전문화된 파트너 에코시스템을 제공하여 AI 분야에서 혁신을 이끌어냅니다.