Red Hat OpenShift AI expande a flexibilidade da IA Preditiva e Generativa em toda a nuvem híbrida

A Red Hat, Inc., líder global no fornecimento de soluções open source, anunciou avanços no Red Hat OpenShift AI, uma plataforma de inteligência artificial (IA) híbrida aberta e machine learning (ML) construída no Red Hat OpenShift que possibilita que as empresas criem e entreguem aplicações habilitadas para IA em escala na nuvem híbrida. Estas atualizações destacam a visão da Red Hat para IA trazendo o compromisso da Red Hat com a escolha do cliente para o mundo de cargas de trabalho inteligentes, desde o hardware subjacente aos serviços e ferramentas usados para construir a plataforma. Isso fornece inovação mais rápida, maior produtividade e a capacidade de colocar a IA em operações de negócios diárias por meio de uma plataforma open source mais flexível, escalável e adaptável que permite tanto modelos preditivos quanto generativos com ou sem o uso de ambientes de nuvem.

Os clientes estão enfrentando muitos desafios quando migram modelos de IA da experimentação para produção, incluindo custos de hardware mais altos, preocupações com privacidade de dados e falta de confiança em compartilhar seus dados com modelos baseados em SaaS. A IA generativa (gen AI) está mudando rapidamente e muitas organizações estão enfrentando dificuldades em estabelecer uma plataforma IA core que pode operar on-premises ou na nuvem.

De acordo com o IDC1, para explorar a IA com sucesso, as empresas vão precisar modernizar muitas aplicações existentes e ambientes de dados, romper barreiras entre sistemas existentes e plataformas de armazenamento, melhora da sustentabilidade da infraestrutura e escolher cuidadosamente onde implantar diferentes cargas de trabalho pela nuvem, datacenter e locais em edge. Para a Red Hat, isso mostra que as plataformas de IA devem fornecer flexibilidade para dar suporte às empresas à medida que progridem por meio de sua jornada de adoção de IA e suas necessidades e recursos se adaptam.

A estratégia de IA da Red Hat possibilita a flexibilidade na nuvem híbrida, fornece a capacidade de aprimorar modelos fundacionais curados ou pré-treinados com os dados dos seus clientes e a liberdade de possibilitar vários aceleradores de hardware e software. As novas e melhoradas funcionalidades da Red Hat OpenShift AI entregam estas necessidades por meio do acesso às últimas inovações em AI/ML e suporte de um ecossistema de parceiros expansivo e focado em IA. A versão mais recente da plataforma, Red Hat OpenShift AI 2.9, entrega:

• Disponibilização de modelos na edge estende a implantação de modelos de IA para localizações remotas usando OpenShift de nó único. Fornece funcionalidades de inferência em ambientes com poucos recursos com pouco ou nenhum acesso a redes. Esta funcionalidade, disponível como prévia da tecnologia, fornece às organizações uma experiência operacional escalável e consistente, desde o core até cloud e edge e inclui observabilidade embutida.
• Disponibilização aprimorada de modelos com a capacidade de usar vários servidores de modelo para dar suporte tanto para IA preditiva quanto generativa, incluindo suporte para KServe, uma definição de recursos Kubernetes customizados que orquestra serviços para todos os tipos de modelos, vLLM e text generation inference server (TGIS), mecanismos de servidores para LLMs e Caikit-nlp-tgis runtime, que lida com modelos e tarefas de processamento de linguagem natural (NLP). A disponibilização aprimorada de modelos permite que os usuários executem tanto IA preditiva quanto generativa em uma única plataforma para vários casos de uso, reduzindo os custos e simplificando as operações. Isso permite a disponibilização de modelos de LLMs imediata e simplifica o fluxo de trabalho em torno dos usuários.
• Cargas de trabalho distribuídas com Ray, usando CodeFlare e KubeRay, que usa vários clusters de nós para processamento de dados mais rápido e eficiente e treinamento de modelos. Ray é um framework para acelerar cargas de trabalho de IA e KubeRay ajuda a gerenciar estas cargas de trabalho em Kubernetes. CodeFlare é central para as funcionalidades de cargas de trabalho distribuídas do Red Hat OpenShift AI fornecendo uma estrutura mais amigável para os usuários que ajuda a simplificar a orquestração de tarefas e monitoramento. As funcionalidades essenciais de filas e gerenciamento permitem a melhor utilização dos nós e possibilitam a alocação de recursos, tais como GPUs, para os usuários e cargas de trabalho certos.
• Melhor desenvolvimento de modelos por meio dos espaços de trabalho do projeto e imagens de workbench adicionais que fornecem aos cientistas de dados a flexibilidade para usar IDEs e toolkits, incluindo VS Code e RStudio, prévia de tecnologia disponível atualmente e CUDA aprimorado para vários casos de uso e tipos de modelo.
• Visualização de monitoramento de modelos para métricas de performance e operacionais, melhor observabilidade de como os modelos de IA estão performando.
• Novos perfis de acelerador que permitem que os administradores configurem diferentes tipos de aceleradores de hardware disponíveis para os desenvolvimentos de modelo e fluxos de trabalho de disponibilização de modelos. Isso fornece acesso de usuários simples e com autosserviço para o tipo de acelerador apropriado para uma carga de trabalho específica.

Além do watsonx.ai da IBM, que sustenta o Red Hat OpenShift AI, as empresas em todos os setores estão se equipando com o Red Hat OpenShift AI para gerar mais inovação e crescimento de IA, incluindo AGESIC e Ortec Finance.

A nuvem é híbrida. A IA também.

Durante mais de 30 anos, as tecnologias de código aberto combinaram a inovação rápida com custos de TI bastante reduzidos e diminuíram as barreiras à inovação. A Red Hat lidera essa tarefa há quase tanto tempo, desde o fornecimento de plataformas Linux corporativas abertas com RHEL no início dos anos 2000 até a condução de containers e Kubernetes como base para nuvem híbrida aberta e computação nativa em nuvem com Red Hat OpenShift.

Esse impulso continua com a Red Hat potencializando estratégias de IA/ML na nuvem híbrida aberta, permitindo que cargas de trabalho de IA sejam executadas onde os dados residem, seja no datacenter, em diversas nuvens públicas ou na edge. Mais do que apenas as cargas de trabalho, a visão da Red Hat para IA traz o treinamento e o ajuste de modelos nesse mesmo caminho para lidar melhor com as limitações relacionadas à soberania dos dados, conformidade e integridade operacional. A consistência fornecida pelas plataformas da Red Hat nesses ambientes, não importa onde sejam executadas, é crucial para manter o fluxo da inovação em IA.

Red Hat Summit

Participe dos keynotes do Red Hat Summit para ouvir as últimas novidades de executivos, clientes e parceiros da Red Hat:

• The cloud is hybrid. So is AI. — Tuesday, May 7, 8-10 a.m. MDT (YouTube)
• Optimizing IT for the AI era. — Wednesday, May 8, 8:30-9:30 a.m. MDT (YouTube)

Citações de apoio

Ashesh Badani, diretor de produtos e vice-presidente sênior da Red Hat

“Trazer a IA para as empresas não é mais questão de "se" mas "quando". As empresas precisam de uma plataforma de IA mais flexível, consistente e confiável, que possa aumentar a produtividade, gerar receita e alimentar a diferenciação de mercados. A resposta da Red Hat para as demandas da IA empresarial em escala é o Red Hat OpenShift AI, tornando possível para os líderes de TI implantar aplicações inteligentes em qualquer lugar na nuvem híbrida enquanto ampliam e aprimoram as operações e modelos como necessário para dar suporte às realidades de produção de aplicações e serviços.”

Thomas Taroni, CEO, Phoenix Technologies

“A visão da Red Hat para a IA se alinha perfeitamente com nossa meta para fornecer às organizações uma solução de IA soberana e confiável. Com o Red Hat OpenShift AI, nossos clientes do kvant AI se beneficiam de flexibilidade sem paralelos, escalabilidade e segurança. Com kvant IA em combinação com o Red Hat OpenShift AI, as organizações estão perfeitamente equipadas para integrar modelos preditivos e generativos sem esforço, empoderando todos para que criem aplicações de IA com confiança e agilidade.”

Jeff Fonke, Sr. Practice Manager AI & Data, World Wide Technology Holding Co.

"À medida que modelos de TI legados enfrentam as complexidades da IA, WWT está comprometida em ajudar nossos clientes a tomar as decisões tecnológicas corretas mais rápido quando se trata da adoção da IA. O WWT’s AI Proving Ground é um testemunho disso. Com o Red Hat OpenShift AI como sua plataforma de base, o AI Proving Ground permite que os clientes testem, treinem, validem e implantem soluções de IA seguras que entregam o valor de negócios do mundo real."

Joris Cramwinckel, Technologist, Ortec Finance

“A Red Hat nos ajudou a oferecer machine learning models com sucesso para avaliação de imóveis residenciais no Azure Red Hat OpenShift nos últimos dois anos e estamos empolgados para implantar o Red Hat OpenShift AI para substituir nossos esforços de manutenção e código proprietário para AI model serving em nossas aplicações. Combinar o poder do OpenShift AI e Azure Red Hat OpenShift capacitará nossa equipe de pesquisa e desenvolvimento para acelerar a transição de nossos clientes para soluções baseadas em IA, ajudando-nos a gerenciar riscos e melhorar investimentos eficientemente.”