Red Hat SummitRed Hat OpenShift AI
Cos'è Red Hat OpenShift AI?
Red Hat® OpenShift® AI è una piattaforma flessibile e scalabile per operazioni di intelligenza artificiale e machine learning (AI/ML) che permette alle aziende di creare e distribuire applicazioni basate sull'IA con modalità scalabili negli ambienti di cloud ibrido.
Sviluppata grazie a tecnologie open source, OpenShift AI offre ai team funzionalità affidabili e coerenti a livello operativo per mettere alla prova le proprie competenze, fornire modelli ed erogare applicazioni innovative.
This video can't play due to privacy settings
To change your settings, select the "Cookie Preferences" link in the footer and opt in to "Advertising Cookies."
Accelera la produzione delle app basate sull'IA
Promuovi la collaborazione tra i team coniugando le comprovate funzionalità di Red Hat OpenShift AI e Red Hat OpenShift in un'unica piattaforma applicativa enterprise ready per l'intelligenza artificiale. Offri ai tuoi data scientist, ingegneri e sviluppatori di app gli strumenti per ottenere risultati migliori in termini di coerenza, sicurezza e scalabilità, collaborando dalla stessa posizione.
OpenShift AI permette l'acquisizione e la preparazione dei dati, l'addestramento, il fine tuning, la fornitura e il monitoraggio dei modelli, oltre all'accelerazione dell'hardware. Grazie a un ecosistema open source di partner software e hardware, OpenShift AI fornisce la flessibilità necessaria per i tuoi scenari di utilizzo.
La versione più recente di Red Hat OpenShift AI maggiori prestazioni in termini di scalabilità, bias e rilevazione degli errori, un accesso migliore agli acceleratori e un registro centralizzato per condividere, distribuire e tracciare i modelli. Grazie a queste funzionalità sarà più facile accelerare l'innovazione AI/ML e l'uniformità operativa su larga scala nei cloud pubblici, nei data center e negli ambienti all'edge.
Caratteristiche e vantaggi
Gestione semplificata dell'infrastruttura IA
Assicura ai tuoi team un accesso on demand alle risorse in modo che possano dedicarsi all'analisi dei dati e alla realizzazione di app in grado di offrire all'azienda un valore aggiunto effettivo. Altri vantaggi, come la sicurezza integrata e l'integrazione del ciclo di vita degli operatori, consentono un ulteriore risparmio di tempo.
Strumenti di AI/ML supportati e testati
Lascia che sia Red Hat a monitorare, integrare, verificare e supportare i comuni strumenti e modelli di AI/ML su Red Hat OpenShift. OpenShift AI si avvale dell'esperienza maturata nel corso di anni di partecipazione al progetto della community Open Data Hub di Red Hat e a iniziative open source come Kubeflow.
Flessibilità nel cloud ibrido
Disponibile come software autogestito o come servizio cloud completamente gestito su OpenShift, Red Hat OpenShift AI offre una piattaforma flessibile e sicura che ti permette di scegliere se sviluppare e distribuire i modelli on premise, nel cloud pubblico o all'edge.
Sfrutta le competenze degli esperti Red Hat
Red Hat Consulting offre servizi che consentono di installare, configurare e sfruttare al massimo Red Hat OpenShift AI,
mettendo a disposizione supporto e indicazioni per qualsiasi tua iniziativa, dalla realizzazione di un progetto pilota con OpenShift AI alla creazione della tua base MLOps.
Red Hat Enterprise Linux AI
Red Hat® Enterprise Linux® AI è una piattaforma per modelli fondativi concepita per sviluppare, testare ed eseguire, in modo semplice, i modelli linguistici di grandi dimensioni (LLM) della famiglia Granite per applicazioni aziendali.
Partnership
Amplia le funzionalità di Red Hat OpenShift AI con altri servizi e prodotti integrati.
NVIDIA e Red Hat offrono ai clienti una piattaforma scalabile e altamente flessibile con cui promuovere l'accelerazione delle loro operazioni basate sull'IA in svariati scenari di utilizzo.
Intel® e Red Hat aiutano le aziende a velocizzare l'adozione dell'IA e a ottenere in breve tempo il controllo dei modelli AI/ML.
IBM e Red Hat collaborano per offrire approcci innovativi open source in grado di velocizzare lo sviluppo dell'IA, avvalendosi anche di IBM watsonx.aiTM, un componente enterprise ready per builder di IA.
Starburst Enterprise e Red Hat offrono una fruizione delle informazioni migliore e più tempestiva grazie ad analisi rapide dei dati su piattaforme eterogenee e distribuite.
Amplia le tue capacità di IA con IBM watsonx.ai
Red Hat OpenShift AI è il modello fondativo open source di IBM watson.ai che offre capacità di IA gen aggiuntive.
Collaborazione tramite Jupyter notebooks-as-a-service
Metti a disposizione dei tuoi data scientist immagini di cluster predefiniti o personalizzati per la creazione di modelli tramite i notebook Jupyter. Red Hat OpenShift AI tiene traccia delle modifiche a Jupyter, TensorFlow e PyTorch e altre tecnologie open source basate sull'IA.
Erogazione scalabile di modelli con Red Hat OpenShift AI
I modelli possono essere distribuiti per l'integrazione in applicazioni intelligenti on premise, all'edge o nel cloud pubblico. Possono essere inoltre ricreati, ridistribuiti e monitorati in base alle modifiche del notebook sorgente.
Analisi della soluzione
Applicazioni IA con Red Hat e NVIDIA AI Enterprise
Crea un'applicazione RAG
Red Hat OpenShift AI è una piattaforma per creare progetti di data science e distribuire applicazioni abilitate all'IA. Puoi integrare tutti gli strumenti che ti servono per supportare la tecnologia retrieval augmented generation (RAG), un metodo per ottenere le risposte dell'IA dai tuoi documenti di riferimento. Quando connetti OpenShift AI con NVIDIA AI Enterprise, puoi fare alcune prove con gli LLM (Large Language Model) per trovare il modello ideale per la tua applicazione.
Sviluppa una pipeline per i documenti
Se vuoi usare la tecnologia RAG, per prima cosa devi inserire i tuoi documenti in un database vettore. Nella nostra app di esempio, integriamo una serie di documenti di prodotto in un database Redis. Visto che questi documenti vengono modificati spesso, possiamo creare una pipeline da eseguire periodicamente per tale processo in modo da disporre sempre della versione più recente.
Sfoglia il catalogo degli LLM
NVIDIA AI Enterprise ti offre l'accesso a un catalogo di diversi modelli LLM, così potrai fare diverse prove e scegliere quello che offre risultati migliori. I modelli sono ospitati nel catalogo delle API di NVIDIA. Una volta che hai impostato un token API, puoi eseguire il deployment di un modello utilizzando la piattaforma di distribuzione dei modelli NVIDIA NIM direttamente da OpenShift AI.
Scegli il modello giusto
Mentre fai alcune prove con i diversi modelli LLM, i tuoi utenti possono valutare ogni risposta generata. Puoi configurare una dashboard di monitoraggio Grafana per confrontare le valutazioni, oltre che i tempi di risposta e di latenza di ogni modello. Potrai quindi sfruttare questi dati per scegliere il miglior modello LLM da usare nel tuo ambiente di produzione.
Esplora le risorse correlate
Video
Demo di Red Hat OpenShift AI
Ebook
Principali considerazioni sulla creazione di modelli fondativi per l'IA generativa
Resoconto analitico
Report di Omdia: Building a strong operational foundation for AI
Checklist
Cinque modi per integrare la metodologia MLOps in azienda
Come provare Red Hat OpenShift AI
Sandbox per sviluppatori
Per sviluppatori e data scientist che desiderano sperimentare la creazione di applicazioni basate sull'IA in un ambiente flessibile e predefinito.
Prova di 60 giorni
Non appena la tua organizzazione sarà pronta, esplora tutte le capacità di OpenShift AI con una versione di prova di 60 giorni. È necessario un cluster Red Hat OpenShift esistente.
