Red Hat Summit
Red Hat AI
ニーズに合わせて AI を構築
既存のリソースやインサイトを活用し、必要な自由度で AI の価値を実現しましょう。
Red Hat® AI は、最初の実験から実稼働に至るまで、自社のビジネスに沿った AI ソリューションの構築と実行を可能にします。
企業環境に適した柔軟な AI
ハイブリッドクラウド全体で一貫性を保つには、データが存在する場所にデプロイ可能なプラットフォームが必要です。
Red Hat AI を導入すると、クラウド、オンプレミス、エッジのどこででも、生成 AI と予測 AI の両方の機能を制御できます。
Red Hat AI なら、柔軟性を維持しながら拡張を進められます。
Red Hat AI は、次の操作を可能にします。
- オープンソースに基づく、Granite の言語およびコードモデルにアクセスする。
- 小型化した専用モデルを独自のデータでチューニングする。
- vLLM を使用して推論を最適化する。
Red Hat AI のコンポーネント
Red Hat Enterprise Linux AI
Red Hat Enterprise Linux® AI は、AI の導入を検討し始めたばかりで、ビジネスユースケースをまだ定義していないお客様に有用です。この AI プラットフォームは、生成 AI 基盤モデルの開発、テスト、実行に適しています。
特長とメリット
- IBM の Granite ファミリー LLM を利用可能
- InstructLab によるモデルのローカル・ファインチューニング
- GPU のアクセスが制限されているお客様にとってコスト効率が高い
Red Hat OpenShift AI
Red Hat OpenShift AI は、AI アプリケーションのスケーリングを検討しているお客様に適しています。この AI プラットフォームは、ハイブリッドクラウド環境における予測 AI と生成 AI の両モデルのライフサイクル管理をサポートします。
特長とメリット
- エンタープライズ向け MLOps 機能
- IBM Granite LLM と InstructLab ツールを利用可能
- ハードウェア・アクセラレーターとハイブリッドクラウドのサポートにより、AI を大規模に構築して提供
InstructLab を活用して、LLM をローカルでカスタマイズ
Red Hat の InstructLab は、開発者がもっと簡単に IBM の Granite モデルを試せるようにする、コミュニティ主導型プロジェクトです。機械学習の経験がほとんどない方でもご利用いただけます。
希望する AI モデルを試験したり、基盤モデルをローカルハードウェアに合わせてファインチューニングしたりするのに最適な場です。
InstructLab を利用することで、AI モデルの試験にかかるコストやリソースといった、企業が AI を導入する際の障壁が解消されます。
This video can't play due to privacy settings
To change your settings, select the "Cookie Preferences" link in the footer and opt in to "Advertising Cookies."
さまざまな AI パートナーとの連携による、さまざまな AI 活用機会
エキスパートとテクノロジーが組み合わさることで、AI 活用の幅が広がります。さまざまなテクノロジーパートナーが Red Hat と連携し、Red Hat ソリューションの運用能力に関する認定を受けています。
ソリューションパターン
Red Hat と NVIDIA AI Enterprise による AI アプリケーション
RAG アプリケーションを作成する
Red Hat OpenShift AI は、データサイエンス・プロジェクトを構築し、AI 対応アプリケーションを提供するためのプラットフォームです。独自の参照ドキュメントから AI の回答を取得する手法の 1 つである 検索拡張生成 (RAG) をサポートするために必要なすべてのツールを統合できます。OpenShift AI を NVIDIA AI Enterprise に接続すると、 大規模言語モデル (LLM) を試して、アプリケーションに最適なモデルを見つけることができます。
ドキュメントのパイプラインを構築する
RAG を利用するには、まずドキュメントをベクトルデータベースに取り込む必要があります。サンプルアプリでは、一連の製品ドキュメントを Redis データベースに埋め込んでいます。これらのドキュメントは頻繁に変更されるため、定期的に実行するこのプロセス用のパイプラインを作成すると、常に最新バージョンのドキュメントを入手できます。
LLM カタログを閲覧する
NVIDIA AI Enterprise ではさまざまな LLM のカタログにアクセスできるため、さまざまな選択肢を試して、最良の結果が得られるモデルを選択できます。モデルは NVIDIA API カタログでホストされています。API トークンを設定したら、OpenShift AI から直接 NVIDIA NIM モデル提供プラットフォームを使用してモデルをデプロイできます。
適切なモデルを選択する
さまざまな LLM をテストする際、ユーザーは生成される応答をそれぞれ評価することができます。Grafana モニタリング・ダッシュボードを設定して、各モデルの評価だけでなく、レイテンシーと応答時間も比較できます。そしてそのデータを使用して、プロダクションで使用する最適な LLM を選択できます。
Red Hat AI の導入事例
Ortec Finance、成長を加速させ、市場投入時間を短縮
リスクおよびリターン管理のためのテクノロジーとソリューションを世界中で提供する Ortec Finance は、Microsoft Azure Red Hat OpenShift に基づく ML モデルを提供しており、Red Hat AI を導入しています。
Phoenix Systems、ワンランク上のクラウド・コンピューティングを提供
Phoenix Systems は Red Hat とのコラボレーションにより、より優れた選択肢、透明性、AI イノベーションを顧客に提供しています。
DenizBank、データサイエンティストを支援
DenizBank は、顧客向けローンや、詐欺の可能性の特定に役立つ AI モデルを開発しており、同行のデータサイエンティストは、Red Hat AI によって、自社データを操作するうえでの自律性を高めています。
