Red Hat SummitRed Hat AI
Red Hat® AI は、小規模な専用設計モデル、効率的なカスタマイズ技術、どこでも開発およびデプロイできる柔軟性により、企業の AI 導入を促進します。
Red Hat AI は、これから AI を導入する企業、スケーリングする企業をサポートします。
Red Hat AI 製品
Red Hat Enterprise Linux® AI
Red Hat Enterprise Linux AI は、これから AI を導入する、ビジネスユースケースがまだ定まっていないお客様を支援します。この AI プラットフォームは、生成 AI (gen AI) 基盤モデルの開発、テスト、実行に適した設計となっています。
特長とメリット
IBM の Granite ファミリー LLM を利用可能
InstructLab によるモデルのローカル・ファインチューニング
GPU アクセス制限による優れたコスト効率
Red Hat OpenShift® AI
Red Hat OpenShift AI は、AI アプリケーションのスケーリングを検討しているお客様に適した設計となっています。この AI プラットフォームは、ハイブリッドクラウド環境における予測 AI と生成 AI の両モデルのライフサイクル管理をサポートします。
特長とメリット
エンタープライズ向け MLOps 機能
IBM Granite LLM と InstructLab ツールを利用可能
ハードウェア・アクセラレーターとハイブリッドクラウドのサポートにより、AI を大規模に構築して提供
InstructLab とは
Red Hat の InstructLab は、開発者がもっと簡単に IBM の Granite モデルを試せるようにする、コミュニティ主導型プロジェクトです。機械学習の経験がほとんどない方でもご利用いただけます。
希望する AI モデルを試験したり、基盤モデルをローカルハードウェアに合わせてファインチューニングしたりするのに最適な場です。
InstructLab を利用することで、AI モデルの試験にかかるコストやリソースといった、企業が AI を導入する際の障壁が解消されます。
Red Hat の AI パートナー
AI パートナーの数が多いほど、成功への道筋が増え、選択肢が広がります。
エキスパートとテクノロジーの融合によって、AI の活用の幅が広がっています。さまざまなテクノロジーパートナーが Red Hat と連携し、Red Hat ソリューションの運用能力に関する認定を受けています。Red Hat のエコシステムは拡大を続けています。
ソリューションパターン
Red Hat と NVIDIA AI Enterprise による AI アプリケーション
RAG アプリケーションを作成する
Red Hat OpenShift AI は、データサイエンス・プロジェクトを構築し、AI 対応アプリケーションを提供するためのプラットフォームです。独自の参照ドキュメントから AI の回答を取得する手法の 1 つである 検索拡張生成 (RAG) をサポートするために必要なすべてのツールを統合できます。OpenShift AI を NVIDIA AI Enterprise に接続すると、 大規模言語モデル (LLM) を試して、アプリケーションに最適なモデルを見つけることができます。
ドキュメントのパイプラインを構築する
RAG を利用するには、まずドキュメントをベクトルデータベースに取り込む必要があります。サンプルアプリでは、一連の製品ドキュメントを Redis データベースに埋め込んでいます。これらのドキュメントは頻繁に変更されるため、定期的に実行するこのプロセス用のパイプラインを作成すると、常に最新バージョンのドキュメントを入手できます。
LLM カタログを閲覧する
NVIDIA AI Enterprise ではさまざまな LLM のカタログにアクセスできるため、さまざまな選択肢を試して、最良の結果が得られるモデルを選択できます。モデルは NVIDIA API カタログでホストされています。API トークンを設定したら、OpenShift AI から直接 NVIDIA NIM モデル提供プラットフォームを使用してモデルをデプロイできます。
適切なモデルを選択する
さまざまな LLM をテストする際、ユーザーは生成される応答をそれぞれ評価することができます。Grafana モニタリング・ダッシュボードを設定して、各モデルの評価だけでなく、レイテンシーと応答時間も比較できます。そしてそのデータを使用して、プロダクションで使用する最適な LLM を選択できます。
Red Hat AI のお客様導入事例
Ortec Finance、成長を加速させ、市場投入時間を短縮
リスクおよびリターン管理のためのテクノロジーとソリューションを世界中で提供する Ortec Finance は、Microsoft Azure Red Hat OpenShift に基づく ML モデルを提供しており、Red Hat AI を導入しています。
Phoenix Systems、これまでとはレベルの違うクラウド・コンピューティングを提供
Red Hat とのコラボレーションにより、Phoenix Systems は顧客により優れた選択肢、透明性、AI イノベーションを提供できるようになりました。
ボストン大学、教育プラットフォームを構築
ボストン大学では、学習環境を拡張し、何百人ものコンピュータサイエンスおよびコンピュータ・エンジニアリングのユーザーが利用できるようにしました。
