OpenShift AI 2.5: 分散推論とモデル提供のアップデート

OpenShift AI 2.5 は、ノード全体での GPU 使用率の向上、モデル提供ルートの合理化、OpenShift GitOps およびセキュリティ ポリシーとの緊密な統合など、LLM ワークロードの運用の成熟度に重点を置いています。

プラットフォーム チームは、複数のモデルの推論エンドポイントを標準化し、テナントの名前空間を分離し、一貫したネットワーク ポリシーを適用できるようになりました。一方、データ サイエンス チームは、ノートブックとパイプラインのワークフローを使い慣れた状態に保ちます。ハイブリッド環境の場合、このアップデートにより、オンプレミスの GPU クラスターを中央ガバナンスに接続することも簡素化されます。

Cloudstrata は、エアギャップ クラウド シナリオやソブリン クラウド シナリオなど、規制された業界向けの OpenShift AI アーキテクチャを設計します。単一モデルのパイロットから、モニタリング、クォータ管理、コスト管理が組み込まれたマルチチーム推論プラットフォームへの移行を支援します。