OpenShift AI 2.5 : mises à jour de l'inférence distribuée et de la diffusion de modèles

OpenShift AI 2.5 se concentre sur la maturité opérationnelle des charges de travail LLM : une meilleure utilisation du GPU sur tous les nœuds, des routes de diffusion de modèles rationalisées et une intégration plus étroite avec OpenShift GitOps et les politiques de sécurité.

Les équipes de plateforme peuvent désormais standardiser les points de terminaison d'inférence pour plusieurs modèles, isoler les espaces de noms des locataires et appliquer des politiques réseau cohérentes, tandis que les équipes de science des données gardent les workflows de notebook et de pipeline familiers. Pour les environnements hybrides, la mise à jour simplifie également l’attachement des clusters GPU sur site à la gouvernance centrale.

cloudstrata conçoit des architectures d'IA OpenShift pour les secteurs réglementés, y compris des scénarios de cloud isolé et souverain. Nous vous aidons à passer de projets pilotes à modèle unique à des plateformes d'inférence multi-équipes avec surveillance, gestion des quotas et contrôles des coûts intégrés.