OpenShift AI 2.5: Оновлення розподіленого висновку та обслуговування моделей

OpenShift AI 2.5 зосереджується на операційній зрілості для робочих навантажень LLM: краще використання графічного процесора між вузлами, спрощені маршрути обслуговування моделі та більш тісна інтеграція з OpenShift GitOps і політиками безпеки.

Команди платформи тепер можуть стандартизувати кінцеві точки висновку для кількох моделей, ізолювати простори імен клієнтів і застосовувати узгоджені мережеві політики, тоді як групи обробки даних зберігають знайомі робочі процеси блокнотів і конвеєрів. Для гібридних середовищ оновлення також спрощує підключення локальних кластерів GPU до централізованого керування.

cloudstrata розробляє архітектури OpenShift AI для регульованих галузей, включаючи сценарії з повітряним розривом і суверенну хмару. Ми допомагаємо вам перейти від пілотних проектів з однією моделлю до платформ висновків для кількох команд із вбудованим моніторингом, керуванням квотами та контролем витрат.