OpenShift AI 2.5: Kemas Kini Inferens Teragih dan Penyajian Model

OpenShift AI 2.5 memfokuskan pada kematangan operasi untuk beban kerja LLM: penggunaan GPU yang lebih baik merentas nod, laluan penyajian model yang diperkemas dan penyepaduan yang lebih ketat dengan OpenShift GitOps dan dasar keselamatan.

Pasukan platform kini boleh menyeragamkan titik akhir inferens untuk berbilang model, mengasingkan ruang nama penyewa dan menggunakan dasar rangkaian yang konsisten—manakala pasukan sains data memastikan aliran kerja buku nota dan saluran paip biasa. Untuk persekitaran hibrid, kemas kini ini juga memudahkan pemasangan kluster GPU di premis kepada tadbir urus pusat.

cloudstrata mereka bentuk seni bina OpenShift AI untuk industri terkawal, termasuk senario awan yang terhalang udara dan berdaulat. Kami membantu anda beralih daripada perintis model tunggal kepada platform inferens berbilang pasukan dengan pemantauan, pengurusan kuota dan kawalan kos terbina dalam.