OpenShift AI 2.5: Posodobitve porazdeljenega sklepanja in serviranja modela
OpenShift AI 2.5 se osredotoča na operativno zrelost za delovne obremenitve LLM: boljši izkoristek GPE med vozlišči, poenostavljene poti streženja modela in tesnejša integracija z OpenShift GitOps in varnostnimi politikami.
Ekipe platforme lahko zdaj standardizirajo končne točke sklepanja za več modelov, izolirajo imenske prostore najemnikov in uporabljajo dosledne omrežne pravilnike – medtem ko skupine za podatkovno znanost ohranjajo seznanjene delovne tokove prenosnikov in cevovodov. Za hibridna okolja posodobitev tudi poenostavi pripenjanje lokalnih gruče GPE na centralno upravljanje.
cloudstrata oblikuje arhitekture umetne inteligence OpenShift za regulirane industrije, vključno s scenariji z zračno režo in suverenimi oblaki. Pomagamo vam pri prehodu s pilotov z enim modelom na platforme sklepanja z več ekipami z vgrajenim spremljanjem, upravljanjem kvot in nadzorom stroškov.
Raziščite več
KONTAKT
Stopite v stik
Povejte nam o svojem primeru uporabe – odgovorili vam bomo s prilagojenim naslednjim korakom.
Odgovoriti želimo v enem delovnem dnevu.
Spremljajte Cloudstrato na LinkedInu in Instagramu, da boste na tekočem z našim delom in odprtji.
Odpre se v novem zavihku