OpenShift AI 2.5: ažuriranja distribuiranog zaključivanja i posluživanja modela
OpenShift AI 2.5 fokusiran je na operativnu zrelost za radna opterećenja LLM-a: bolje korištenje GPU-a među čvorovima, pojednostavljene rute posluživanja modela i čvršću integraciju s OpenShift GitOps i sigurnosnim politikama.
Platformski timovi sada mogu standardizirati krajnje točke zaključivanja za više modela, izolirati imenske prostore stanara i primijeniti dosljedna mrežna pravila—dok timovi za znanost o podacima održavaju tijekove rada prijenosnika i cjevovoda poznatima. Za hibridna okruženja, ažuriranje također pojednostavljuje spajanje on-prem GPU klastera na središnje upravljanje.
cloudstrata dizajnira OpenShift AI arhitekture za regulirane industrije, uključujući scenarije zračnog procjepa i suverenog oblaka. Pomažemo vam prijeći s pilota s jednim modelom na platforme za zaključivanje s više timova s ugrađenim nadzorom, upravljanjem kvotama i kontrolom troškova.
Istražite više
KONTAKT
Javite se
Recite nam nešto o svom slučaju upotrebe — mi ćemo odgovoriti prilagođenim sljedećim korakom.
Cilj nam je odgovoriti u roku od jednog radnog dana.
Pratite Cloudstratu na LinkedInu i Instagramu kako biste bili u tijeku s našim radom i otvaranjima.
Otvara se u novoj kartici