OpenShift AI 2.5: การอนุมานแบบกระจายและการอัปเดตการแสดงโมเดล
OpenShift AI 2.5 มุ่งเน้นไปที่ความพร้อมในการปฏิบัติงานสำหรับปริมาณงาน LLM: การใช้งาน GPU ที่ดีขึ้นข้ามโหนด เส้นทางการให้บริการโมเดลที่ปรับปรุงประสิทธิภาพ และการบูรณาการที่เข้มงวดยิ่งขึ้นกับ OpenShift GitOps และนโยบายความปลอดภัย
ขณะนี้ทีมแพลตฟอร์มสามารถสร้างมาตรฐานให้กับอุปกรณ์ปลายทางการอนุมานสำหรับหลายรุ่น แยกเนมสเปซของผู้เช่า และใช้นโยบายเครือข่ายที่สอดคล้องกัน ในขณะที่ทีมวิทยาศาสตร์ข้อมูลทำให้เวิร์กโฟลว์ของโน้ตบุ๊กและไปป์ไลน์มีความคุ้นเคย สำหรับสภาพแวดล้อมไฮบริด การอัปเดตยังช่วยลดความยุ่งยากในการแนบคลัสเตอร์ GPU ภายในองค์กรเข้ากับการกำกับดูแลจากส่วนกลาง
cloudstrata ออกแบบสถาปัตยกรรม OpenShift AI สำหรับอุตสาหกรรมที่ได้รับการควบคุม รวมถึงสถานการณ์ระบบคลาวด์ที่มีช่องว่างทางอากาศและอธิปไตย เราช่วยให้คุณเปลี่ยนจากโปรแกรมนำร่องรุ่นเดียวไปสู่แพลตฟอร์มการอนุมานแบบหลายทีมพร้อมการตรวจสอบ การจัดการโควต้า และการควบคุมต้นทุนในตัว
สำรวจเพิ่มเติม
ติดต่อ
สนใจติดต่อ
บอกเราเกี่ยวกับกรณีการใช้งานของคุณ — เราจะตอบกลับพร้อมขั้นตอนถัดไปที่ปรับแต่งให้เหมาะสม
เรามุ่งมั่นที่จะตอบกลับภายในหนึ่งวันทำการ
ติดตาม Cloudstrata บน LinkedIn และ Instagram เพื่อติดตามผลงานและตำแหน่งงานว่างของเรา
เปิดในแท็บใหม่