Nutanix ha anunciado la ampliación de su plataforma de infraestructura para IA con una nueva oferta nativa en la nube: Nutanix Enterprise AI (NAI). Esta solución se puede implementar en cualquier plataforma Kubernetes, en el edge, en centros de datos o en servicios de nube pública como AWS EKS, Azure AKS y Google GKE. NAI ofrece un modelo operativo híbrido multicloud para cargas de trabajo de IA, lo que ayuda a las empresas a llevar tanto sus modelos como sus datos a una ubicación segura y de su elección. Además, permite aprovechar las ventajas de NVIDIA NIM para optimizar el rendimiento de los modelos y ayuda a las organizaciones a desplegar, ejecutar y escalar de forma segura puntos finales de inferencia para grandes modelos de lenguaje (LLM), facilitando así el despliegue de aplicaciones de IA generativa (GenAI) en cuestión de minutos, en lugar de en días o semanas.
La IA Generativa genera unas cargas de trabajo intrínsecamente híbridas, con nuevas aplicaciones que se crean a menudo en la nube pública, realizando el perfeccionamiento de los modelos con datos privados en entornos on premise y llevando a cabo la inferencia lo más cerca posible del negocio, es decir en el edge, en las propias instalaciones o en la nube pública. Este flujo de trabajo híbrido puede presentar importantes desafíos para las organizaciones debido a su complejidad, la privacidad de los datos, la seguridad o el coste.
Nutanix Enterprise AI proporciona un modelo operativo multicloud consistente y una forma sencilla de desplegar, escalar y ejecutar LLMs de forma segura con microservicios de inferencia optimizados para NVIDIA NIM y modelos de Hugging Face. Esto permite a los clientes poner en marcha una infraestructura GenAI con la operatividad y la seguridad que necesitan las aplicaciones críticas del negocio, ya sea en un entorno “on premise”, en AWS Elastic Kubernetes Service (EKS), Azure Managed Kubernetes Service (AKS) o Google Kubernetes Engine (GKE).
Además, Nutanix Enterprise AI ofrece un modelo de precios transparente y predecible, basado en los recursos de infraestructura, lo que es importante para aquellos clientes que buscan maximizar el ROI de sus inversiones en IA. Este modelo contrasta con otros más tradicionales de predicción o los que están basados en tokens.
Nutanix Enterprise AI es un componente de Nutanix GPT-in-a-Box 2.0. La solución GPT-in-a-Box también incluye Nutanix Cloud Infrastructure, Nutanix Kubernetes Platform y Nutanix Unified Storage, además de otros servicios para dar soporte a las necesidades de configuración y dimensionamiento de los clientes.
Nutanix Enterprise AI puede desplegarse con la plataforma NVIDIA full-stack AI y ha sido validado para la plataforma de software NVIDIA AI Enterprise, que incluye NVIDIA NIM, un conjunto de microservicios diseñados para desplegar de forma segura modelos de IA de alto rendimiento. Nutanix-GPT-in-a-Box también es un sistema certificado por NVIDIA, lo que garantiza su fiabilidad y rendimiento.
