Dell Technologies amplía la gama de soluciones de IA generativa (GenAI) más completa del mundo con las incorporaciones de Dell AI Factory adaptadas a los entornos de AMD. Estas soluciones ofrecen a las empresas capacidades mejoradas de IA, como una mayor escalabilidad y flexibilidad.
Las incorporaciones a la gama de Dell PowerEdge impulsan una amplia gama de casos de uso de IA y cargas de trabajo tradicionales, y simplifican la administración y la seguridad de los servidores. Las plataformas proporcionan soluciones personalizables y eficientes que simplifican la gestión y soportan cargas de trabajo de alto rendimiento para las empresas.
• Diseñado para cargas de trabajo de IA empresarial. El Dell PowerEdge XE7745 admite hasta ocho GPU PCIe de doble ancho o 16 GPU PCIe de ancho único con procesadores AMD EPYC de quinta generación en un chasis de 4U refrigerado por aire. Diseñadas específicamente para la inferencia de IA, el ajuste fino de modelos y la computación de alto rendimiento, las ranuras de GPU internas se combinan con ocho ranuras PCIe Gen 5.0 adicionales para la conectividad de red, lo que crea configuraciones densas y flexibles con el doble de capacidad de GPU DW PCIe.
• Los servidores PowerEdge R6725 y R7725 están optimizados para la escalabilidad y el alto rendimiento de los procesadores AMD EPYC de quinta generación. El nuevo diseño del chasis DC-MHS permite una refrigeración por aire mejorada y dos CPU de 500 W, lo que permite superar los difíciles desafíos térmicos en cuanto a potencia y eficiencia. Estas plataformas mantienen un riguroso análisis de datos y cargas de trabajo de IA, con configuraciones optimizadas para la escalabilidad, y ofrecen un rendimiento récord para cargas de trabajo como la virtualización, las bases de datos y la IA. El R7725 ofrece hasta un 66% más de rendimiento y hasta un 33% más de eficiencia en la parte superior de la pila.
Las tres plataformas pueden admitir hasta un 50% más de núcleos, con un aumento de hasta el 37% en el rendimiento por núcleo, lo que se traduce en un mayor rendimiento, eficiencia y un mejor coste total de propiedad. Estas mejoras consolidan hasta siete servidores de 5 años de antigüedad en un solo servidor, lo que se traduce en un consumo de energía de CPU hasta un 65% menor.
• Los servidores PowerEdge R6715 y R7715 con procesadores AMD EPYC de 5ª generación ofrecen un mayor rendimiento, eficiencia y hasta un 37% más de capacidad de unidad, lo que se traduce en una mayor densidad de almacenamiento. Disponibles en varias opciones de configuración, los servidores de un solo socket admiten el doble de memoria con soporte para 24 DIMM (2DPC) y cumplen con diversos requisitos de carga de trabajo y maximizan el rendimiento en chasis compactos de 1U y 2U.
Para los clientes que implementan IA a escala, Dell Technologies también seguirá siendo compatible con todos los aceleradores AMD Instinct más recientes en los servidores Dell PowerEdge XE.
Los equipos de TI pueden monitorizar, administrar y actualizar de forma remota los servidores Dell PowerEdge con el controlador de acceso remoto integrado de Dell (iDRAC) actualizado. Con un procesador más rápido, mayor memoria y un coprocesador de seguridad dedicado, iDRAC simplifica la administración y la seguridad del servidor, lo que permite a los equipos de TI responder con mayor confiabilidad y eficiencia.
Las mejoras de Dell AI Factory simplifican y aceleran las implementaciones de GenAI
Dell AI Factory está diseñada para respaldar diversos requisitos de IA con la gama de soluciones de IA más amplia del mundo, desde ordenadores de sobremesa hasta centros de datos y nubes, lo que permite a las organizaciones ajustar el tamaño de sus inversiones en IA:
• Soluciones de IA generativa de Dell con AMD que utilizan el servidor Dell PowerEdge XE9680 con aceleradores AMD Instinct MI300X para ofrecer inferencia, generación aumentada por recuperación (RAG en inglés) y personalización de IA. La integración simplifica la implementación de IA, mejora la seguridad, permite arquitecturas escalables y modulares y reduce el tiempo de generación de valor hasta en un 86%, lo que ayuda a las organizaciones a optimizar sus inversiones en IA.
• El Dell Enterprise Hub en Hugging Face ahora es compatible con Dell PowerEdge XE9680 con aceleradores AMD Instinct MI300X, lo que proporciona contenedores y scripts personalizados para una implementación fácil y segura de modelos como Llama y Mixtral. Estos modelos en contenedores están optimizados de forma única para aumentar el rendimiento de la inferencia en función del modelo y el servidor y aprovechar el back-end de Hugging Face Text Generation Inference (TGI)
• Los servicios profesionales de Dell para IA generativa se están ampliando para admitir entornos AMD. Los nuevos servicios de implementación de Dell para la plataforma GenAI con AMD proporcionan una plataforma operativa personalizada, que incluye la configuración de Kubernetes, la implementación de marcos de IA avanzados y la transferencia de conocimientos al cliente sobre las mejores prácticas para maximizar el retorno de la inversión. Desde el desarrollo de estrategias hasta la preparación de datos, la implementación de plataformas y modelos y el escalado de soluciones, los profesionales de Dell ayudan a los clientes a lograr resultados comerciales con IA durante todo el ciclo de vida.
