Dell anuncia ecosistema abierto de IA Generativa con Aceleradores AMD Instinct.
Dell y AMD se unen para presentar una expansión en la cartera de Soluciones de IA Generativa de la compañía, ofreciendo a las empresas más opciones para continuar sus trayectorias únicas con GenAI. La solución de implementación más rápida en la historia de la empresa, el Dell PowerEdge XE9680, admitirá el próximo acelerador AMD Instinct MI300X. Esto brinda a los clientes más opciones en términos de rendimiento de IA.
Esta nueva tecnología destaca un papel crucial desempeñado por ecosistemas abiertos y diversidad de silicio para capacitar a los clientes con soluciones simples, confiables y personalizadas para llevar la IA a sus datos. Así lo explica Raymundo Peixoto, Vicepresidente Senior de Soluciones de Infraestructura de Dell Technologies en América Latina.
La Inteligencia Artificial Generativa (GenAI) es el acelerador más prometedor de la década para la innovación. La mayoría ve GenAI como un medio para obtener ganancias de productividad, optimizar procesos y lograr ahorros de costos. Aprovechar esta tecnología es crucial para garantizar que las organizaciones puedan competir en esta nueva era digital. La selección de la infraestructura TI es la base para implementar proyectos de IA que puedan ser escalables, garantizar la conectividad entre aplicaciones y un consumo energético razonable. Contamos con el portafolio de infraestructura más amplio del mundo, pero el desafío para el cliente comienza mucho antes, al definir los casos de uso. Por eso, Dell también se diferencia en el mercado por contar con un equipo de consultoría con una visión holística, capaz de mapear con el cliente su madurez en el viaje de transformación digital y diseñar casos de uso, con acceso a un ecosistema completo y robusto en IA”, concluyó.
PowerEdge XE9680
El PowerEdge XE9680 con AMD Instinct MI300X ofrece capacidades de alto rendimiento para empresas que buscan desbloquear el valor de sus datos y diferenciar sus negocios con modelos de lenguaje grandes personalizados (LLMs).
Con ocho GPUs MI300X, 192 GB de memoria de alta velocidad de 5,3 TB/s (HBM3) por GPU para una capacidad total coherente de HBM3 de 1,5 TB por servidor y más de 600 TFLOPS 21 petaflops de rendimiento pico FP32FP16, el PowerEdge XE9680 con MI300X está listo para democratizar aún más el acceso a GenAI para empresas ansiosas de entrenar modelos más grandes, reducir la huella del centro de datos, disminuir el TCO y obtener una ventaja competitiva.
Soluciones de IA Generativa de Dell con diseño validado
Junto con el soporte para el Acelerador AMD MI300X Instinct, Dell también anuncia el próximo paso de las Soluciones de IA Generativa de Dell. Esto facilita que las organizaciones implementen GenAI confiable con el nuevo Diseño Validado de Dell para IA Generativa con AMD. ROCm de AMD es un conjunto de controladores de código abierto, kits de herramientas de desarrollo y APIs para aceleradores AMD Instinct. Este nuevo Diseño Validado de Dell para IA Generativa con AMD ROCm incluirá LLMs de código abierto y hace que sea simple para los clientes de Dell construir plataformas GenAI confiables adaptadas a sus necesidades. Así, elimina la incertidumbre en las consideraciones de integración, rendimiento y dimensionamiento.
- El PowerEdge XE9680 es una potencia en rendimiento y un campeón en seguridad y simplicidad. El software Dell Open Manage Enterprise simplifica y acelera la implementación de la infraestructura GenAI, mientras que el software CloudIQ proporciona automatización inteligente desde cualquier lugar. El PowerEdge XE9680 está respaldado por recuperación cibernética integrada y un enfoque amplio de Confianza Cero para una mayor seguridad.
- El PowerEdge XE9680 con MI300X aprovecha la Plataforma Infinity de AMD, alimentada por ocho aceleradores AMD Instinct MI300X. Permite así una escalabilidad casi lineal y un entrenamiento GenAI distribuido de baja latencia con Interconexión Global de Memoria (xGMI) que abarca un clúster de servidores PowerEdge interconectando GPUs MI300X a través de una malla de inteligencia artificial basada en Ethernet con una malla de GPU validada por Dell con el Dell PowerSwitch Z9664F-ON.
Más detalles
Como miembro del Consorcio de Ethernet Ultra (UEC), la compañía continúa abogando por una red basada en estándares. Dell Technologies está posicionada de manera única para realizar todo el potencial de un enfoque abierto al implementarlo en toda la solución GenAI: cómputo, malla y almacenamiento.
El Dell PowerEdge XE9680 con Aceleradores AMD Instinct MI300X y el Diseño Validado de Dell para IA Generativa con AMD estarán disponibles en la primera mitad de 2024.