Comienzan los Días Naranjas en PcComponentes. Hay un montón de artículos con descuentos impresionantes!!!
Ver mejores ofertasAmazon presentó en su conferencia re:Invent sus chips de nueva generación para una amplia gama de cargas de trabajo basadas en la nube y modelos de entrenamiento de IA con la promesa de un mejor rendimiento y eficiencia energética.
Uno de los nuevos chips es Trainium2, destinado al entrenamiento de modelos de IA y del que se dice que ofrece hasta 4 veces más rendimiento y 2 veces más eficiencia energética que su predecesor. También se espera que ofrezca 3 veces más capacidad de memoria que la primera generación de chips Trainium. En la nota de prensa, Amazon afirma que Trainium2 está diseñado para el entrenamiento de alto rendimiento de modelos básicos (FM) y modelos lingüísticos de gran tamaño (LLM) con billones de parámetros.
La empresa también afirma que Trainium2 será superrápido, lo que permitirá a los programadores entrenar modelos en una fracción del tiempo requerido por los chips Trainium de primera generación. Según Amazon, Trainium2 proporcionará hasta 65 exaflops de potencia de cálculo, ofreciendo un “rendimiento de superordenador” y permitiendo a los clientes entrenar un LLM de 300.000 millones de parámetros en semanas en lugar de meses.
Otro nuevo chip es el Graviton4 basado en Arm, que según Amazon es el “procesador AWS más potente y eficiente energéticamente hasta la fecha”. Está diseñado para una amplia gama de aplicaciones que se ejecutan en ultraclusters de Amazon Elastic Compute Cloud (EC2), y se dice que ofrece hasta un 30 por ciento más de rendimiento computacional, un 50 por ciento más de núcleos y un 75 por ciento más de ancho de banda de memoria que Graviton3.
Según Amazon, el nuevo chip permitirá a los clientes mejorar la ejecución de sus bases de datos de alto rendimiento, cachés en memoria y cargas de trabajo de análisis de big data. Puede utilizarse para procesar mayores cantidades de datos más rápidamente que con los chips Graviton de tercera generación, reduciendo así el tiempo de obtención de resultados y los costes operativos.
Amazon empezará a ofrecer los chips Trainium2 el año que viene, mientras que las instancias R8g impulsadas por Graviton4 ya están disponibles en versión preliminar, y se espera su disponibilidad general en los próximos meses.
Los nuevos chips van a aumentar la competencia en el sector del hardware de IA, actualmente dominado por Nvidia. Microsoft también ha subido la temperatura con el reciente anuncio de su chip Azure Maia 100 y su CPU Azure Cobalt, por lo que será interesante ver cómo se intensifica la batalla en los próximos meses y años.