.
TECNOLOGÍA

Nvidia lanza una nueva configuración de sus chips para la aplicación de AI generativa

martes, 8 de agosto de 2023

Un superchip de CPU Nvidia Grace, a la izquierda, y un módulo Grace-Grace dispuestos en la sede de la empresa en Santa Clara, California (EE. UU.), el lunes 5 de junio de 2023.

Foto: Bloomberg

La configuración está optimizada para realizar funciones de inferencia de IA que potencian eficazmente aplicaciones de IA generativa como ChatGPT

Reuters

Nvidia anunció el martes una nueva configuración para sus chips avanzados de inteligencia artificial, diseñada para acelerar las aplicaciones de IA generativa.

Según Ian Buck, vicepresidente de hiperescala y HPC de Nvidia, la nueva versión del Grace Hopper Superchip aumenta la cantidad de memoria de gran ancho de banda, lo que dará al diseño la capacidad de respaldar modelos de IA más grandes.

La configuración está optimizada para realizar funciones de inferencia de IA que potencian eficazmente aplicaciones de IA generativa como ChatGPT.

El diseño del superchip Grace Hopper de Nvidia une una de las unidades de procesamiento gráfico (GPU) H100 de la compañía con un procesador central diseñado por Nvidia.

"El hecho de disponer de más memoria permite que el modelo permanezca residente en una única GPU y no tenga que requerir varios sistemas o varias GPU para ejecutarse", explicó Buck en una conferencia telefónica con periodistas.

Los modelos de IA subyacentes que alimentan las aplicaciones de IA generativa capaces de producir texto e imágenes como si lo hicieran humanos siguen creciendo en tamaño. A medida que aumenta el tamaño de los modelos, se necesita una mayor cantidad de memoria para ejecutarlos sin conectar chips y sistemas independientes, lo que reduce el rendimiento.

"La memoria adicional, simplemente aumenta el rendimiento de la GPU", afirma Buck.

La nueva configuración, denominada GH200, estará disponible en el segundo trimestre del próximo año, según Buck.

Nvidia tiene previsto vender dos versiones: una que incluye dos chips que los clientes pueden integrar en los sistemas, y un sistema de servidor completo que combina dos diseños Grace Hopper.

Conozca los beneficios exclusivos para
nuestros suscriptores

ACCEDA YA SUSCRÍBASE YA

MÁS DE GLOBOECONOMÍA

Argentina 06/12/2023 Quién es Santiago Bausili, el elegido por Milei y Caputo para presidir el Banco Central

Bausili fundó, junto el futuro ministro de Economía, Anker Latinoamérica, la consultora que acaba de cerrar, la mayoría de cuyos miembros se está incorporando al equipo de Caputo

Suiza 07/12/2023 UBS aprueba la fusión de su filial UBS AG y Credit Suisse, banco que rescató en marzo

El movimiento significará que Credit Suisse dejará de funcionar como un banco independiente y permitirá las primeras oleadas de migración de clientes en sus negocios principales

Educación 05/12/2023 Universidades colombianas que clasificaron en ranking global de impacto sostenible

La U. de los Andes fue la mejor de Colombia y tercera entre latinas. Pero, en el indicador que evalúa factores como la ética, las prácticas de contratación, la transparencia y la toma de decisiones, la U. del Rosario ocupó el puesto más alto