.
TECNOLOGÍA

Nvidia lanza una nueva configuración de sus chips para la aplicación de AI generativa

martes, 8 de agosto de 2023

Un superchip de CPU Nvidia Grace, a la izquierda, y un módulo Grace-Grace dispuestos en la sede de la empresa en Santa Clara, California (EE. UU.), el lunes 5 de junio de 2023.

Foto: Bloomberg

La configuración está optimizada para realizar funciones de inferencia de IA que potencian eficazmente aplicaciones de IA generativa como ChatGPT

Reuters

Nvidia anunció el martes una nueva configuración para sus chips avanzados de inteligencia artificial, diseñada para acelerar las aplicaciones de IA generativa.

Según Ian Buck, vicepresidente de hiperescala y HPC de Nvidia, la nueva versión del Grace Hopper Superchip aumenta la cantidad de memoria de gran ancho de banda, lo que dará al diseño la capacidad de respaldar modelos de IA más grandes.

La configuración está optimizada para realizar funciones de inferencia de IA que potencian eficazmente aplicaciones de IA generativa como ChatGPT.

El diseño del superchip Grace Hopper de Nvidia une una de las unidades de procesamiento gráfico (GPU) H100 de la compañía con un procesador central diseñado por Nvidia.

"El hecho de disponer de más memoria permite que el modelo permanezca residente en una única GPU y no tenga que requerir varios sistemas o varias GPU para ejecutarse", explicó Buck en una conferencia telefónica con periodistas.

Los modelos de IA subyacentes que alimentan las aplicaciones de IA generativa capaces de producir texto e imágenes como si lo hicieran humanos siguen creciendo en tamaño. A medida que aumenta el tamaño de los modelos, se necesita una mayor cantidad de memoria para ejecutarlos sin conectar chips y sistemas independientes, lo que reduce el rendimiento.

"La memoria adicional, simplemente aumenta el rendimiento de la GPU", afirma Buck.

La nueva configuración, denominada GH200, estará disponible en el segundo trimestre del próximo año, según Buck.

Nvidia tiene previsto vender dos versiones: una que incluye dos chips que los clientes pueden integrar en los sistemas, y un sistema de servidor completo que combina dos diseños Grace Hopper.

Conozca los beneficios exclusivos para
nuestros suscriptores

ACCEDA YA SUSCRÍBASE YA

MÁS DE GLOBOECONOMÍA

EE.UU. 08/02/2025 La interrupción del servicio PlayStation Network de Sony afecta a miles de jugadores

Sony Group Corp. dijo que está trabajando para resolver un problema que ha dejado a miles de jugadores sin poder iniciar sesión

EE.UU. 09/02/2025 El presidente Trump planea anunciar mañana aranceles de 25% al ​​acero y al aluminio

El presidente también dijo que anunciará aranceles recíprocos más adelante en la semana contra los países que gravan las importaciones estadounidenses

Inglaterra 06/02/2025 El Banco de Inglaterra recorta los tipos de interés a 4,5% y espera hacer dos bajas más

El gobernador del Banco, Andrew Bailey, dijo que el BoE estaría "monitoreando muy de cerca la economía del Reino Unido y los acontecimientos globales y adoptando un enfoque gradual"