NVIDIA lanza GPU RTX Super con tensor cores para IA local

NVIDIA anunció a principios de 2024 tres nuevas tarjetas gráficas de consumo: RTX 4060 Super, RTX 4070 Ti Super y RTX 4080 Super. A diferencia de las generaciones anteriores, estas GPU incluyen núcleos tensor adicionales diseñados específicamente para ejecutar modelos de inteligencia artificial (IA) generativa directamente en el PC del usuario, sin necesidad de conectarse a servicios en la nube. Los precios estimados van de 599 a 1.099 euros, según el modelo.

La apuesta se enmarca en una tendencia clara del mercado: los fabricantes de chips quieren que la inferencia de IA ocurra en el propio dispositivo del usuario, no en los servidores de los grandes proveedores cloud. NVIDIA, Intel, AMD y Qualcomm compiten ahora mismo por definir qué significa un “PC con IA” y quién lo equipa mejor. La guía sobre GPU para inteligencia artificial de noticias.ai recoge cómo han evolucionado estas tarjetas desde los modelos de servidor hasta los de consumo.

Nuevas GPU RTX Super: tensor cores y IA generativa en el escritorio

Las tres tarjetas comparten la arquitectura Ada Lovelace de NVIDIA y añaden más núcleos tensor respecto a sus predecesoras RTX 4060, RTX 4070 Ti y RTX 4080. Estos núcleos tensor son los responsables de acelerar las operaciones matemáticas que realizan los modelos de IA: multiplicación de matrices, operaciones de inferencia y procesos de generación de texto e imagen. Más núcleos tensor implican mayor velocidad y menor consumo al ejecutar estos modelos localmente.

Fabricantes como Dell y Lenovo ya han confirmado que integrarán estas GPU en sistemas de escritorio y portátiles de gama alta. Esto expande el alcance más allá de los usuarios que montan sus propios PCs, llevando las capacidades de IA local también a quienes compran sistemas completos. Google DeepMind y NVIDIA ya trabajan juntos para acelerar modelos de IA local como DiffusionGemma, lo que muestra que la estrategia de inferencia en dispositivo cuenta con el respaldo de los principales laboratorios de IA.

Qué se puede hacer con una GPU RTX Super e IA generativa

El principal atractivo para los usuarios domésticos y creativos es la posibilidad de ejecutar herramientas de IA generativa sin depender de Internet ni pagar suscripciones a APIs externas. Adobe Photoshop ya incorpora funciones de generación y edición de imágenes basadas en IA que aprovechan los núcleos tensor de las RTX. Las mejoras automáticas de videollamadas en plataformas como Teams o Zoom también se benefician de este hardware.

En el lado de los modelos de código abierto, tener una RTX Super permite ejecutar localmente modelos de lenguaje como Llama, Mistral o modelos de generación de imágen como Stable Diffusion a resoluciones más altas y con mayor velocidad. Para los desarrolladores de videojuegos, NVIDIA apunta a que la IA generativa también se integrará en la creación de activos y en la narrativa dinámica dentro de los propios juegos.

El contexto competitivo: Intel, AMD y Qualcomm en la misma pista

NVIDIA no es la única compañía apostando por la IA local en dispositivos de consumo. Intel empuja los chips de las series Core Ultra con NPUs (unidades de procesamiento neuronal) integradas, optimizadas para workloads de IA en portátiles. AMD combina GPU RDNA y NPUs en sus procesadores Ryzen AI. Qualcomm, con sus Snapdragon X Elite, busca hacer lo mismo en el segmento de PCs ARM.

La diferencia de NVIDIA es la madurez de su ecosistema de software para IA: el entorno CUDA, los núcleos tensor y herramientas como NVIDIA AI Workbench para el desarrollo y personalización de modelos son ventajas que Intel o Qualcomm todavía no pueden igualar en el ámbito del software de IA.

¿Qué son los núcleos tensor de NVIDIA y para qué sirven en IA?

Los núcleos tensor (Tensor Cores) son unidades de cómputo especializadas dentro de las GPU de NVIDIA diseñadas para acelerar operaciones matemáticas de multiplicación de matrices, que son la base del cálculo en los modelos de IA. Permiten ejecutar inferencia y entrenamiento de modelos de forma mucho más rápida y eficiente que con núcleos CUDA convencionales.

¿Qué modelos de IA puede ejecutar una RTX 4060 Super en local?

Depende de la VRAM disponible. Una RTX 4060 Super con 8 GB de VRAM puede ejecutar modelos cuantizados de 7 a 13 mil millones de parámetros, como Llama 3 8B o Mistral 7B. Modelos mayores (70B+) requieren GPUs con más memoria o configuraciones multi-GPU.

¿En qué se diferencia la inferencia local de la inferencia en la nube?

La inferencia local procesa los datos en el propio dispositivo del usuario, sin enviarlos a servidores externos. Esto ofrece privacidad total (los datos no salen del equipo), menor latencia y la posibilidad de usar el modelo sin conexión a Internet. La inferencia en nube ofrece acceso a modelos más grandes que no caben en la VRAM de un consumidor, pero implica costes de API, latencia de red y dependencia de un servicio externo.

¿El RTX 4070 Ti Super es mejor para IA que el 4060 Super?

Sí. El RTX 4070 Ti Super tiene más núcleos tensor, mayor ancho de banda de memoria y generalmente más VRAM, lo que le permite ejecutar modelos más grandes y con mayor velocidad. Para usuarios que quieran trabajar con modelos de 13B o superiores de forma fluida, el 4070 Ti Super o el 4080 Super ofrecen mejores resultados.

¿Qué competidores tiene NVIDIA en la IA para PCs de consumo?

Intel (Core Ultra con NPU integrada), AMD (Ryzen AI con RDNA 4) y Qualcomm (Snapdragon X Elite) son los principales competidores. Sin embargo, el ecosistema de software de NVIDIA (CUDA, núcleos tensor, herramientas como AI Workbench) sigue siendo una ventaja que los demás fabricantes todavía no han igualado en el ámbito de la IA.

Scroll al inicio