Ejecutar modelos de IA de 27 mil millones de parámetros en casa suele chocar con el mismo muro: el precio de una GPU con VRAM de sobra. Pero hay un atajo que llega directamente de los centros de datos: la NVIDIA Tesla V100 de 32 GB, retirada en masa de las nubes y vendida de segunda mano por una fracción del precio original — hoy es la GPU de 32 GB más barata del mercado. El canal Lon.TV puso una de estas a trabajar en un escritorio común y el resultado es un bonito proyecto de fin de semana para quien quiere IA local.
Resumen en vídeo: este artículo comenta y complementa el vídeo “The Cheapest 32GB Nvidia GPU You Can Buy for Local AI (Tesla V100)”, del canal Lon.TV (Lon Seidman).
URL del vídeo: https://www.youtube.com/watch?v=3P6m_QBIgAo
Qué es la Tesla V100
Lanzada en 2017, la V100 fue la GPU para centros de datos más avanzada de su época — y la primera de NVIDIA con Tensor Cores, los núcleos dedicados a deep learning que hoy definen el mercado de la IA. La ficha técnica sigue impresionando: arquitectura Volta (chip GV100 en 12 nm), 5.120 núcleos CUDA, 640 Tensor Cores, y memoria HBM2 de 16 o 32 GB con 900 GB/s de ancho de banda — un ancho de banda que muchas placas actuales de consumo no alcanzan. Fue esa GPU la que entrenó buena parte de la primera ola de modelos modernos de IA en las nubes de 2018 a 2022.
Con la llegada de las generaciones Ampere, Hopper y Blackwell, los centros de datos jubilaron las V100 por miles — y desembocaron en el mercado de segunda mano. La versión de 32 GB se encuentra en el rango de US$ 500-700 (en Brasil, los anuncios varían bastante; investiga), mientras que cualquier GeForce nueva con esa VRAM cuesta varias veces eso.
El experimento del vídeo: V100 en un escritorio común
La V100 es una tarjeta de servidor: no tiene salida de vídeo, no tiene ventilador (la refrigeración provenía del flujo de aire del chasis) y usa un conector de energía propio. Lon lo resolvió todo con ingenio de maker:
- Dock eGPU via OcuLink conectando la tarjeta a un mini PC: la V100 se convierte en una “GPU externa”;
- Adaptador de corriente para el conector EPS de la placa;
- Ventilación improvisada: un conducto con ventilador apuntando al disipador pasivo — sin esto la placa se calienta en segundos;
- Linux como sistema (la experiencia en Windows con tarjetas Tesla es bastante más tediosa), con configuración asistida por IA en el terminal.
Funcionando, la tarjeta ejecutó con soltura modelos recientes de tamaño medio — en las pruebas del vídeo, un Qwen de 27B y un Gemma MoE respondieron a una velocidad de uso cómoda, e incluso modelos de difusión de imagen y vídeo se ejecutaron, algo que tarjetas de 8-12 GB simplemente no soportan. Es la ventaja bruta de los 32 GB de HBM2: modelos enteros en la VRAM, sin descargar a la RAM.
La letra pequeña: soporte al final de su vida útil
Antes de salir corriendo al carrito, el otro lado de la moneda — y este es el detalle que más importa en 2026:
- Drivers: NVIDIA ha confirmado que la serie R580 es la última con soporte para las arquitecturas Maxwell, Pascal y Volta. La rama se convierte en “legada”: sigue recibiendo correcciones (incluso compatibilidad con kernels nuevos) durante un tiempo, pero sin nuevas optimizaciones;
- CUDA: CUDA 12.x es la última versión compatible con Volta: 13 ya no reconoce la tarjeta. Los frameworks que requieran CUDA 13+ en el futuro dejarán atrás a la V100;
- Consumo y ruido: 250 W de tarjeta + ventilación forzada no es un setup silencioso;
- Sin salida de vídeo: necesitas otra GPU (o vídeo integrado) para el monitor.
En la práctica, para inferencia local hoy — llama.cpp, Ollama, ComfyUI y similares con CUDA 12 — la V100 sigue siendo excelente y debería funcionar durante años. Pero es una compra con buena relación calidad-precio inmediata, no una inversión a largo plazo.
¿Merece la pena?
Si tu objetivo es ejecutar modelos cuantizados 20-30B, experimentar con difusión de imagen y aprender IA local gastando poco, los 32 GB de HBM2 por precio de tarjeta de gama media son un argumento muy sólido — teniendo en cuenta el trabajo de adaptación (energía, ventilación, eGPU o servidor) y el horizonte de soporte. Aquí en el blog ya hemos montado un servidor de IA reacondicionado con 64 GB de VRAM usando exactamente esa misma lógica de hardware de centro de datos retirado — lectura complementaria obligatoria. Y en el lado del software, mira cómo ejecutar IA local en Linux con Ollama.
Fuentes: Lon.TV (vídeo original) · Hoja de datos oficial de la Tesla V100 (NVIDIA) · Wikipedia — arquitectura Volta · Phoronix — el driver R580 es el último para Volta