Ir al contenido principal
Cerrar
Infraestructura

Infraestructura para IA: el co-diseño es el nuevo paradigma

Gabriel Ferraresi· CEO | Tech86May 22, 20267 min
infraestructuraianvidiadata centerco-diseño

El cuello de botella de la IA ya no es el silicio. Es la energía, la fibra, el data center y la orquestación de todo ello en conjunto. Cuando NVIDIA invierte US$ 40.000 millones en participaciones accionarias y lanza un supercomputador de 7 chips diseñados como un solo sistema, el mensaje es claro: el data center es la unidad de cómputo. No el chip. No el servidor. El rack completo.

Lo que revelan US$ 40.000 millones en infraestructura

En 2026, NVIDIA invirtió US$ 40.000 millones en participaciones accionarias. Casi nada de eso en chips. Los acuerdos cubren cada capa del stack: CoreWeave y Nebius (neoclouds de GPU, US$ 2.000 millones cada uno), Marvell y Lumentum (fotónica de silicio y componentes ópticos, US$ 2.000 millones cada uno), Coherent (transceptores ópticos de alta velocidad, US$ 2.000 millones), Corning (fibra óptica, 3 nuevas fábricas en EE. UU., US$ 3.200 millones), IREN (5 gigavatios de infraestructura DSX, US$ 2.100 millones).

Cada inversión cubre una dependencia real. Una AI factory con 100 mil GPUs genera tráfico de red interno que excede los límites del cobre: sin la fibra de Corning, los racks no se comunican entre sí. Sin energía a escala de gigavatios, no hay dónde colocar los racks: IREN controla terrenos y contratos de energía en regiones renovables. Sin orquestación, las GPUs son hardware ocioso: Mirantis aporta Kubernetes y una plataforma de cloud para que los clientes consuman el cómputo.

NVIDIA no está vendiendo chips. Está orquestando un ecosistema donde cada capa depende de ella. Jensen Huang lo llamó "la mayor construcción de infraestructura de la historia humana". TrendForce revisó el capex de IA a US$ 830.000 millones para 2026. No es hipérbole, es estrategia de control vertical.

Vera Rubin: 7 chips, 1 sistema, 0 margen para la desagregación

Si las inversiones muestran la estrategia, Vera Rubin muestra la táctica. Son 7 chips diseñados juntos con un objetivo: ejecutar agentes de IA a escala.

El problema es que la inferencia de chatbot y la inferencia de agente son mundos diferentes. Chatbot: pregunta, respuesta, fin. Agente: múltiples herramientas, subagentes, memoria acumulada, decisiones no deterministas. Anthropic estimó que los sistemas multiagente consumen hasta 15 veces más tokens que la inferencia estándar. Un agente principal acumula ~85 mil tokens de contexto en los primeros 40 turnos y procesa ~3,5 millones de tokens de entrada antes de la compactación. El prefill explota. El KV cache crece sin parar. La latencia compuesta destruye la experiencia.

Vera Rubin responde con un co-diseño extremo: Rubin GPU (50 petaFLOPS NVFP4, 3,6 TB/s por GPU, reducción de 10x en el costo por token frente a Blackwell), Vera CPU (88 núcleos Olympus, 1,2 TB/s LPDDR5X, offload nativo de KV cache), Groq 3 LPX (256 LPUs por rack, 128 GB de SRAM en chip, 35 veces más throughput por megavatio), NVLink 6 Switch (260 TB/s all-to-all entre 72 GPUs), ConnectX-9 SuperNIC (serving de baja latencia para la coordinación entre agentes), BlueField-4 DPU (persiste y comparte KV cache entre nodos, hasta 5 veces más tokens/s), Spectrum-X Ethernet (fabric unificado para workloads agénticos).

El resultado: más de 400 tokens por segundo por usuario en modelos MoE de billones de parámetros con contexto de 400 mil. Los agentes con modelos grandes y contexto largo son viables como productos. No experimentos caros.

Por qué el co-diseño no es opcional

Vera Rubin es intencionalmente difícil de desagregar. Igualar la GPU en FLOPS no iguala la fábrica de IA integrada en costo ni en rendimiento. Es la misma lógica de las inversiones: quien controla el stack completo dicta las condiciones de quien lo necesita.

En la práctica, esto significa que comprar GPUs de un lado, red de otro y storage de un tercero no genera el mismo resultado. El cuello de botella no está en ningún componente aislado: está en las interfaces entre ellos. Un clúster con 72 GPUs conectadas por NVLink 6 a 260 TB/s tiene un perfil de latencia completamente diferente al de 72 GPUs conectadas por Ethernet estándar. El offload nativo de KV cache de la Vera CPU hacia la BlueField-4 DPU elimina round-trips que, en arquitecturas desagregadas, añaden decenas de milisegundos por turno.

En Tech86 lo aprendimos en la práctica. Ya armamos clústeres donde el cómputo era suficiente, pero la red entre racks se convirtió en el cuello de botella. Ya vimos workloads agénticos con latencia aceptable en laboratorio e inaceptable en producción porque el storage de KV cache no acompañaba el volumen de tokens. El co-diseño no es un concepto académico: es la diferencia entre un sistema que funciona y uno que en teoría debería funcionar.

La trampa de comprar componentes por separado

El error más común que vemos: empresas compran GPUs de última generación y conectan todo con infraestructura de la generación anterior. Funciona para inferencia de chat. Falla para agentes.

Un agente que llama a 5 herramientas en secuencia, crea 2 subagentes y mantiene contexto de 40 turnos no es un chatbot más complejo: es un workload fundamentalmente diferente. El prefill explota porque cada turno acumula contexto. El KV cache crece porque el modelo necesita retener estado. La latencia se compone porque cada llamada a una herramienta es una inferencia dependiente de la anterior. Si cualquier capa (red, storage, CPU) no acompaña, el sistema entero se degrada.

Micron acaba de anunciar módulos DDR5 de 256 GB con DRAM 1-gamma a 9.200 MT/s, 40% más rápido, 40% menos consumo. Lambda cerró una facility de US$ 1.000 millones para AI factories. El mercado se está moviendo hacia sistemas integrados. Quien sigue comprando componentes aislados va a pagar más por menos.

Qué cambia al momento de planificar infraestructura

Si el data center es la unidad de cómputo, la planificación de infraestructura necesita ser sistémica desde el inicio. No sirve de nada aprovisionar GPU y después descubrir que la red no soporta el tráfico. No sirve de nada dimensionar la energía para el pico de entrenamiento y olvidar que la inferencia agéntica tiene patrones de consumo diferentes: spikes cortos y frecuentes en lugar de carga sostenida.

El primer paso es mapear el perfil del workload. La inferencia de chat, los agentes multi-turno y el entrenamiento tienen requisitos radicalmente diferentes de cómputo, memoria y red. El segundo paso es dimensionar el contexto, no solo el cómputo: los workloads agénticos viven del KV cache y del ancho de banda de memoria. El tercero es integrar red y storage desde el diseño, no como una ocurrencia tardía. La fibra óptica y NVLink no son upgrades: son el backbone. El cuarto es aprovisionar energía con margen. Y el quinto es validar la orquestación con carga real antes de escalar.

La infraestructura que la IA necesita es la que piensa en sistema

NVIDIA está gastando US$ 40.000 millones para demostrar que la IA no corre en chips aislados. Corre en sistemas. Vera Rubin es la materialización técnica de esa tesis: 7 chips que solo funcionan juntos. El mercado de IA se está consolidando en torno a quien controla el stack completo, y quien no piensa en sistema va a terminar dependiendo de quien sí lo hace.

En Tech86 diseñamos infraestructura de IA con co-diseño de cómputo, red y orquestación. Nuestros Cloud Servers están diseñados para que cada capa funcione como parte de un sistema, no como una pieza suelta. Si estás planificando workloads de IA, el momento de pensar en sistema es antes de la primera GPU, no después.

¿Interesado en esta solución?

Conoce nuestros servicios gestionados e infraestructura.

Conoce Cloud Servers

Preguntas Frecuentes

Es arquitectar GPU, CPU, red, storage, energía y cooling como un sistema integrado, no como componentes comprados por separado. Desarmar el sistema pierde la ventaja: igualar FLOPS no iguala el rendimiento real.

Porque un chip aislado no ejecuta workloads de IA. Necesita fibra para la comunicación entre racks, energía a escala de GW, storage para el KV cache y orquestación para consumir el cómputo. La Vera Rubin de NVIDIA tiene 7 chips diseñados juntos: quitar cualquiera rompe el sistema.

Sí. Anthropic estimó que los sistemas multiagente consumen hasta 15 veces más tokens que la inferencia estándar. Un agente principal procesa ~3,5 millones de tokens de entrada antes de la compactación. La infraestructura de chat no sirve para agentes.

A escala de clúster, sí. Una AI factory con 100 mil GPUs genera tráfico de red interno que excede los límites del cobre. NVIDIA invirtió US$ 3.200 millones en Corning y US$ 2.000 millones en Marvell para garantizar conectividad óptica: no es un lujo, es un requisito.

Empieza con co-diseño conceptual: mapea cómputo, red, storage y orquestación como un sistema antes de comprar cualquier cosa. En Tech86 ayudamos a las empresas a proyectar esa arquitectura con Cloud Servers que ya integran esas capas.

Blog, Contáctanos

¿Tienes alguna pregunta sobre nuestros artículos o servicios? Nuestro equipo está listo para ayudarte.

Agendar Reunión

Reserva un horario.

Agendar Ahora

Correo Electrónico

Envía un mensaje.

[email protected]

WhatsApp

Conversación rápida.

Dirección

Avenida Paulista, 1636 - São Paulo - SP - 01310-200

Especialista Tech86

En línea ahora

¡Hola! ¿Cómo podemos ayudar a escalar tu negocio hoy?

Tech86 Engineering

Valoramos tu privacidad

Utilizamos cookies y tecnologías similares para optimizar tu experiencia, analizar el tráfico del sitio web y personalizar contenido. Al hacer clic en "Aceptar Todos", aceptas el uso de todas las cookies. Lee nuestra Política de Privacidad.