Decidimos abrirlo todo. Tenemos 2 clusters ejecutando GLM-5.2 en producción: uno en el interior de São Paulo y otro en Paraguay. Aquí está lo que corre, por qué, y la matemática que muestra por qué el self-hosting con pesos abiertos bajo licencia MIT es seguro contra el fin del precio subsidiado.
La infraestructura que ejecuta GLM-5.2
GLM-5.2 es un modelo MoE de 744B total, con ~40B activos por token. En BF16 necesita ~1,49 TB de VRAM. En FP8 baja a ~744 GB, que caben con holgura en 8x H200 (1.128 GB totales). Esta es la config de referencia oficial.
Cada rack: 8x H200 de 141 GB, NVLink 4 a 900 GB/s intra-nodo, obligatorio para TP=8. En Paraguay ejecutamos vLLM v0.23.0+ con FP8 KV cache y MTP de 5 draft tokens. En SP, SGLang v0.5.13.post1+ con chunked prefill 32768 y EAGLE 6 tokens. La elección del engine depende del workload: vLLM para throughput agregado, SGLang para latencia baja en single-stream.
Throughput real, no número de marketing
En nuestras pruebas, el throughput real es 118 tok/s en single-stream y 1.215 tok/s agregados con ~96 usuarios concurrentes. El TTFT mediano queda entre 246-282 ms y el TPOT entre 7,16-7,54 ms. Son números de producción medidos en un cluster real, no de benchmark de laboratorio con prompt de 1 token. Estos números son con FP8 KV cache habilitado y MTP activo; sin esas optimizaciones, el throughput cae a la mitad. La diferencia entre 118 tok/s y 1.215 tok/s agregados muestra la ganancia de batching: con ~96 usuarios concurrentes, el engine agrupa requests y extrae ~10 veces más throughput del mismo hardware.
Por qué Paraguay y por qué el interior de SP
Paraguay: Itaipú genera 14 GW, 72,9 TWh en 2025, país 100% hidroeléctrico desde diciembre de 2021. El Decreto 5306 de enero de 2026 fija la tarifa de data center en US$ 0,028 por kWh en 500 kV, con 15 años de tarifa preferencial. La Ley 7548/2025 concede 20 años de incentivo fiscal. Asunción tiene un promedio de 23 grados y free cooling de mayo a septiembre. Fibra de Tigo hasta Brasil: Asunción-São Paulo 20-40 ms.
Interior de SP: menos de 5 ms hasta el IX.br, fibra Anhanguera-Bandeirantes, tierra 40-70% más barata. CPFL cuesta ~US$ 0,14 por kWh, 5 veces más que Paraguay, pero la latencia compensa para respuesta instantánea.
La energía que importa
El nodo consume ~8 kW en el rack, ~10,4 kW con PUE 1,3, ~91.000 kWh/año al 100% de uso. Paraguay: ~US$ 2.548/año. SP: ~US$ 12.740/año. Solo la diferencia de energía, ~US$ 10 mil/año por nodo, paga el cluster de Paraguay en pocos años. Y eso es solo energía. El CAPEX duplica la ventaja.
La matemática del break-even
CAPEX en Paraguay: ~US$ 400-500 mil por servidor (la Ley 7548 exime de impuestos). En Brasil: ~US$ 700-800 mil (II 18% + IPI + PIS/COFINS 11,75% + ICMS 18% SP), casi el doble. La diferencia no es marginal: es la diferencia entre break-even en 1,2 años y en 2,5 años.
A 1.200 tok/s, 24/7/365, son ~37,8 mil millones de tokens de salida/año. A precio de API real (US$ 4,40 por millón de salida, US$ 1,40 por millón de entrada, razón 3:1), el equivalente queda en ~US$ 325.080/año. Ese es el costo de oportunidad de no tener su propio cluster.
Break-even Paraguay: ~1,2-1,5 años al 100% de uso, ~2,5-3 años al 50%. Brasil: ~2,2-2,5 años y ~4,3-5 años. Incluso en el escenario pesimista (Brasil, 50% de uso), el cluster se paga en menos de 5 años.
El precio de API es subsidiado, y ese es el punto
El precio de API de US$ 4,40 por millón de tokens de salida es subsidiado. Según datos financieros de Z.AI, la empresa perdió 4,72 mil millones de yuanes en 2025 (~US$ 650 millones) con ingresos de solo ~US$ 99 millones. Está quemando capital de IPO (US$ 558 millones en enero de 2026) y de VCs como Alibaba y Tencent. El costo real de servir un token (CAPEX de GPU, energía, equipo, depreciación) es 3-5 veces mayor que el precio cobrado. Estimaciones de mercado indican que el margen de NVIDIA en el H200 es 70-80%, precio de monopolio.
No es sostenible. Una empresa que pierde 6,5 veces su ingreso anual no sobrevive sin capital externo infinito. Y el capital externo infinito no existe.
Qué pasa cuando el subsidio termina
Cuando se acabe el capital de IPO/VC, los precios de planes y APIs deben subir para cubrir el costo real. Quien depende de infraestructura de terceros sentirá el apretón de verdad: aumento de precio, rate limit, vendor lock-in. El self-hosting con pesos abiertos bajo licencia MIT es seguro contra ese futuro. Aunque Z.AI o cualquier otra empresa del segmento de IA triplique los precios, el modelo sigue siendo suyo, incluso para mejorarlo, lo que posibilita el desarrollo de sus propios modelos fundacionales basados en un modelo de frontera como GLM-5.2 y otros open-source.
Si no tiene la escala o la capacidad financiera para tener su propio rack: para disfrutar de los beneficios de GLM-5.2, recomendamos el coding plan o la API. Es el camino más corto para probar en su flujo mientras el precio todavía es subsidiado.
Conclusión
Quien controla la infraestructura controla el costo. Ejecutamos GLM-5.2 en 2 clusters, medimos throughput real e hicimos la matemática. El break-even existe, y llega más rápido de lo que parece cuando deja de pagar el subsidio de otra empresa. En Tech86 ayudamos a empresas a montar la infraestructura de IA correcta, en el lugar correcto, con la matemática correcta.