Decidimos abrir tudo. Temos 2 clusters rodando GLM-5.2 em produção: um no interior de São Paulo e outro no Paraguai. Aqui está o que roda, por quê, e a matemática que mostra por que self-hosting com pesos abertos sob licença MIT é seguro contra o fim do preço subsidiado.
A infra que roda o GLM-5.2
GLM-5.2 é um modelo MoE de 744B total, com ~40B ativos por token. Em BF16, precisa de ~1,49 TB de VRAM. Em FP8, cai para ~744 GB — que cabe folgado em 8x H200 (1.128 GB totais). Essa é a config de referência oficial.
Cada rack: 8x H200 de 141 GB, NVLink 4 a 900 GB/s intra-nó — obrigatório para TP=8. No Paraguai, rodamos vLLM v0.23.0+ com FP8 KV cache e MTP de 5 draft tokens. Em SP, SGLang v0.5.13.post1+ com chunked prefill 32768 e EAGLE 6 tokens. A escolha do engine depende do workload: vLLM para throughput agregado, SGLang para latência baixa em single-stream.
Throughput real, não número de marketing
Em nossos testes, o throughput real é 118 tok/s em single-stream e 1.215 tok/s agregado com ~96 usuários concorrentes. TTFT mediano fica entre 246-282 ms, TPOT entre 7,16-7,54 ms. São números de produção medidos em cluster real, não de benchmark de laboratório com prompt de 1 token. Esses números são com FP8 KV cache habilitado e MTP ativo — sem essas otimizações, o throughput cai pela metade. A diferença entre 118 tok/s e 1.215 tok/s agregado mostra o ganho de batching: com ~96 usuários concorrentes, o engine agrupa requests e extrai ~10x mais throughput do mesmo hardware.
Por que Paraguai e por que interior de SP
Paraguai: Itaipu gera 14 GW, 72,9 TWh em 2025, país 100% hidrelétrica desde dezembro de 2021. O Decreto 5306 de janeiro de 2026 fixa tarifa de data center em US$ 0,028 por kWh em 500 kV, com 15 anos de tarifa preferencial. A Lei 7548/2025 concede 20 anos de incentivo fiscal. Asunción tem média de 23 graus, free cooling de maio a setembro. Fibra Tigo até o Brasil, Asunción-São Paulo 20-40 ms.
Interior de SP: sub-5 ms até o IX.br, fibra Anhanguera-Bandeirantes, terra 40-70% mais barata. CPFL custa ~US$ 0,14 por kWh — 5x mais cara que o Paraguai, mas a latência compensa para resposta instantânea.
A energia que importa
O nó consome ~8 kW no rack, ~10,4 kW com PUE 1,3, ~91.000 kWh/ano em 100% de uso. Paraguai: ~US$ 2.548/ano. SP: ~US$ 12.740/ano. A diferença de energia sozinha — ~US$ 10 mil/ano por nó — paga o cluster do Paraguai em poucos anos. E isso é só energia. O CAPEX dobra a vantagem.
A matemática do break-even
CAPEX no Paraguai: ~US$ 400-500 mil por servidor (Lei 7548 isenta impostos). No Brasil: ~US$ 700-800 mil (II 18% + IPI + PIS/COFINS 11,75% + ICMS 18% SP) — quase o dobro. A diferença não é marginal: é a diferença entre break-even em 1,2 ano e em 2,5 anos.
A 1.200 tok/s, 24/7/365, são ~37,8 bilhões de tokens de saída/ano. A preço de API real (US$ 4,40 por milhão de saída, US$ 1,40 por milhão de entrada, razão 3:1), o equivalente fica em ~US$ 325.080/ano. Esse é o custo de oportunidade de não ter seu próprio cluster.
Break-even Paraguai: ~1,2-1,5 ano em 100% de uso, ~2,5-3 anos em 50%. Brasil: ~2,2-2,5 anos e ~4,3-5 anos. Mesmo no cenário pessimista (Brasil, 50% de uso), o cluster se paga em menos de 5 anos.
O preço de API é subsidiado — e esse é o ponto
O preço de API de US$ 4,40 por milhão de tokens de saída é subsidiado. Segundo dados financeiros da Z.AI, a empresa perdeu 4,72 bilhões de yuan em 2025 (~US$ 650 milhões) com receita de só ~US$ 99 milhões. Está queimando capital de IPO (US$ 558 milhões em janeiro de 2026) e de VCs como Alibaba e Tencent. O custo real de servir um token (CAPEX de GPU, energia, equipe, depreciação) é 3-5x maior que o preço cobrado. Estimativas de mercado indicam que a margem da NVIDIA no H200 é 70-80% — preço de monopólio.
Não é sustentável. Uma empresa que perde 6,5x sua receita anual não sobrevive sem capital externo infinito. E capital externo infinito não existe.
O que acontece quando o subsídio acaba
Quando o capital de IPO/VC acabar, os preços de planos e APIs precisam subir para cobrir custo real. Quem depende de infra de terceiro vai sentir o aperto de verdade: aumento de preço, rate limit, vendor lock-in. Self-hosting com pesos abertos sob licença MIT é seguro contra esse futuro. Mesmo que a Z.AI ou qualquer outra empresa do seguimento de IA tripliquem os preços, o modelo continua seu — inclusive para aprimorá-lo, possibilitando o desenvolvimento dos seus próprios modelos fundacionais baseados em modelo de ponta como o GLM-5.2 e outros open-source.
Se você não tem escala ou capacidade financeira para ter seu rack: para desfrutar dos benefícios do GLM-5.2, recomendamos o coding plan ou API. É o caminho mais curto para testar no seu fluxo enquanto o preço ainda é subsidiado.
Conclusão
Quem controla a infra controla o custo. Nós rodamos GLM-5.2 em 2 clusters, medimos throughput real e fizemos a matemática. O break-even existe — e chega mais rápido do que parece quando você para de pagar o subsídio de outra empresa. Na Tech86, nós ajudamos empresas a montar a infra de IA certa, no lugar certo, com a matemática certa.