A janela de contexto é o número da IA que mais cresceu e menos foi entendida. Um milhão de tokens deixou de ser especificação de laboratório: o GLM-5.3-Flash oferece 1M de contexto com entrada de texto, imagem, vídeo e arquivo, e a pergunta prática mudou de "cabe?" para "o que fazer com isso?".
O que cabe (e o que isso destrava)
Três materiais que antes precisavam ser fatiados agora entram inteiros:
- A codebase com o histórico: revisão de arquitetura com a base completa e os commits recentes na mesma janela, em vez de arquivo por arquivo com o modelo esquecendo o começo.
- A reunião em vídeo: uma hora de gravação analisada diretamente, cruzando o que foi dito com o que foi exibido no slide.
- O contrato de 300 páginas: due diligence com cláusulas distantes entre si lidas em conjunto, o caso de uso clássico que o fatiamento estragava.
O padrão dos três: tarefas cuja dificuldade não era o modelo, era o fatiamento. O contexto longo elimina o fatiamento, e com ele a perda de fio entre pedaços.
O que a janela NÃO resolve
Honestidade técnica em três pontos:
- Contexto não é memória infinita. A janela tem início e fim; o que sai dela deixa de ser visto. Sessão longa ainda precisa de gestão de material.
- O reenvio é custo repetido. Cada chamada que carrega o contexto cobra por ele, salvo cache de prefixo. Tarefa longa sem estratégia de cache vira fatura grande. A contabilidade por tarefa é o que mantém a janela grande no positivo.
- Alcance não é precisão. Modelo com 1M de contexto alucina igual: ele enxerga mais, não acerta mais. Citação, número e cláusula extraídos de material longo continuam exigindo verificação contra a fonte, sobretudo onde a consequência existe.
As tarefas que ganham mais
Na prática do dia a dia, três perfis capturam quase todo o ganho:
- Análise de material único e coeso: contrato, edital, relatório longo, codebase. Tudo que antes era " envie a parte 3" agora é "envie o documento".
- Cruzamento de formatos: a ata em PDF, a planilha de decisões e a gravação em vídeo na mesma análise, sem conversão manual entre ferramentas.
- Trabalho de agente com material inteiro: o agente com acesso à base completa erra menos por falta de contexto, e erra menos por falta de contexto é menos retry, que é menos custo.
A fronteira prática com RAG
Contexto longo não aposenta a recuperação (RAG). Base de conhecimento viva, gigante e atualizada em tempo real continua pedindo recuperação: nenhum contexto estático comporta tudo.
A fronteira prática: material coeso que cabe na janela roda direto; base viva e gigante roda com recuperação. Os dois combinam, e o erro comum é escolher arquitetura por moda em vez de pelo material.
Conclusão
Um milhão de tokens mudou o que cabe numa análise: o documento inteiro, o vídeo inteiro, a base inteira. O que não mudou é a física do resto: custo de reenvio, limites de memória de sessão e a necessidade de verificação.
Quem trata a janela longa como material inteiro na mesa ganha nas tarefas de cruzamento, que são as mais caras do trabalho humano. Quem trata como memória infinita ganha fatura e alucinação. A janela é enorme; o manuseio é que decide o valor.