O Fim do “AI All-You-Can-Eat”: Como Desenhar Workflows Agentic Quando Cada Token Tem Custo
Nos últimos dois anos consumimos IA como se fosse um buffet livre.
Pagávamos uma assinatura mensal e pronto. Abriam seu copiloto, faziam vinte perguntas ou duzentas, lançavam agentes sobre qualquer tarefa e assumiam que o custo era um problema de outra pessoa. A conversa girava em torno da qualidade: qual modelo escrevia melhor código, qual raciocínava mais profundamente ou qual resolvia melhor um benchmark.
Esse mundo está desaparecendo.
Os últimos movimentos do GitHub, Anthropic, OpenAI e praticamente todos os grandes provedores apontam na mesma direção: o consumo começa a ser medido explicitamente. Revisões automáticas que consomem créditos. Agentes que executam ações com custos diferenciados. Modelos premium com tarifas significativamente maiores. Equipes que recebem orçamentos concretos em vez de acesso ilimitado.
O resultado é desconfortável, mas saudável.
A pergunta deixa de ser “podemos usar agentes?” e passa a ser “como desenhamos sistemas agentic eficientes?”.
E curiosamente, essa é uma pergunta que Platform Teams e Staff Engineers já sabem responder. Respondemos antes com infraestrutura, observabilidade e Kubernetes. Agora é a vez de fazer isso com tokens.
O problema do buffet infinito
Quando o custo era invisível, os maus hábitos eram grátis.
Um desenvolvedor podia pedir ao agente para revisar o mesmo pull request cinco vezes com instruções ligeiramente distintas. Outro podia lançar análises completas sobre uma base de código para responder perguntas triviais. Um pipeline podia executar agentes especializados sobre cada commit, ainda que a mudança fosse corrigir um typo na documentação.
A consequência era uma ilusão perigosa: assumir que mais inferência equivale automaticamente a melhores resultados.
Não equivale.
De fato, muitos equipes estão descobrindo que grande parte do consumo provém de tarefas que nunca deveriam ter invocado um modelo frontier.
A IA terminou herdando o mesmo problema que tivemos com a nuvem: quando algo parece infinito, se desperdiça.
O novo princípio: tratar tokens como CPU
Durante anos aprendemos a pensar em CPU, memória e armazenamento como recursos finitos.
Otimizávamos queries, cacheávamos respostas e eliminávamos processos desnecessários porque entendíamos o impacto econômico.
Os tokens merecem exatamente o mesmo tratamento.
Cada interação com um agente tem um custo composto:
- Tokens de entrada.
- Tokens de saída.
- Tempo de execução.
- Ferramentas invocadas.
- Contexto carregado.
- Risco operacional associado.
Nem todas as decisões justificam esse gasto.
Um modelo premium resolvendo uma tarefa trivial é o equivalente moderno de subir um cluster gigantesco para servir uma página estática.
Funciona.
Mas é absurdo.
Desenhar workflows com “gates”
Um dos padrões mais efetivos consiste em introduzir comportas explícitas.
Nem toda tarefa merece o mesmo nível de inteligência.
Por exemplo:
Nível 1: Automatização barata
- Formatação.
- Linters.
- Validações determinísticas.
- Checks estruturais.
Custo de IA: zero.
Nível 2: Modelos pequenos
- Classificação.
- Resumos breves.
- Etiquetagem.
- Extração de informação.
Custo baixo.
Nível 3: Modelos frontier
- Revisões complexas.
- Design arquitetônico.
- Refactors amplos.
- Análise ambígua.
Custo alto.
O objetivo é simples: reservar a inteligência mais cara para os problemas que realmente a necessitam.
Não porque os modelos sejam ruins.
Porque são valiosos.
O inimigo silencioso: o contexto desnecessário
A maioria dos desperdícios não provém do modelo errado.
Provém do contexto errado.
É surpreendente quantos agentes recebem:
- repositórios completos,
- históricos inteiros de conversa,
- documentação irrelevante,
- dezenas de arquivos que nunca serão utilizados.
Enviar cem mil tokens quando bastavam cinco mil é equivalente a carregar um banco de dados completo para responder uma consulta pontual.
A disciplina muda.
Em vez de perguntar:
“Qual informação o agente poderia precisar?”
començamos a perguntar:
“Qual é o mínimo contexto necessário para resolver essa tarefa?”
Essa mudança mental costuma gerar reduções dramáticas em custos sem degradar resultados.
Menos agentes, melhores agentes
Houve um momento em que parecia que o futuro consistia em construir enxames infinitos de agentes especializados.
Um agente para investigar.
Outro para revisar.
Outro para documentar.
Outro para validar.
Outro para coordenar.
A realidade operacional está mostrando algo distinto.
Cada agente adicional introduz:
- novos custos,
- novas latências,
- mais pontos de falha,
- mais complexidade de observabilidade.
Muitas vezes, um workflow simples supera uma arquitetura espetacular.
Um agente competente com ferramentas bem definidas costuma gerar mais valor que dez agentes se coordenando para resolver um problema simples.
A sofisticação tem que se ganhar.
Não se assumir.
Observabilidade para tokens
Os equipes maduras já não perguntam quanto custa a plataforma ao final do mês.
Perguntam para onde foi o orçamento.
Isso implica instrumentar.
Medir:
- custo por repositório,
- custo por equipe,
- custo por fluxo,
- custo por pull request,
- custo por despliegue.
E, especialmente, identificar outliers.
O equivalente moderno do dashboard de infraestrutura é um painel que permita responder perguntas como:
- Quais workflows consomem mais?
- Quais prompts geram desperdício?
- Quais agentes agregam valor real?
- Quais automatizações deveriam ser eliminadas?
O que não se mede não se otimiza.
E o que não se otimiza eventualmente deixa de ser financiado.
O verdadeiro ROI da IA
Existe uma tentação perigosa: avaliar unicamente quanto gastamos.
Mas o objetivo nunca foi reduzir tokens.
O objetivo é maximizar valor.
Um workflow que custa mil dólares mensais e economiza quarenta horas de trabalho crítico pode ser extraordinário.
Outro que custa cem dólares para automatizar algo irrelevante pode ser um desastre.
O indicador correto não é “menos IA”.
É IA melhor.
Mais deliberada.
Mais focada.
Mais alinhada com resultados concretos.
A maturidade chega à engenharia assistida por IA
A etapa do entusiasmo ilimitado foi necessária.
Nos permitiu experimentar.
Descobrir casos de uso.
Entender capacidades.
Mas agora estamos entrando em uma fase distinta.
A engenharia assistida por IA começa a se parecer cada vez mais com qualquer outra disciplina madura de engenharia.
Com orçamentos.
Com restrições.
Com métricas.
Com decisões desconfortáveis.
E isso é uma excelente notícia.
Porque os equipes que aprendem a desenhar workflows agentic eficientes não apenas gastarão menos.
Vão construir sistemas mais rápidos, mais previsíveis e mais fáceis de escalar.
O fim do “AI all-you-can-eat” não representa o fracasso da IA.
Representa sua profissionalização.
E como costuma ocorrer em nossa indústria, as vantagens mais duradouras não aparecem quando os recursos são infinitos.
Aparecem quando aprendemos a utilizá-los com disciplina.
Por Grego — yoDEV