Framework de FinOps para agentes de IA
Custo de agente de IA não se parece com custo de software tradicional: não é uma licença fixa por usuário, é uma função de quantas chamadas de ferramenta, quantos tokens de contexto, e quantas tentativas (retries) uma tarefa específica consome. A pesquisa State of AI Agents, da LangChain, mostra que isso já dói: 22,4% das pequenas empresas citam custo como barreira de adoção - um número que tende a crescer conforme agentes assumem tarefas mais longas e complexas.
Preço por uso já é o modelo padrão, não a exceção
O AWS Bedrock AgentCore cobra Web Search a $7 por 1.000 consultas - sem compromisso antecipado, preço direto por unidade de uso. Isso não é escolha isolada da AWS: é o padrão que qualquer FinOps de agente precisa assumir como ponto de partida. Diferente de uma licença de software com custo previsível mês a mês, o custo de um agente varia com o volume real de trabalho que ele executa - o que torna medição granular, não estimativa agregada, o único jeito de prever gasto com confiança.
Por que "custo por resposta" não é a métrica certa
Medir só o custo da resposta final esconde onde o dinheiro realmente vai: quantas chamadas de ferramenta uma tarefa exigiu, quantos tokens de contexto foram processados em cada etapa, e quantas vezes o agente precisou tentar de novo antes de ter sucesso. Uma tarefa que "custou pouco" na resposta final mas exigiu 5 retries e 10 chamadas de ferramenta tem um custo real muito maior do que aparenta.
As dez métricas do framework
- Custo por execução - o total gasto do início ao fim de uma tarefa, não só a última chamada
- Custo por tool call - cada ferramenta chamada tem seu próprio custo, alguns muito maiores que outros (busca externa, por exemplo, cobra por consulta)
- Custo por PR - para coding agents, o custo real de cada pull request gerado, incluindo iterações de correção
- Custo por requisito - do requisito inicial até a entrega, cobrindo todas as tentativas
- Custo por bug corrigido - comparável ao custo de um humano corrigir o mesmo bug, para justificar o investimento
- Tokens por etapa - onde o contexto está sendo gasto dentro do próprio fluxo, não só no total
- Retries por tarefa - cada nova tentativa é custo adicional; retries altos indicam problema de design, não só de sorte
- Latência por fluxo - tempo também é custo, especialmente quando bloqueia um humano esperando
- Custo por contexto - o preço de manter (ou não) uma janela de contexto grande e cara por chamada
- Custo evitado por automação - a métrica que justifica tudo: quanto custaria a mesma tarefa sem o agente
O que isso significa para quem aprova orçamento
Sem essas dez métricas, aprovar orçamento para agentes de IA vira decisão de fé, não de dado. Com elas, é possível responder perguntas concretas: este agente está ficando mais caro por tarefa ao longo do tempo (sinal de degradação ou de tarefas mais complexas)? Retries estão subindo (sinal de que o design do agente, não o volume de uso, é o problema)? O custo evitado por automação ainda supera o gasto real, ou a economia esperada já não se sustenta?
Fontes
- AWS - Announcing Web Search on Amazon Bedrock AgentCore - https://aws.amazon.com/blogs/aws/announcing-web-search-on-amazon-bedrock-agentcore-ground-your-ai-agents-in-current-accurate-web-knowledge/
- LangChain - State of AI Agents - https://www.langchain.com/stateofaiagents