Custo com tokens preocupa empresas no uso da IA

O aumento do custo com tokens é nova preocupação de grandes empresas, principalmente entre aquelas que incentivaram a adoção massiva de assistentes com inteligência artificial generativa pelos seus funcionários nos últimos anos. Em um estudo divulgado nesta sexta-feira, 24, o Gartner projeta que os gastos globais com modelos fundacionais de IA devem chegar a US$ 23,5 bilhões até o final de 2026, o dobro se comparado com US$ 11,4 bilhões de 2025. Por sua vez, os gastos em modelos menores e especializados triplicarão (210%), de US$ 1,5 bilhão para US$ 5 bilhão. Rafael Pacheco, CEO da Wiv , relata que o Waizer , seu produto baseado em IA para analytics conversacional para empresas, consome 5 bilhões de tokens por mês. “Isso representa um gasto muito maior do que nós tínhamos há dois anos – ou seja, nosso consumo também vem crescendo bastante”. O executivo explica que as áreas internas de empresas que mais usam tokens e modelos de IA são os times de desenvolvimento de software, principalmente com os serviços que ajudam o desenvolvedor, como Claud Code da Anthropic, Codex da OpenAI e Microsoft Copilot. Em projetos para atender o usuário final, os tokens são mais consumidos por serviços de atendimento ao cliente. “Quando olhamos para a parte de aplicações conversacionais, que são os clientes que atendemos na Wiv, percebemos um consumo maior nas áreas de atendimento e customer service, que fazem tanto o atendimento de suporte aos clientes como também o pós-venda”, diz Pacheco. “Além disso, nós percebemos que as empresas de venda consomem bastante, especialmente no momento de suporte, antes da ‘entrada’ de um atendente ou vendedor na conversa”. Como funciona o consumo em IA Índice de custo por tarefa inteligente (crédito: Artificial Analysis) O consumo de tokens na maioria dos modelos é dividido em duas partes: A entrada (input) que é o processamento de dados feito ao efetuar uma requisição para a IA; E a saída (output) que é o resultado entregue pela IA. E os modelos que geram esses tokens também são divididos em dois formatos: Os proprietários (OpenAI ou Anthropic), que são mais caros, com menos controles de segurança e controlados por um único player; Os modelos open source (Llama, Mistral, DeepSeek), que são abertos, com mais controles, mas demandam mais hardware e equipe técnica com conhecimento. Porém, as empresas precisam se debruçar e encontrar a melhor forma de consumo para seus projetos de IA. Por exemplo, a plataforma Artificial Analysis que faz o benchmark de 581 modelos de IA disponíveis no mundo aponta o DeepSeek V4 Flash como um dos modelos abertos mais baratos para realizar tarefas (US$ 0,02), mas é o segundo que precisa consumir mais tokens para completar uma tarefa (45 mil tokens). Assim como um modelo proprietário caro como o GPT 5.6 Sol da OpenAI (US$ 1,04) para realizar tarefas, é um dos que menos usa tokens para completar as tarefas (15 mil tokens). Vale dizer que o cálculo da plataforma de comparação não considera custo por milhão, mas o custo de cada tarefa por pergunta, pensamento, armazenamento e resposta. FinOps dos Tokens Para Bruno Samora, CPO da Matera , o movimento que vemos com a IA é similar àquele que vimos o consumo de computação em nuvem (cloud computing) uma década atrás, o FinOps. Agora o mercado começa a tratar o “FinOps de Tokens”. Explica que muito dessas tarefas com IA dependem de usar o modelo correto, pois o custo pode crescer ao não escolher o modelo certo e não controlar o consumo. “À medida que a gente avança e o próprio mercado ganha mais maturidade, nós vamos aprendendo e modelando as estruturas para usar o modelo correto, que tenha o custo correto. Como o consumo de tokens é elevado, dependendo do caso, custa caro. Então, já faz parte do nosso dia a dia essa discussão também do como gerir melhor o modelo que a gente usa para ter o melhor balanço entre custo e resultado”, explica o especialista da companhia que trabalha com soluções para os bancos. Samora lembra ainda que plataformas abertas como GitHub e até proprietárias como a OpenAI tem alterado o formato de cobrança diante deste novo cenário. Além disso, o Google apresentou novos modelos de inteligência artificial nesta semana com menos consumo de tokens . Pelo lado de quem trabalha com jornadas conversacionais, Giovanna Dominiqui, diretora de vendas da Infobip na América Latina, detalha que o mercado como um todo passou da fase de experimentação para a eficiência do uso operacional da IA. Mas como a cobrança é baseada em tokens e o usuário na ponta utiliza o serviço de forma livre (áudio, texto e imagem), a previsão dos custos se tornou um desafio. Uma das formas que a companhia usa para controlar o consumo de tokens em projetos de IA conversacional é colocar guardrails para limitar os formatos de respostas: “Vamos muito caso a caso. Não tem um custo fixo, como tínhamos em mensagens naqueles bots de árvores tradicionais. Mas nós tentamos entregar para o cliente essa previsibilidade. Isso é um desafio, um desafio para todo mundo”, diz Dominiqui. Para Gustavo Torres, head de inovação e tecnologia do C6 Bank , o segredo está em definir o modelo de IA certo para a tarefa certa. Para isso, o banco construiu uma estrutura interna que consome os modelos e os tokens de forma agnóstica e que tem como objetivo evitar o lock-in com apenas um fornecedor de modelos fundacionais, navegar na estratégia de preços de tokens e evoluir rapidamente com novos modelos de IA que surgirem. “O que entendemos aqui é que devem existir algumas limitações de modelos com base nos casos de uso, para não se usar por usar”, explica Torres, do banco que possui a C6 Assistant. “Se eu deixar todo mundo usando o Opus 4.8 (um modelo de reasoning muito avançado da Anthropic) é um desperdício de dinheiro. Não podemos usar esse modelo para qualquer coisa, como perguntas triviais e tarefas simples, pois o Opus é para tarefas mais complexas”, completa. A visão do executivo é corroborada por um estudo da Iron Mountain, divulgado nesta semana, no qual a empresa de infraestrutura de TI revela que, apesar dos custos de consumo dos grandes modelos de linguagem estarem caindo dez vezes na média anual, a redução está impulsionando o consumo de tokens. “As organizações já percebem que o uso excessivo de IA afeta diretamente suas margens de lucro. A transição para modelos de precificação baseados em uso significa que as lideranças precisam monitorar de perto como os colaboradores utilizam a IA. Em vez de aplicá-la em tarefas desnecessárias, será preciso estabelecer diretrizes e limites para garantir que a tecnologia seja usada nos processos corretos”, diz trecho do material. Estrutura e pessoal Um outro trecho do relatório da Iron Mountain prevê um impacto direto nas infraestruturas que proveem a inteligência artificial para todo o mercado para os próximos cinco anos. Isso culminará em: Um déficit massivo global na oferta de data centers contra a demanda que vai aumentar mais de 500%, com apenas 90 GW para suprir os usos de IA até 2030; Até 2030, 80% da carga crítica de TI será para inferência, em uma inversão total do cenário atual que é mais focado em treinamento. Ou seja, i nferência/uso de IA terá quatro vezes mais estrutura que aquela para treinar modelos de IA até 2030. Neste cenário, Leandro Marçal, diretor de tecnologia do Bradesco , explica que o banco adota uma estratégia híbrida, ao combinar parte dos fluxos de trabalho na nuvem (AWS e Microsoft) e outra parte em seus data centers proprietários na Cidade de Deus, Alphaville e Curitiba para ter melhor custo-benefício. Além disso, o Bradesco utiliza a Bridge, um barramento central que governa os acessos aos modelos de IA por custos e tipo, ao mesmo tempo que permite acesso aos modelos de fundação mais recentes do mercado. “Acreditamos que a IA generativa é habilitadora para fazer um monte de coisas no banco, em operação, tecnologia e na área de negócios. Mas temos aproveitado bastante desta nova tecnologia, sem se apaixonar pelo hype de ‘vamos colocar IA em tudo’, mas usando de forma bastante consciente. Até porque tem um custo elevado, não é barato e precisa gerar valor, tanto no ciclo de vida de desenvolvimento de produto, quanto em nossas jornadas de modernização”, argumenta Marçal. Por sua vez, Marcos Bonas, VP de engenharia, arquitetura e vendas da Zup , lembra que antes as empresas que faziam projetos de tecnologia davam orçamento de tokens livres por usuário para forçar a experimentação, mas o foco está mudando para extrair eficiência utilizando a menor quantidade de tokens possível. Para isso, as companhias usam técnicas como contexto de repositório (function calling) e estruturas de prompt avançadas. Pelo lado da empresa de tecnologia, o especialista revela que os seus profissionais estão sendo preparados para saber quando é necessário usar um modelo simples e quando precisa usar um modelo robusto. Custo com tokens em debate no Super Bots Experience 2026 A construção de agentes de IA eficientes em consumo de tokens será tema de um painel de debates no Super Bots Experience, evento que acontecerá nos dias 18 e 19 de agosto, no WTC, em São Paulo, com organização do Mobile Time. O painel, intitulado “ Desafios na construção de agentes de IA eficientes e seguros” terá como participantes: Caio Borges, country manager Brasil, Infobip José Caodaglio , CEO, Colmeia Nicola Sanchez , CEO, Matrix Go Rafael Souza , CEO, Ubots A agenda atualizada e mais informações sobre o evento estão disponíveis em www.botsexperience.com.br