Gerir custos de tokens

Os seus custos de IA também estão a subir? Então está provavelmente a consumir mais do que pensa.

O preço por token desce há anos e, ainda assim, a fatura cresce. Não é um erro na contabilidade, é uma consequência direta da forma como as aplicações de IA funcionam. Nesta página explicamos por onde foge o consumo e que alavancas pode acionar.

Fale sobre a sua situação Faça o AI Readiness Scan →

Porque sobem os custos de IA enquanto os tokens ficam mais baratos?

Porque o consumo cresce mais depressa do que o preço desce. Um modelo de linguagem não guarda nada entre chamadas, por isso instruções, ficheiros recolhidos e passos anteriores seguem sempre outra vez. Uma tarefa de vinte passos paga esse contexto vinte vezes. O controlo vem de tornar o consumo visível, cortar contexto e encaminhar o trabalho para o modelo mais leve que sirva.

O consumo cresce mais depressa do que o preço por token desce
O contexto repetido é o maior custo escondido
Os tokens de saída e de raciocínio pesam mais do que os de entrada
Gerir pelo custo por tarefa, e não pelo total mensal

O paradoxo: mais barato por token, mais caro por mês

Quem acompanha as tarifas dos grandes fornecedores de modelos vê-as a descer há anos. Quem acompanha ao mesmo tempo a sua própria despesa com IA vê-a a subir. Estas duas linhas não se contradizem: medem coisas diferentes. Uma mede o preço de uma unidade, a outra o número de unidades que consome.

E esse número cresce depressa, porque cada melhoria que faz numa aplicação de IA custa tokens. Dá melhores instruções ao modelo, deixa-o procurar primeiro nos seus próprios documentos, dá-lhe acesso aos seus sistemas, pede-lhe que verifique o próprio trabalho. Cada um destes passos faz sentido. Juntos significam que uma pergunta de um utilizador se transforma, por baixo, numa série de chamadas, cada uma com um pacote de contexto maior a acompanhá-la.

Acresce que o consumo se comporta de forma diferente de uma licença. Uma subscrição é previsível: sabe o que faz por mês. O consumo reage ao comportamento — a uma semana intensa, a uma equipa que descobre um novo fluxo de trabalho, a um processo que falha mais vezes do que o esperado. Sem visibilidade, só depois percebe o que aconteceu.

A boa notícia: isto quase nunca é um problema tecnicamente insolúvel. Em praticamente todas as aplicações de IA que abrimos, uma parte significativa do consumo está em trabalho de que ninguém sente falta quando desaparece.

Por onde foge o consumo

Seis mecanismos explicam a maior parte de uma fatura de IA a subir. Raramente aparecem num painel, mas estão em quase todas as aplicações.

Contexto que segue junto em cada passo

Um modelo de linguagem não guarda nada entre duas chamadas. Tudo o que precisa de saber é enviado outra vez de cada vez. Um assistente que resolve uma tarefa em vinte passos envia esse histórico acumulado vinte vezes. Cara não é a primeira pergunta, é a vigésima.

Instruções e definições de ferramentas que viajam sempre

A instrução de sistema, as regras de comportamento e a descrição de todos os sistemas a que a IA pode aceder: esses blocos são fixos, mas seguem em cada chamada. Invisíveis na interface, pesados na fatura.

Resultados de pesquisa que chegam demasiado largos

Quando a solução procura primeiro nos seus próprios documentos, a tentação é recolher com generosidade: mais excertos, blocos maiores, sobreposição extra. Isso reduz o risco de perder uma resposta, mas cada excerto extra é pago em cada pergunta.

A saída pesa mais do que a entrada

Aquilo que o modelo escreve conta várias vezes mais do que aquilo que lhe dá, em praticamente todos os fornecedores. Modelos que 'pensam em voz alta' antes de responder produzem ainda passos intermédios que nunca vê mas que paga. Uma instrução como 'sê exaustivo' é, por isso, uma decisão de custo.

Repetições, novas tentativas e ciclos

Uma chamada falhada que é repetida automaticamente, um agente que anda às voltas porque um passo não fecha, um utilizador que reformula três vezes: nada disso fica registado como 'erro'. Desaparece no total e cresce em silêncio.

O modelo mais pesado como escolha por omissão

Na fase de construção escolhe-se o modelo mais forte, porque assim tudo funciona. Essa escolha costuma ficar, incluindo para o trabalho simples de encaminhamento: classificar um e-mail, resumir um formulário, preencher um campo. Ferramenta pesada para trabalho leve é o hábito mais caro que existe.

Seis alavancas que pode acionar

Não tem de escolher entre barato e bom. Na prática estas seis intervenções reforçam-se umas às outras — e juntas rendem muito mais do que cada uma isolada.

Encaminhe consoante a dificuldade

Nem toda a pergunta merece o modelo mais pesado. Deixe um modelo leve tratar do trabalho de rotina e só escale quando a tarefa o exigir, ou quando o próprio modelo leve indicar que não consegue. É normalmente a maior poupança e a alteração menos visível para quem usa.

Reutilize o que não muda

Instruções fixas, contexto padrão e documentação podem ser reutilizados em vez de pagos de novo em cada chamada. A condição é estruturar o pedido com a parte fixa à frente e a parte variável no fim. Uma escolha de estrutura de uma tarde, com efeito em todas as chamadas seguintes.

Ponha em fila o trabalho que pode esperar

Nem tudo tem de responder num segundo. O enriquecimento noturno do CRM, a limpeza de um arquivo de ficheiros, os relatórios: esse trabalho pode esperar. Os fornecedores compensam isso com uma tarifa claramente mais baixa por lote processado.

Corte no que envia

Resuma conversas longas em vez de as arrastar por inteiro. Recolha menos, mas com mais precisão, das suas próprias fontes. Elimine descrições de ferramentas que a IA nunca usa neste processo. Menos contexto costuma dar também melhor resposta: os modelos perdem nitidez numa janela sobrecarregada.

Ponha limites no software, não num memorando

Um número máximo de passos por tarefa, um teto por equipa, um alerta quando o consumo se afasta do padrão. Os limites que vivem no software funcionam; os que vivem apenas na política descobrem-se na fatura final.

Meça por tarefa, não por mês

Um total mensal não diz nada. O custo por pedido tratado, por ficheiro processado ou por ticket resolvido diz tudo: que aplicação se paga a si própria, qual está a fugir ao controlo e onde faz sentido escalar.

PME ou grande organização: o ganho está noutro sítio

O mecanismo é o mesmo, a maior poupança não. Comece onde a sua organização está a deixar mais em cima da mesa.

PME

Arrumar o que já tem

Licenças que paga para pessoas que quase não abrem a ferramenta.
Três assistentes lado a lado a fazer em grande parte o mesmo trabalho.
Automatizações a consumir em segundo plano sem dono.
Alguém a acompanhar o consumo, em vez de ninguém.

Normalmente uma questão de sessões, não de meses. O ganho está na visão de conjunto: saber o que contrata, quem usa e o que rende.

Grande organização

Gerir aquilo que está disperso

Atribuir o consumo a equipas e aplicações em vez de a uma rubrica única.
Tetos e alertas no software, e não apenas na política.
Uma verificação de custo antes de uma nova aplicação entrar em produção.
Acordos sobre qual é o modelo por omissão e quando se escala.

Aqui o problema não é a intervenção isolada, mas o facto de ninguém ver o conjunto. O controlo surge assim que cada equipa vê o seu próprio consumo e responde por ele.

A pergunta não é "quanto custa", mas "quanto custa uma tarefa"

Um valor mensal diz pouco. Não lhe diz que aplicação se paga a si própria e qual está a queimar dinheiro em silêncio. Assim que traduz o consumo para um pedido tratado, um ficheiro processado ou uma pergunta de cliente respondida, a conversa torna-se concreta.

Porque então pode fazer a única comparação que interessa mesmo: quanto custa esta tarefa com IA e quanto custa a mesma tarefa sem. Se a comparação for favorável, uma fatura a subir não é um problema mas um sinal de que está a escalar. Se for desfavorável, sabe exatamente que aplicação tem de rever — e não que "a IA é cara".

É também por causa desta conta que não trabalhamos com uma lista de preços. O valor de uma solução de IA está no que uma tarefa custa face ao que rende, e isso varia de processo para processo e de organização para organização. O que vale em todo o lado: se não medir essa relação, está a decidir por intuição.

Sobre o investimento num projeto, leia quanto custa uma implementação de IA. Como funcionam os agentes e porque consomem tanto está explicado na base de conhecimento em agente de IA e RAG. Ainda está no início? Veja começar com IA.

Assim tornamos os seus custos de tokens controláveis

Não é uma grande operação de limpeza, são quatro passos que tornam o consumo visível e o mantêm assim.

Tornar visível para onde vai
primeiro passo

Repartimos o seu consumo por aplicação, equipa e tarefa. Sem esse retrato, qualquer poupança é um palpite. Muitas vezes a maior parte da fatura vem de um punhado de processos.
Primeiro o dinheiro fácil
prazo curto

Contexto supérfluo, ligações que ninguém usa, trabalho repetido que pode ser reutilizado e o modelo demasiado pesado em trabalho leve. Intervenções que o utilizador não nota e que se veem de imediato.
Garantir a qualidade em cada alteração
contínuo

Mais barato nunca pode significar pior. Definimos à partida o que é uma boa resposta, medimos isso a cada ajuste e revertemos tudo o que prejudique a qualidade. Poupar sem régua é adiar problemas.
Consolidar para não voltar atrás
estrutural

Tetos, alertas e uma verificação de custo fixa para cada nova aplicação. Assim o controlo passa a ser uma característica da organização e não um projeto que se fez uma vez.

Quer saber por onde foge o seu consumo?

O AI Readiness Scan mapeia que aplicações tem a correr, o que rendem e onde lhe falta controlo. Um ponto de partida concreto para uma conversa sobre custos.

Faça o AI Readiness Scan

O que rende uma solução de IA bem construída

Todos os projetos →

juridisch

Perguntas frequentes sobre custos de tokens

O que são exatamente tokens?

Um token é um pedaço de texto: muitas vezes uma palavra, por vezes parte de uma palavra ou um sinal de pontuação. Os modelos de linguagem não cobram por pergunta mas por token, contando tanto o que entra como o que sai. A partir do momento em que usa IA dentro de um processo, e não numa janela de conversa, é esse número que determina a sua fatura.

Porque é que a minha fatura de IA sobe enquanto as tarifas descem?

Porque o consumo cresce mais depressa do que o preço por token desce. As aplicações ficam mais inteligentes ao enviar mais contexto: instruções mais longas, ficheiros recolhidos, histórico da conversa, passos intermédios. Cada melhoria custa tokens. A unidade mais barata só se sente quando também gere o número de unidades que consome.

Porque é que os agentes de IA são muito mais caros do que um chatbot?

Uma pergunta de conversa é uma ida e volta. Um agente trabalha por passos: planear, procurar algo, consultar um sistema, verificar, corrigir. Em cada passo todo o contexto acumulado segue outra vez, incluindo os resultados intermédios. Por isso os analistas veem tarefas com agentes a consumir um múltiplo de uma única pergunta de conversa — a variação é grande consoante a tarefa, e é essa imprevisibilidade que torna os limites importantes.

Isto também é relevante para uma PME?

Sim, mas a atenção vai para outro sítio. Em organizações mais pequenas o dinheiro está normalmente em licenças que ninguém usa, em três assistentes lado a lado a fazer em grande parte o mesmo, e em automatizações que consomem em segundo plano sem que alguém esteja a acompanhar. Isso costuma resolver-se em algumas sessões, enquanto as organizações maiores enfrentam antes um consumo espalhado por muitas equipas.

A qualidade baixa se eu gerir os custos?

Não, se o fizer com cuidado. Cortar no contexto até torna as respostas mais afiadas, porque o modelo tem menos ruído para pesar. O risco está em mudar às cegas para um modelo mais leve. Por isso definimos primeiro o que é uma boa resposta, testamos cada alteração contra isso e revertemos o que não aguenta.

Quando é que faz sentido ter um modelo próprio em infraestrutura própria?

Só quando o seu volume é previsível e grande, ou quando os seus dados não podem mesmo sair de casa. Abaixo desse limiar paga sobretudo pessoas e manutenção, e não capacidade de cálculo. Para a maioria das organizações, usar melhor os modelos existentes é um caminho mais rápido e mais seguro do que alojar tudo internamente.

Como evito que daqui a seis meses volte a descontrolar-se?

Colocando o controlo no software e não em acordos. Tetos por aplicação, alertas para consumo fora do padrão e uma verificação de custo fixa antes de uma nova aplicação entrar em produção. Quem continua a seguir o custo por tarefa tratada vê o problema a chegar em vez de o descobrir na fatura.

A sua fatura de IA está a subir mais depressa do que esperava?

Marque uma conversa sem compromisso. Olhamos para o que tem a correr, de onde vem o consumo e que intervenções têm efeito mais rápido na sua situação.

Fale sobre a sua situação