Custo de inferência é o que se paga cada vez que um modelo de IA processa uma requisição: tokens de entrada (instrução, contexto e pergunta) e tokens de saída (a resposta), cada um com seu preço por milhão. Multiplicado pelo volume, pelas repetições e descontado o cache, ele vira custo mensal e custo por usuário, o número que decide se a funcionalidade se paga.
Como usar
- Informe quantas requisições a funcionalidade faz por dia e a média de tokens de entrada e de saída de cada uma.
- Digite os preços por milhão de tokens da tabela atual do seu fornecedor; os do exemplo são ilustrativos.
- Se houver parte da entrada repetida, informe o percentual lido do cache e o preço do cache; some as repetições por erro.
- Para ver o custo por usuário, informe os usuários ativos no mês e, se quiser, a receita mensal por usuário.
- Leia a tabela de sensibilidade e exporte em PNG, PDF, CSV ou Markdown para levar à decisão.
O que cada campo pede
| Campo | O que preencher |
|---|---|
| Moeda | A mesma moeda dos preços e da receita que você informar. |
| Requisições por dia | Quantas vezes por dia a funcionalidade chama o modelo, somando todos os usuários. |
| Tokens de entrada por requisição | Instrução, contexto e pergunta enviados ao modelo, em média. |
| Tokens de saída por requisição | Tamanho médio da resposta gerada. |
| Preço da entrada | Preço por milhão de tokens de entrada, conforme a tabela atual do seu fornecedor. |
| Preço da saída | Preço por milhão de tokens de saída. Costuma ser maior que o da entrada. |
| Entrada lida do cache | Parte dos tokens de entrada que se repete e é cobrada como cache (instrução fixa, contexto comum). |
| Preço da entrada em cache | Preço por milhão de tokens lidos do cache. Vazio: igual ao preço da entrada. |
| Repetições | Parte das requisições chamada de novo por erro, tempo esgotado ou resposta rejeitada. |
| Usuários ativos no mês | Opcional: para calcular o custo por usuário. |
| Receita mensal por usuário ativo | Opcional: para comparar com o custo por usuário. |
Exemplo
Um aplicativo fictício de atendimento resume conversas com IA: 20.000 requisições por dia, 2.000 tokens de entrada e 400 de saída por requisição, preços ilustrativos de US$ 0,50 e US$ 2,00 por milhão, 40% da entrada lida do cache a US$ 0,05 e 3% de repetições. Cada requisição custa US$ 0,00148, o dia sai por US$ 29,66 e o mês por US$ 889,92. Com 8.000 usuários ativos, são US$ 0,111 por usuário, 5,6% da receita de US$ 2,00. A saída responde por 56% do custo: limitar o tamanho da resposta é a alavanca mais forte.
Quando usar
- Antes de aprovar uma funcionalidade com IA, para saber se o custo por usuário cabe na margem do produto.
- Ao comparar modelos ou fornecedores: troque os preços e veja o efeito no mês.
- Ao planejar crescimento: a tabela de sensibilidade mostra o custo com o dobro ou dez vezes o volume.
- Para decidir onde otimizar: resposta mais curta, contexto menor, mais cache ou menos repetições.
Perguntas frequentes
O que é um token?
É a unidade em que o modelo lê e escreve texto: um pedaço de palavra, uma palavra curta ou um sinal. A contagem varia por idioma e por modelo. Para estimar, meça algumas requisições reais com a ferramenta de contagem do seu fornecedor e use a média.
Por que a saída costuma pesar mais que a entrada?
Muitos fornecedores cobram mais por token gerado do que por token lido. Por isso uma resposta longa pode custar mais que um contexto grande. A calculadora mostra qual parte domina e qual alavanca atacar primeiro.
Como funciona o cache na conta?
Quando a mesma instrução ou o mesmo contexto se repete entre requisições, alguns fornecedores cobram menos pelos tokens lidos do cache. Informe a parte da entrada que se repete e o preço do cache. Sem preço de cache, a calculadora não aplica desconto.
Por que contar repetições?
Requisições que falham, estouram o tempo ou têm a resposta rejeitada e são chamadas de novo pagam entrada e saída outra vez. Uma taxa de 3% parece pequena, mas aparece no mês e cresce com o volume.
Os preços da calculadora são reais?
Não. Os valores do exemplo são ilustrativos e servem só para mostrar a conta. Use sempre a tabela atual do seu fornecedor para o modelo escolhido, porque os preços mudam com frequência.
Quanto do faturamento a inferência pode consumir?
Depende da margem do produto e dos outros custos. A calculadora compara o custo por usuário com a receita por usuário e avisa quando o custo passa da metade ou supera a receita. Esse é o ponto de partida para decidir preço, limite de uso ou otimização.
A conta inclui infraestrutura e pessoas?
Não. Ela cobre só o custo de chamar o modelo. Hospedagem, armazenamento, avaliação de qualidade, monitoramento e o time que opera a funcionalidade entram à parte no custo total.