El costo de inferencia es lo que se paga cada vez que un modelo de IA procesa una solicitud: tokens de entrada (instrucción, contexto y pregunta) y tokens de salida (la respuesta), cada uno con su precio por millón. Multiplicado por el volumen y los reintentos, y descontada la caché, se vuelve costo mensual y costo por usuario, la cifra que decide si la funcionalidad se paga sola.
Cómo usar
- Indica cuántas solicitudes hace la funcionalidad por día y el promedio de tokens de entrada y de salida de cada una.
- Escribe los precios por millón de tokens de la lista actual de tu proveedor; los del ejemplo son ilustrativos.
- Si parte de la entrada se repite, indica el porcentaje leído de caché y el precio de la caché; suma los reintentos por error.
- Para ver el costo por usuario, indica los usuarios activos en el mes y, si quieres, el ingreso mensual por usuario.
- Lee la tabla de sensibilidad y exporta en PNG, PDF, CSV o Markdown para llevar a la decisión.
Qué pide cada campo
| Campo | Qué completar |
|---|---|
| Moneda | La misma moneda de los precios y del ingreso que indiques. |
| Solicitudes por día | Cuántas veces al día la funcionalidad llama al modelo, sumando a todos los usuarios. |
| Tokens de entrada por solicitud | Instrucción, contexto y pregunta enviados al modelo, en promedio. |
| Tokens de salida por solicitud | Largo promedio de la respuesta generada. |
| Precio de la entrada | Precio por millón de tokens de entrada, según la lista actual de tu proveedor. |
| Precio de la salida | Precio por millón de tokens de salida. Suele ser mayor que el de la entrada. |
| Entrada leída de caché | Parte de los tokens de entrada que se repite y se cobra como caché (instrucción fija, contexto común). |
| Precio de la entrada en caché | Precio por millón de tokens leídos de caché. Vacío: igual al precio de la entrada. |
| Reintentos | Parte de las solicitudes llamadas de nuevo por error, tiempo agotado o respuesta rechazada. |
| Usuarios activos en el mes | Opcional: para calcular el costo por usuario. |
| Ingreso mensual por usuario activo | Opcional: para comparar con el costo por usuario. |
Ejemplo
Una app ficticia de atención al cliente resume conversaciones con IA: 20.000 solicitudes por día, 2.000 tokens de entrada y 400 de salida por solicitud, precios ilustrativos de US$ 0,50 y US$ 2,00 por millón, 40% de la entrada leída de caché a US$ 0,05 y 3% de reintentos. Cada solicitud cuesta US$ 0,00148, el día sale en US$ 29,66 y el mes en US$ 889,92. Con 8.000 usuarios activos, son US$ 0,111 por usuario, 5,6% del ingreso de US$ 2,00. La salida representa 56% del costo: limitar el largo de la respuesta es la palanca más fuerte.
Cuándo usar
- Antes de aprobar una funcionalidad con IA, para saber si el costo por usuario cabe en el margen del producto.
- Al comparar modelos o proveedores: cambia los precios y ve el efecto en el mes.
- Al planificar el crecimiento: la tabla de sensibilidad muestra el costo con el doble o diez veces el volumen.
- Para decidir dónde optimizar: respuesta más corta, contexto menor, más caché o menos reintentos.
Preguntas frecuentes
¿Qué es un token?
Es la unidad en que el modelo lee y escribe texto: un trozo de palabra, una palabra corta o un signo. El conteo varía por idioma y por modelo. Para estimar, mide algunas solicitudes reales con la herramienta de conteo de tu proveedor y usa el promedio.
¿Por qué la salida suele pesar más que la entrada?
Muchos proveedores cobran más por token generado que por token leído. Por eso una respuesta larga puede costar más que un contexto grande. La calculadora muestra qué parte domina y qué palanca atacar primero.
¿Cómo funciona la caché en la cuenta?
Cuando la misma instrucción o el mismo contexto se repiten entre solicitudes, algunos proveedores cobran menos por los tokens leídos de caché. Indica la parte de la entrada que se repite y el precio de la caché. Sin precio de caché, la calculadora no aplica descuento.
¿Por qué contar los reintentos?
Las solicitudes que fallan, agotan el tiempo o tienen la respuesta rechazada y se llaman de nuevo pagan entrada y salida otra vez. Una tasa de 3% parece pequeña, pero aparece en el mes y crece con el volumen.
¿Los precios de la calculadora son reales?
No. Los valores del ejemplo son ilustrativos y solo muestran la cuenta. Usa siempre la lista actual de tu proveedor para el modelo elegido, porque los precios cambian con frecuencia.
¿Cuánto del ingreso puede consumir la inferencia?
Depende del margen del producto y de los demás costos. La calculadora compara el costo por usuario con el ingreso por usuario y avisa cuando el costo pasa de la mitad o supera el ingreso. Ese es el punto de partida para decidir precio, límite de uso u optimización.
¿La cuenta incluye infraestructura y personas?
No. Cubre solo el costo de llamar al modelo. Alojamiento, almacenamiento, evaluación de calidad, monitoreo y el equipo que opera la funcionalidad van aparte en el costo total.