Cuando comenzamos a trabajar con APIs de inteligencia artificial, uno de los primeros conceptos que encontramos es el de los tokens. Aparecen en los paneles de consumo, en la documentación técnica y en las facturas de los proveedores.
Pero ¿qué son exactamente? ¿Por qué se dividen en tokens de entrada y salida? ¿Cómo influyen en el costo de una aplicación?
En este artículo veremos cómo funcionan los tokens, qué tipos existen y cómo podemos controlar su consumo al integrar modelos de inteligencia artificial en nuestros proyectos.
1. ¿Qué es un token?
Un token es una unidad de texto que un modelo de inteligencia artificial utiliza para procesar información. Puede representar una palabra completa, una parte de una palabra, un signo de puntuación o una combinación de caracteres.
Por ejemplo, la frase:
Hola, ¿cómo estás?
Se divide en unidades que dependen del sistema de tokenización del modelo. No necesariamente corresponde a cinco tokens, ya que cada modelo utiliza su propio vocabulario y sus propias reglas.
Como referencia aproximada, en inglés un token suele equivaler a unos cuatro caracteres de texto. En español, la relación puede variar debido a los acentos, las palabras poco frecuentes y las estructuras lingüísticas.
Por esta razón, no existe una equivalencia exacta entre palabras y tokens.
2. Tipos de tokens
En las APIs de inteligencia artificial encontramos diferentes categorías de tokens. Las más importantes son las siguientes.
Tokens de entrada (input tokens)
Son los tokens que enviamos al modelo para que procese una solicitud.
Pueden incluir:
- La pregunta o instrucción del usuario.
- Las instrucciones del sistema.
- El historial de una conversación.
- El código fuente que queremos analizar.
- El contenido de documentos u otros datos de texto.
Por ejemplo, si enviamos una función PHP para que la IA encuentre errores, el código también forma parte de la entrada y consume tokens.
Tokens de salida (output tokens)
Son los tokens que genera el modelo como respuesta.
Pueden corresponder a:
- Explicaciones y respuestas.
- Código de programación.
- Documentos y resúmenes.
- Objetos JSON.
- Clasificaciones y otros resultados estructurados.
Una respuesta extensa consume más tokens de salida que una respuesta breve, aunque el costo exacto depende del modelo utilizado.
Tokens de razonamiento (reasoning tokens)
Algunos modelos utilizan tokens internos para realizar tareas de razonamiento antes de generar la respuesta final.
Estos tokens no siempre aparecen en el texto que recibe el usuario. Sin embargo, dependiendo del proveedor y del modelo, pueden contabilizarse como parte del consumo facturable.
Es importante revisar la documentación para saber cómo se registran y cobran.
Tokens de entrada en caché (cached input tokens)
Algunos proveedores permiten reutilizar partes de solicitudes anteriores, como instrucciones extensas que se repiten con frecuencia.
Cuando se cumplen las condiciones de la caché, esos tokens pueden tener una tarifa inferior a la de los tokens de entrada normales.
Esto resulta útil en aplicaciones que utilizan instrucciones de sistema largas o mantienen un contexto común entre muchas solicitudes.
3. ¿Cómo se cobran los tokens?
Muchos proveedores establecen sus precios por cada millón de tokens procesados. Además, las tarifas de entrada y salida suelen ser diferentes.
La siguiente tabla muestra un ejemplo hipotético de tarifas:
| Concepto | Precio por millón de tokens |
|---|---|
| Entrada normal | $1.00 USD |
| Entrada en caché | $0.20 USD |
| Salida | $3.00 USD |
Estos valores son ilustrativos, no tarifas vigentes de un proveedor específico. Cada modelo tiene sus propios precios y condiciones.
Ejemplo de cálculo
Supongamos que una petición utiliza:
- 1,000 tokens de entrada.
- 2,000 tokens de salida.
Con las tarifas anteriores, el costo se calcula de la siguiente manera:
Entrada:
1,000 / 1,000,000 × $1.00 = $0.001 USD
Salida:
2,000 / 1,000,000 × $3.00 = $0.006 USD
Costo total:
$0.001 + $0.006 = $0.007 USD
El resultado es de $0.007 USD por petición, sin considerar posibles impuestos, cargos adicionales u otros recursos facturables.
Aunque el costo de una sola solicitud puede parecer insignificante, el volumen de uso es determinante. Una aplicación con miles de usuarios puede acumular un gasto considerable si no controla el consumo.
4. ¿Qué es la ventana de contexto?
La ventana de contexto es la cantidad máxima de tokens que un modelo puede considerar durante una solicitud, de acuerdo con sus límites técnicos.
Imaginemos un modelo con una ventana de contexto de 128,000 tokens. Esto no significa necesariamente que pueda generar una respuesta de esa longitud: el modelo puede tener un límite de salida independiente y otras restricciones.
La ventana de contexto puede incluir:
- Las instrucciones del sistema.
- Los mensajes anteriores de la conversación.
- La nueva pregunta.
- Los documentos y datos enviados.
- Otros elementos que la API incorpore a la solicitud.
¿Por qué importa?
Cuanto más contenido enviamos, mayor puede ser el consumo de entrada.
Por ejemplo, si queremos analizar una función PHP, normalmente resulta más eficiente enviar la función y sus dependencias relevantes que incluir todo el código fuente de una aplicación.
El contexto debe ser suficiente para resolver la tarea, pero no necesita contener información irrelevante.
5. El consumo en conversaciones largas
Uno de los detalles que conviene entender es que el consumo puede aumentar durante una conversación.
Supongamos que una aplicación realiza tres solicitudes:
- Preguntamos cómo funciona una función PHP.
- Solicitamos una optimización de esa función.
- Pedimos una versión corregida del código.
Si la integración vuelve a enviar todo el historial en cada solicitud, el modelo procesará nuevamente los mensajes anteriores.
Por tanto, aunque el usuario escriba una pregunta breve, la entrada puede contener cientos o miles de tokens adicionales.
La caché de entrada puede reducir el costo cuando está disponible y se cumplen sus condiciones, pero no elimina necesariamente el consumo de tokens.
6. ¿Qué sucede con las imágenes, el audio y los archivos?
No todas las modalidades de una API se facturan de la misma manera.
| Tipo de contenido | Modalidades de cobro posibles |
|---|---|
| Texto | Tokens de entrada y salida |
| Imágenes | Tarifas por imagen, resolución o procesamiento |
| Audio | Tokens de audio, duración o modalidad específica |
| Generación de imágenes | Precio por imagen o por generación |
| Búsquedas web | Precio por consulta, tokens u otros cargos |
| Embeddings | Tokens de entrada procesados |
Los métodos de facturación dependen del proveedor y del modelo.
Por ejemplo, enviar una fotografía para que la IA la describa puede tener un costo diferente al de enviar únicamente una descripción escrita. Del mismo modo, generar una imagen puede utilizar una tarifa específica que no se calcula simplemente contando tokens de texto.
Por eso, es importante consultar la documentación de precios antes de implementar una funcionalidad multimodal.
7. Tokens, límites de uso y velocidad
Además del costo, existen otros límites que debemos conocer.
Ventana de contexto
Determina cuánto contenido puede considerar el modelo durante una solicitud.
Máximo de salida
Define cuántos tokens puede generar una respuesta, según los límites del modelo y de la API.
Límites de solicitudes
Los proveedores pueden establecer límites de solicitudes o tokens por minuto, por día u otros intervalos.
Estos límites se conocen habitualmente como rate limits.
Alcanzar un límite de solicitudes no significa necesariamente que se haya agotado el saldo. Son restricciones diferentes: una controla el ritmo de uso y otra corresponde a la facturación.
8. ¿Cómo consultar el consumo desde una aplicación?
Cuando integramos una API, no conviene calcular los tokens contando palabras o caracteres. Lo recomendable es utilizar los datos de uso que devuelve el proveedor.
Una respuesta podría incluir un objeto similar al siguiente:
{
"usage": {
"input_tokens": 800,
"output_tokens": 1200,
"total_tokens": 2000
}
}
Este ejemplo es ilustrativo. Los nombres y la estructura de los campos dependen de cada API.
Con esta información podemos registrar el consumo y relacionarlo con las operaciones de nuestra aplicación.
Algunas métricas útiles son:
- Tokens de entrada por solicitud.
- Tokens de salida por solicitud.
- Costo estimado por operación.
- Consumo por usuario.
- Consumo acumulado por día o mes.
- Tiempo de respuesta y errores.
En aplicaciones con un volumen considerable de peticiones, estas métricas ayudan a detectar operaciones costosas y a establecer límites de uso.
9. Estrategias para reducir el consumo
Optimizar el uso de tokens no consiste simplemente en escribir prompts más cortos. El objetivo es enviar la información necesaria y obtener resultados adecuados sin generar trabajo innecesario.
Utilizar instrucciones precisas
Una instrucción clara puede evitar respuestas que no necesitamos.
En lugar de solicitar una explicación extensa, podemos pedir únicamente el formato de salida requerido.
Limitar la longitud de las respuestas
Si solo necesitamos una clasificación, una respuesta breve o un objeto JSON, podemos indicarlo expresamente y configurar el máximo de salida cuando la API lo permita.
Enviar solo el contexto relevante
No es necesario enviar toda una base de código, un documento completo o una conversación extensa cuando la tarea puede resolverse con una parte específica.
Seleccionar el modelo adecuado
No todas las tareas requieren el modelo más costoso. Para operaciones sencillas, como clasificar textos o extraer campos, un modelo más económico puede ser suficiente.
La elección debe considerar tanto el costo como la calidad necesaria.
Aprovechar la caché
Si repetimos instrucciones largas, conviene revisar si el proveedor admite caché de entrada y qué condiciones deben cumplirse para obtener el descuento.
Medir antes de optimizar
Registrar el consumo real permite identificar qué operaciones generan el mayor gasto y priorizar las optimizaciones con más impacto.
10. ¿Los Playground también consumen tokens?
Sí, cuando el Playground utiliza una API con facturación por consumo, las pruebas pueden contabilizarse como uso de la API.
Un Playground es un entorno visual que permite experimentar con modelos sin tener que programar toda la integración.
Podemos utilizarlo para:
- Comparar modelos.
- Probar diferentes instrucciones.
- Ajustar parámetros.
- Evaluar la calidad de las respuestas.
- Preparar una configuración antes de integrarla en una aplicación.
Sin embargo, las condiciones dependen de la plataforma. Algunas ofrecen créditos gratuitos, cuotas de prueba o modalidades con precios específicos.
También debemos distinguir entre un asistente de IA gratuito para usuarios finales y un servicio para desarrolladores. Aunque ambos utilicen tecnología relacionada, pueden tener condiciones de acceso y facturación diferentes.
11. Conclusión
Los tokens son una unidad fundamental para entender cómo funcionan y cuánto cuestan las APIs de inteligencia artificial.
Los tokens de entrada representan la información que enviamos; los de salida, el contenido que genera el modelo; y otras modalidades, como el razonamiento o la caché, pueden afectar la forma en que se contabiliza el consumo.
Para los desarrolladores, comprender estos conceptos permite diseñar aplicaciones más eficientes, estimar costos y establecer límites de uso.
La recomendación es sencilla: medir el consumo real, seleccionar el modelo adecuado y enviar únicamente el contexto necesario.
Una petición puede costar muy poco, pero cuando una aplicación crece, controlar cada operación se convierte en una parte importante de su arquitectura.