Uso de tokens
El control de tokens en Devic permite analizar el consumo real de recursos durante la ejecución de los agentes.Cada interacción con el modelo —ya sea entrada de datos, generación de respuestas o uso de herramientas— queda registrada para ofrecer una visión precisa del coste operativo y la eficiencia del agente.
Desglose de consumo
Al situar el cursor sobre el campo Tokens de cualquier ejecución, se despliega un resumen con el detalle de uso:| Métrica | Descripción |
|---|---|
| Input Tokens | Tokens consumidos por la información de entrada (prompts, contexto, bases de conocimiento, etc.). |
| Output Tokens | Tokens generados por el modelo como resultado o respuesta final. |
| Total Tokens | Suma total de los tokens de entrada y salida. |
| Cached Tokens | Tokens reutilizados mediante el sistema de caché, que no se vuelven a computar en el consumo activo. |
Sistema de caché
Devic implementa un sistema de token caching que optimiza automáticamente el uso de recursos.Cuando un agente reutiliza información o fragmentos ya procesados (por ejemplo, instrucciones base o contexto del RAG), los tokens se recuperan desde la caché sin generar coste adicional. Esto permite:
- Reducir el consumo total de tokens.
- Acelerar las respuestas.
- Mantener coherencia contextual en ejecuciones consecutivas.
Análisis y optimización del consumo
El panel de ejecución ofrece una visión global del rendimiento económico y técnico del agente.Estas métricas permiten a los desarrolladores y equipos de operaciones:
- Detectar procesos o tareas con mayor coste promedio.
- Ajustar prompts, configuraciones y herramientas para mejorar la eficiencia.
- Comparar consumos entre versiones o agentes distintos.
- Medir el ahorro logrado gracias al uso de la caché.
El seguimiento detallado del uso de tokens en Devic proporciona una trazabilidad completa del coste operativo, facilitando decisiones informadas sobre eficiencia y escalabilidad en entornos de producción.
Siguiente paso
Explora configuraciones avanzadas como subagentes, ejecuciones programadas o estrategias de control contextual para tus agentes.