Observabilidad de LLM y trazas seguras
Identidad de la traza
Una traza útil relaciona la solicitud con las versiones y los resultados que la explican. Conserva el identificador de solicitud, las revisiones del prompt y de las fuentes, el estado final y las unidades de uso ficticias que exige la tarea. Son datos didácticos. No representan tokens medidos de un proveedor. Un registro que solo diga “falló” no distingue un fallo de recuperación de una escritura denegada.
En una aplicación ficticia de transporte, una herramienta agota el tiempo tras solicitar una escritura. Conserva la identidad de la operación para conciliar el resultado incierto durante la recuperación. Reintentar con otra identidad puede duplicar la acción aunque la traza original parezca un fallo.
Minimización de datos
Guardar metadatos no autoriza a almacenar todos los prompts o documentos. Oculta los campos sensibles según la política proporcionada y conserva los identificadores no sensibles necesarios para investigar. Prueba tanto los campos anidados como los de primer nivel.
El cuaderno genera registros locales de eventos ficticios. No conecta con proveedores de observabilidad ni mide un servicio de producción. Continúa con la ocultación de datos, los resultados inciertos y los denominadores de alertas.