Cuando una organización declara que redujo emisiones o conservó un bosque, nadie le cree solo por decirlo. Debe mostrar qué midió, cómo lo hizo y permitir que alguien más lo revise. Esa es la lógica de los sistemas de medición, reporte y verificación (MRV).
Los agentes de inteligencia artificial llegan hoy a tareas con consecuencias reales: responden a productores, preparan reportes para donantes y resumen datos para tomar decisiones. Sin embargo, muchas veces se aceptan con una demostración que salió bien. Le pedimos más evidencia a una tonelada de carbono que a un sistema que trabaja todos los días.
Qué es un agente y por qué cambia las cosas
Un agente de IA no solo contesta. Puede encadenar pasos: consultar datos, usar herramientas, escribir un borrador y decidir qué sigue. Eso lo hace útil y también más difícil de evaluar, porque un error en un paso temprano puede pasar a los siguientes y llegar al resultado con apariencia de trabajo bien hecho.
Además, su desempeño puede cambiar con el tiempo. Cambian los datos, los modelos y las preguntas de los usuarios, así que una prueba exitosa al inicio no garantiza la calidad seis meses después.
Cuatro principios del MRV que aplican a la IA
- Línea base. En MRV se compara contra un punto de partida. En IA, hay que medir cuánto tarda y qué calidad tiene el proceso antes de automatizarlo.
- Metodología explícita. Se define de antemano qué cuenta como correcto. En IA, eso significa criterios de calidad y un conjunto de casos de prueba acordados con los expertos.
- Trazabilidad de los datos. Cada cifra debe llevar a su fuente. Cada respuesta de un agente también debería poder rastrearse hasta los datos que usó.
- Verificación independiente y periódica. Quien construye no debería ser el único que revisa, y la revisión se repite en el tiempo.
Qué mira una auditoría de agentes
Una auditoría responde tres preguntas: qué hizo el agente, con qué datos y con qué calidad. En la práctica, esto incluye:
- Registro de actividad. Las consultas, los pasos, las fuentes y las respuestas quedan guardados para poder revisarlos.
- Evaluación de calidad. Personas expertas revisan una muestra de resultados con criterios acordados.
- Sesgos y errores. Se busca si falla más con ciertos grupos, temas o idiomas, y qué tan graves son sus errores.
- Límites y escalamiento. Se comprueba que reconoce lo que no sabe y que pasa a una persona cuando corresponde.
- Costos y gobernanza. Se revisa cuánto cuesta operar, quién responde por el sistema y si cumple con los requisitos de donantes y reguladores.
Por dónde empezar
No hace falta un gran programa para empezar. Elija un agente o flujo que ya esté en uso, active el registro de conversaciones y acciones, y pida a dos personas expertas que revisen una muestra cada mes con criterios escritos. Con esa práctica simple ya tendrá algo que muchas organizaciones no tienen: evidencia de cómo funciona su sistema.
En nuestro trabajo de trazabilidad, MRV y verificación aplicamos a los agentes de IA la misma disciplina que a los datos de campo. Si su organización ya usa IA, la pregunta útil es simple: ¿podría demostrar ante un donante qué hizo el sistema el mes pasado?