Cómo audité los outputs de IA antes de que llegaran al cliente
La auditoría de outputs de IA es el trabajo más infraestimado de cualquier programa de implementación de IA en marketing. La mayoría de los equipos diseñan el sistema que genera los outputs, prueban que el sistema funciona técnicamente y despliegan el sistema asumiendo que el funcionamiento técnico correcto implica outputs de calidad correcta. Es una asunción que en la práctica produce exactamente los tipos de incidentes que he documentado en este bloque: el dato incorrecto, el tono inapropiado, la personalización que sorprende al cliente de forma negativa. Ninguno de esos incidentes era el resultado de un sistema que fallaba técnicamente. Todos eran el resultado de sistemas que funcionaban técnicamente y producían outputs que no eran apropiados para el contexto específico del cliente o del momento.
El sistema de auditoría que diseñé tenía 4 capas según el tipo de output y su nivel de exposición. La primera capa era de revisión automatizada: verificaciones técnicas que el sistema podía hacer por sí solo antes de que el output saliera al siguiente paso del proceso. Para emails, verificación de que los campos de personalización tenían valores válidos y no el texto del placeholder. Para contenido de producto, verificación contra la base de conocimiento de la empresa de que los datos mencionados eran consistentes con la documentación oficial. Para análisis de datos, verificación de que las conclusiones eran lógicamente consistentes con los datos de entrada.
La segunda capa era de revisión humana por muestreo: cada semana, un miembro del equipo revisaba de forma aleatoria el 10% de los outputs de IA que habían pasado la revisión automatizada y salido al siguiente paso. El objetivo de esa revisión no era detectar errores específicos, que debería haber hecho la primera capa. Era detectar patrones de error que la primera capa no hubiera capturado: el tipo de problema que no es técnicamente incorrecto pero que es contextualmente inapropiado y que por lo tanto no activa ningún sistema de verificación automatizado.
La tercera capa era de auditoría de incidentes: cuando llegaba un feedback negativo sobre un output de IA de cualquier fuente, el incidente se documentaba con el output específico, el feedback recibido y la causa raíz identificada. Esa documentación alimentaba la revisión del sistema de la primera capa: si un tipo de error se repetía, se construía una verificación automática para ese patrón específico. La cuarta capa era de auditoría trimestral completa: una revisión comprehensiva de todos los tipos de output de IA, su tasa de incidentes, los patrones de error y las actualizaciones necesarias al sistema de revisión.
El costo del sistema de auditoría era aproximadamente el 15% del tiempo que el sistema de IA ahorraba al equipo. Era un costo que nadie cuestionó después de los primeros 3 meses de operación, cuando era visible que la tasa de incidentes de los outputs que habían pasado por el sistema de auditoría era un tercio de la tasa de los outputs previos al sistema. La gobernanza de IA sin auditoría de outputs no es gobernanza. Es una política de papel que dice qué debe ocurrir sin ningún mecanismo para verificar si está ocurriendo.