El registro de decisiones de IA que empecé a llevar y lo que reveló en 90 días
El registro nació de una frustración específica: en la revisión mensual del comité de gobernanza, frecuentemente teníamos conversaciones sobre si un incidente era nuevo o si era una variante de algo que había ocurrido antes. La memoria colectiva del equipo sobre los incidentes pasados era imperfecta porque los incidentes se gestionaban cuando ocurrían pero no se documentaban de forma sistemática después de resolverse. El registro de decisiones de IA fue el mecanismo que creé para corregir esa limitación de memoria organizacional.
El registro documentaba, para cada decisión significativa tomada sobre el uso de IA, 5 elementos: la situación que requirió la decisión, la decisión tomada, el razonamiento que la justificó, el resultado observado y cualquier ajuste posterior al framework de gobernanza que la decisión generó. No era un registro de todos los usos de IA, que hubiera sido imposiblemente voluminoso. Era un registro de las decisiones sobre el marco de gobernanza: nuevos casos de uso aprobados, nuevos límites establecidos, excepciones al framework y las razones que las justificaron.
Los primeros 90 días de registro produjeron 34 entradas. El análisis de esas 34 entradas reveló 3 patrones que ningún informe de incidentes había capturado. El primero era que el 71% de las decisiones de excepción al framework, casos donde se había aprobado un uso de IA fuera del nivel de autonomía estándar, habían ocurrido en contextos de alta presión de tiempo. La presión de tiempo era el predictor más consistente de la decisión de saltarse el proceso de gobernanza, lo que sugería que los SLAs de revisión necesitaban ser más ágiles para los casos urgentes de lo que eran en ese momento.
El segundo patrón era que el 67% de los ajustes al framework habían sido reactivos: cambios realizados después de un incidente en lugar de anticipando riesgos identificados. Era un patrón de gestión de riesgos que el registro hacía visible y que el equipo podía ahora discutir de forma proactiva: ¿cuáles de los usos actuales de IA tienen características similares a los que habían producido incidentes en el pasado y aún no han sido ajustados en el framework? El tercer patrón era que las decisiones tomadas de forma colectiva en el comité tenían una tasa de revisión posterior del 12%, frente al 34% de las tomadas de forma individual. La deliberación colectiva producía decisiones más estables.
Los 90 días de registro cambiaron la naturaleza de las reuniones del comité de gobernanza. En lugar de discutir sobre recuerdos imperfectos de incidentes pasados, el comité discutía sobre datos verificados del registro. En lugar de reactivamente ajustar el framework después de cada incidente, el comité podía usar los patrones del registro para anticipar qué áreas del framework necesitaban ajuste antes de que el próximo incidente lo hiciera evidente. El registro no era un archivo de documentación. Era el insumo que convertía la gobernanza de IA de un proceso reactivo a uno estratégico.