El framework de gobernanza que presenté al C-Suite con 3 niveles de autonomía
La presentación al C-Suite sobre el framework de gobernanza de IA tenía el riesgo específico de cualquier presentación sobre un tema donde la audiencia tiene altos niveles de exposición a discursos genéricos sobre el tema y bajos niveles de exposición a implementaciones concretas del mismo: el riesgo de producir asentimiento sin cambio de comportamiento. El C-Suite había escuchado suficientes discursos sobre la importancia de gobernar la IA. Lo que necesitaban era un framework que pudieran aprobar, comunicar al equipo y verificar que se estaba aplicando sin necesidad de convertirse en expertos en IA para hacerlo.
El framework de 3 niveles de autonomía estaba diseñado para responder esa necesidad específica. No era una descripción de principios de gobernanza de IA en abstracto. Era un sistema de clasificación operacional que cualquier miembro del equipo podía aplicar sin formación técnica en IA y que cualquier directivo podía verificar sin expertise específico. El nivel 1 era autonomía completa: la IA podía generar y actuar sobre el output sin supervisión adicional. El nivel 2 era autonomía supervisada: la IA generaba el output y un humano lo revisaba antes de que saliera del equipo. El nivel 3 era autonomía asistida: la IA asistía al humano pero el humano tomaba la decisión final y era el único firmante del output.
La tabla de clasificación que acompañaba el framework asignaba cada tipo de uso de IA en el negocio a uno de los 3 niveles con el criterio de clasificación explícito. El criterio no era técnico: era de impacto potencial en caso de error y de reversibilidad de ese impacto. Un output de nivel 1 era aquel donde el impacto de un error era bajo y reversible: análisis interno, generación de borradores, transcripción. Un output de nivel 3 era aquel donde el impacto potencial era alto y la reversibilidad era limitada: comunicaciones legales o financieras, contenido que involucraba afirmaciones sobre terceros, decisiones de inversión o de contratación.
El CEO hizo la pregunta que esperaba que hiciera: ¿cómo verificamos que el equipo está aplicando los niveles correctamente? La respuesta era el único mecanismo que realmente funciona para ese tipo de verificación: el comité de revisión mensual que producía una muestra de los outputs de IA del período y los clasificaba retroactivamente para verificar si el nivel aplicado había sido el correcto. No era un sistema de vigilancia. Era un sistema de aprendizaje que además producía la evidencia que el C-Suite necesitaba para saber si la gobernanza era efectiva.
El framework fue aprobado y comunicado a toda la organización en la semana siguiente. La comunicación que hizo el CEO al equipo fue directa: la empresa usaría IA de forma amplia porque producía ventajas competitivas reales, y lo haría de forma gobernada porque los incidentes que produce un uso no gobernado cuestan más que la velocidad que la falta de gobernanza supuestamente gana. Esa comunicación desde el CEO estableció la gobernanza como una expectativa de la cultura organizacional, no como una restricción impuesta por el área de marketing o de legal.