El emprendimiento digital que sobrevivió porque tenía gobernanza de IA desde el día uno
La gobernanza de IA en un emprendimiento individual de una persona parece una decisión de exceso de rigor institucional aplicado a una escala donde ese rigor no es necesario. Era exactamente lo que pensé cuando diseñé el protocolo de gobernanza para el emprendimiento: que era el tipo de proceso que tendría sentido para una empresa de 20 personas pero que para una operación individual con 5 clientes era burocracia sin propósito. Me equivoqué, y el incidente que demostró el error ocurrió en el mes 4 de operación.
El incidente fue específico: el sistema de producción de contenido con IA generó un artículo que incluía una referencia a un estudio de mercado con datos sobre el sector financiero colombiano. El dato era técnicamente plausible, estaba en el rango de lo que cualquier analista del sector habría considerado razonable, y pasó la revisión editorial estándar sin que yo verificara la fuente primaria. El artículo fue publicado y distribuido en el newsletter a 890 suscriptores. 48 horas después, un suscriptor que trabajaba en el sector financiero me escribió señalando que el estudio al que el artículo hacía referencia no existía: el modelo de IA había generado una cita bibliográfica plausible que correspondía a una investigación que nunca se había realizado.
El incidente no tuvo consecuencias graves porque el suscriptor que lo detectó lo comunicó de forma privada antes de que llegara a otros canales. La corrección fue inmediata: eliminé el artículo, publiqué una corrección en el newsletter siguiente y actualicé el protocolo de verificación factual del sistema de producción para que cualquier referencia a estudios o estadísticas requiriera verificación de la fuente primaria antes de la publicación, independientemente del nivel de confianza del sistema en la información.
El protocolo de gobernanza que tenía en ese momento fue el que hizo posible que la corrección fuera rápida, sistemática y permanente en lugar de reactiva, ad hoc y temporal. Sin el protocolo, el incidente hubiera sido gestionado de forma individual y probablemente no hubiera producido el ajuste del proceso que garantizara que no se repitiera. Con el protocolo, el incidente alimentó una actualización del sistema que se aplicó de forma inmediata a todos los flujos de producción activos.
El emprendimiento digital individual que tiene gobernanza de IA desde el día uno no la tiene porque sea más grande o más complejo de lo que justificaría ese rigor. La tiene porque sabe que los errores de IA en un negocio pequeño tienen consecuencias proporcionalmente mayores que los errores en un negocio grande, donde hay más amortiguación institucional y más capacidad de absorber el impacto de un incidente sin que amenace la confianza que es el activo central de cualquier negocio de servicios.