El equipo usaba IA para todo. Nadie había definido qué podía hacer sola

La adopción de herramientas de IA en el equipo de marketing había ocurrido de forma orgánica y descentralizada, que es la forma más común y la más riesgosa. Cada persona había adoptado las herramientas que le parecían útiles para su trabajo específico, había desarrollado sus propios flujos de uso y había tomado sus propias decisiones sobre qué tipo de contenido o de análisis podía delegar al sistema. Era el tipo de adopción que produce alta velocidad de penetración de la tecnología y cero consistencia en el nivel de supervisión que esa tecnología recibía antes de que sus outputs llegaran al mundo exterior.

El inventario que hice en la semana de diagnóstico reveló un ecosistema más amplio de lo que cualquier manager del equipo había mapeado. Doce herramientas de IA distintas en uso activo entre 8 personas. Algunos las usaban para generar borradores de contenido que luego revisaban con cuidado. Otros las usaban para generar contenido que publicaban directamente. Algunos usaban IA para analizar datos y extraer conclusiones que luego verificaban contra su criterio. Otros aplicaban las conclusiones directamente a decisiones de inversión sin verificación adicional. El mismo nivel de tecnología, niveles radicalmente diferentes de supervisión humana del output.

La ausencia de definición sobre qué podía hacer la IA de forma autónoma y qué requería supervisión humana antes de actuar no era un fallo de las personas. Era un fallo de la organización. Nadie había tenido la conversación sobre dónde estaba el límite porque en los primeros meses de adopción los problemas no habían sido lo suficientemente visibles para que la conversación se volviera urgente. La urgencia llegó cuando 3 incidentes separados en un período de 6 semanas hicieron visible que la ausencia de límites definidos era un riesgo real, no teórico.

El primer incidente fue un post en LinkedIn generado por IA que contenía una afirmación incorrecta sobre una regulación del sector. El segundo fue un análisis de competencia generado automáticamente que había sido compartido con el directorio con datos sobre un competidor que resultaron ser de una empresa diferente con nombre similar. El tercero fue un email de seguimiento de ventas generado por IA que contenía una referencia a una conversación previa que nunca había ocurrido porque el modelo había inferido el contexto de forma incorrecta.

Los 3 incidentes eran corregibles y fueron corregidos. El problema acumulado de los 3 no era el daño directo de cada uno, que fue limitado. Era la señal de que sin un marco de referencia claro sobre qué podía hacer la IA sola, cada persona del equipo operaba con su propio criterio, y la variabilidad en ese criterio producía un riesgo de incidente que escalaría proporcionalmente con el volumen de uso de las herramientas. La gobernanza no llegó después de un desastre. Llegó después de 3 señales de advertencia que no debían ignorarse.