El contenido generado por IA que publicamos con datos incorrectos sobre nuestro propio producto
El artículo había pasado por 2 revisiones antes de publicarse. La primera revisión había verificado el tono y la coherencia con la voz de la marca. La segunda había revisado la estructura y la claridad del argumento. Ninguna de las 2 revisiones había verificado la exactitud factual de los datos específicos sobre las funcionalidades del producto que el artículo mencionaba. Esa verificación no había sido parte del protocolo de revisión porque cuando el equipo producía contenido de forma manual, la persona que escribía sobre el producto lo hacía desde su conocimiento directo del mismo. Con el contenido generado por IA, el autor era un sistema que había construido su comprensión del producto a partir de documentación de versiones anteriores y de descripciones genéricas de la categoría.
El artículo describía una funcionalidad específica de integración con CRM usando datos de rendimiento que correspondían a la versión anterior del producto. La versión actual tenía mejoras significativas en esa funcionalidad que hacían los datos del artículo no solo desactualizados sino potencialmente engañosos para un comprador que los usara como referencia para evaluar la solución. El artículo fue publicado, distribuido en LinkedIn y llegó a la bandeja de entrada de 3.400 suscriptores del newsletter antes de que el director de producto lo leyera y señalara la discrepancia.
La corrección del artículo requirió publicar una versión actualizada con una nota al principio que reconocía la corrección. Era el procedimiento correcto y el que produjo menos daño de credibilidad. También era el procedimiento que ningún equipo quiere ejecutar porque señala de forma visible que se publicó información incorrecta sobre el propio producto. La reunión post-incidente fue de las más incómodas del trimestre no porque alguien estuviera en falta de mala fe, sino porque nadie había definido que verificar los datos del producto en el contenido generado por IA era una responsabilidad específica de alguien en el proceso de revisión.
El protocolo que establecí después del incidente tenía un componente que no existía antes: la verificación de precisión de producto como paso obligatorio y separado de la revisión editorial. Cualquier pieza de contenido que mencionara datos específicos sobre funcionalidades, rendimiento o capacidades del producto debía ser revisada por alguien del equipo de producto antes de publicarse, independientemente de si había sido generada por IA o por un humano. El paso adicional agregaba entre 24 y 48 horas al proceso de publicación. Era un costo de proceso que era entre 5 y 10 veces menor al costo de publicar y corregir información incorrecta.
La lección más específica de ese incidente fue sobre la naturaleza del riesgo de los modelos de IA en contextos donde la precisión factual es crítica. Los modelos de lenguaje son extraordinariamente buenos generando contenido que suena autorizado y bien informado sobre cualquier tema. Son también capaces de generar ese contenido usando datos incorrectos con el mismo tono de autoridad que usarían con datos correctos. La señal de que algo es incorrecto no está en el estilo del texto. Está en la verificación del dato contra la fuente primaria, que es un paso que ningún modelo puede hacer por sí solo con suficiente confiabilidad en contextos donde la exactitud factual importa.