Tiempo de lectura: 9 minutos
Cuando se habla de los riesgos de la IA en la empresa, la conversación se va enseguida a escenarios de ciencia ficción o a multas millonarias. Los riesgos que de verdad han costado dinero y reputación son mucho más cotidianos: un chatbot que promete lo que no debe, un dato que sale donde no debía, un informe que nadie revisó.
He elegido cuatro casos públicos y bien documentados, y los cuento con lo que pasó y qué lo habría evitado. Ninguno es un fallo técnico difícil. Todos son fallos de gobierno.
- Por qué te importa: los riesgos de la IA que ya han costado dinero a empresas reales no venían de la tecnología, sino de usarla sin reglas: sin revisar lo que produce, sin limitar qué datos se usan y sin responsable claro.
- Qué aporta este artículo: cuatro casos documentados (un chatbot de atención al cliente, una fuga de datos, un informe con citas inventadas y una selección de personal automatizada) y el control que habría evitado cada uno.
- Qué te llevas: una lista de controles para antes, durante y después de usar IA, y por dónde empezar esta misma semana.
Caso 1. El chatbot que prometió un descuento que no existía
A finales de 2022, tras la muerte de un familiar, un cliente de Air Canada preguntó al chatbot de la web de la aerolínea por las tarifas para ese viaje. El chatbot le dijo que podía comprar el billete normal y pedir el descuento por duelo después de volar. La política real de la aerolínea no lo permitía, y cuando el cliente lo pidió, se lo denegaron.
El caso llegó al tribunal de resolución civil de la Columbia Británica (Canadá). En su resolución del 14 de febrero de 2024, el tribunal rechazó el argumento de la aerolínea de que el chatbot era responsable de sus propios actos: la empresa responde de toda la información de su web, la dé una página o un chatbot. Tuvo que pagar la diferencia de precio, unos 650 dólares canadienses, más intereses y costas.
La cantidad es pequeña. Lo que no lo fue es la repercusión: el caso dio la vuelta al mundo como ejemplo de lo que pasa cuando un chatbot atiende a clientes sin control.
Qué lo habría evitado: que el chatbot respondiera las preguntas sobre precios y condiciones solo a partir de la política oficial, con enlace a ella; revisar periódicamente sus respuestas en los temas sensibles; y tener claro desde el principio que lo que dice el chatbot lo dice la empresa.
Caso 2. El código fuente que acabó en una herramienta pública
En abril de 2023, la división de semiconductores de Samsung detectó tres casos en los que ingenieros habían subido información confidencial a una herramienta pública de IA generativa, entre ella código fuente y notas de reuniones internas.
La reacción, según publicó Bloomberg el 2 de mayo de 2023, fue restringir el uso de estas herramientas en los dispositivos y la red de la empresa, pedir a la plantilla que no compartiera información de la empresa en ellas ni siquiera desde dispositivos personales y empezar a preparar herramientas internas.
Qué lo habría evitado: una regla clara sobre qué datos se pueden usar en cada herramienta, conocida por todos antes de empezar, y una alternativa autorizada para quien necesita revisar código o resumir reuniones. Prohibir después llega tarde, porque lo que ya se subió no se puede recuperar.
Caso 3. El informe con referencias que no existían
El Ministerio de Empleo australiano pagó a Deloitte unos 440.000 dólares australianos por un informe sobre su sistema de control de prestaciones. Después de publicarse, un investigador universitario detectó que incluía referencias que no existían y una cita inventada atribuida a una sentencia de un tribunal federal.
La versión corregida reconoció que en su elaboración se había usado una herramienta de IA generativa. Según publicó The Register el 6 de octubre de 2025, Deloitte acordó devolver el último pago del contrato, aunque defendió que las conclusiones del informe no cambiaban.
Qué lo habría evitado: una regla tan simple como comprobar cada cita y cada referencia contra su fuente antes de entregar, y dejar escrito desde el principio cuándo se usa IA en un trabajo para un cliente. La IA inventa referencias con total seguridad; la revisión humana es lo único que lo detecta.
Caso 4. El programa de selección que descartaba por edad
En 2022, la agencia de igualdad en el empleo de Estados Unidos (EEOC) demandó a iTutorGroup, una empresa de clases de idiomas en línea. Según la demanda, su programa de selección estaba configurado para descartar automáticamente a las mujeres de más de 55 años y a los hombres de más de 60, y así se rechazó a más de 200 personas que cumplían los requisitos.
La empresa negó las acusaciones, pero el 9 de agosto de 2023 firmó un acuerdo por 365.000 dólares. El acuerdo le prohíbe pedir la fecha de nacimiento a quien se presenta y le obliga a invitar de nuevo a quienes fueron descartados. Fue el primer acuerdo de la EEOC en un caso de discriminación por un programa de selección automatizada.
Lo más instructivo del caso es que, según la demanda, el programa no decidía por su cuenta: aplicaba una regla de edad que alguien había configurado. Automático no significa neutral.
Qué lo habría evitado: revisar qué criterios aplica cualquier herramienta que filtra candidatos, comprobar sus resultados por grupos de edad y sexo, y que siempre haya una persona que revise los descartes.
En Europa, además, la IA en selección de personal es de alto riesgo según el AI Act (con obligaciones desde el 2 de diciembre de 2027), el RGPD limita las decisiones totalmente automatizadas sobre personas y el Estatuto de los Trabajadores obliga a informar a los representantes de los trabajadores de los algoritmos que afectan al acceso al empleo.
Qué tienen en común los cuatro casos
En ninguno de los cuatro falló la tecnología de una forma imprevisible. Los chatbots se equivocan, la gente pega datos donde no debe, la IA inventa citas y un filtro hace lo que le dicen. Lo que faltó fue lo de siempre:
- Nadie había acotado qué podía hacer la IA. El chatbot contestaba sobre condiciones que no conocía y el filtro descartaba por edad.
- No había una regla de datos que todos aplicaran. El código interno acabó en una herramienta pública.
- No había revisión humana donde importaba. Ni en las respuestas sobre precios, ni en las citas del informe, ni en los descartes.
- No estaba claro quién respondía. Air Canada llegó a defender ante el tribunal que el responsable era el chatbot.
Eso es lo que se llama gobierno de la IA: decidir qué se usa, para qué, con qué datos, quién revisa y quién responde. Los niveles para hacerlo, de lo mínimo a lo completo, están en niveles en el gobierno de la IA.
Los controles que reducen los riesgos de la IA
Los controles que habrían evitado los cuatro casos se ordenan en tres momentos:
- Antes de usarla. Un inventario de qué IA se usa y para qué, una política de uso con un semáforo de datos y formación según el perfil de cada persona.
- Mientras se usa. Revisión humana de todo lo que va a un cliente o decide sobre personas, aviso claro cuando alguien habla con una IA y comprobación de cifras, citas y referencias.
- Cuando algo falla. Un canal sencillo para avisar de un incidente, una persona que decide qué se hace y la costumbre de corregir y avisar a quien se ha visto afectado, en vez de esconderlo.
Ninguno de estos controles necesita tecnología nueva. Necesitan que alguien los decida, los escriba y los explique.
Por dónde empezar esta semana
Si no tienes nada de esto, no intentes hacerlo todo a la vez. Empieza por lo que más riesgo tiene:
- Localiza los usos de IA que tocan a clientes o deciden sobre personas. Un chatbot, un asistente que redacta respuestas, un filtro de currículos. En cómo hacer el inventario de la IA que ya se usa tienes dónde buscar.
- Para cada uno, nombra quién revisa lo que produce. Si no hay nadie, ese es tu primer riesgo.
- Comunica una regla de datos mínima, aunque sea provisional: qué no se pega nunca en una herramienta pública.
- Abre un canal para avisar de incidentes y di a quién se avisa.
Después, convierte todo eso en una política escrita. En qué debe incluir una política de uso de IA están las ocho piezas.
Preguntas frecuentes
¿Cuáles son los principales riesgos de la IA en la empresa?
En los casos públicos aparecen sobre todo cuatro: información falsa dada a clientes, fuga de datos confidenciales o personales, trabajos entregados con errores o referencias inventadas y decisiones sobre personas con sesgos. Ninguno es exótico: se reducen con reglas claras, revisión humana y un responsable.
¿Quién es responsable si la IA de la empresa se equivoca?
Ante sus clientes, la empresa que la usa. El tribunal del caso de Air Canada lo dijo claramente: la empresa responde de la información que da su chatbot igual que de la del resto de su web. Por eso conviene tener decidido quién revisa lo que produce la IA en cada uso.
¿Hay que prohibir las herramientas públicas de IA en la empresa?
Prohibir sin dar alternativa suele llevar el uso a la sombra. Funciona mejor autorizar herramientas de empresa con condiciones de datos claras, limitar las cuentas personales a información pública y explicar el porqué con ejemplos como el de Samsung.
¿Usar IA en selección de personal es de alto riesgo?
Sí. El AI Act clasifica como alto riesgo los sistemas de IA para seleccionar o evaluar candidatos, con obligaciones para quien los usa desde el 2 de diciembre de 2027. Ya hoy, el RGPD limita las decisiones totalmente automatizadas sobre personas y el Estatuto de los Trabajadores obliga a informar a los representantes de los trabajadores de los algoritmos que afectan al acceso al empleo.
¿Cómo empiezo a gestionar los riesgos de la IA en mi empresa?
Por el inventario: saber qué IA se usa, para qué y con qué datos. Con eso puedes decidir qué usos necesitan revisión, qué regla de datos aplicar y quién responde de cada uno. El diagnóstico de gobierno de la IA te ayuda a ver por dónde empezar.
Si quieres una foto rápida de qué riesgos tiene hoy tu empresa, el diagnóstico de gobierno de la IA es gratuito y te dice qué falta primero. Y si prefieres que lo trabajemos contigo, el servicio de gobierno de la IA te deja el inventario, la política y los controles hechos.
Recursos relacionados
- Gobierno de la IA en la empresa
- Checklist de preparación para el AI Act (gratis)
- Política de uso de la IA en la empresa (plantilla gratis)
- AI Act: qué es la ley europea de IA y qué cambia para tu empresa
- Niveles en el gobierno de la IA
Fuentes
Información contrastada el 14 de noviembre de 2026.
- Resolución del caso de Air Canada, 2024 BCCRT 149 (Civil Resolution Tribunal de la Columbia Británica, en inglés)
- Análisis del caso de Air Canada (McCarthy Tétrault, en inglés)
- Samsung restringe la IA generativa tras la fuga (Bloomberg, 2 de mayo de 2023, en inglés)
- Deloitte devolverá parte del pago por el informe con errores (The Register, 6 de octubre de 2025, en inglés)
- Primer acuerdo de la EEOC por discriminación en selección automatizada (Norton Rose Fulbright, en inglés)
- Reglamento (UE) 2024/1689, AI Act (EUR-Lex)
- Estatuto de los Trabajadores, texto consolidado (BOE)
Este artículo es información general y no constituye asesoría legal. Para decisiones concretas sobre tu caso, consulta con quien lleve el asunto jurídico en tu organización.