IA21 nov 2026

Riesgos de la IA en la empresa: cuatro casos reales y qué los habría evitado

Tiempo de lectura: 9 minutos


Cuando se habla de los riesgos de la IA en la empresa, la conversación se va enseguida a escenarios de ciencia ficción o a multas millonarias. Los riesgos que de verdad han costado dinero y reputación son mucho más cotidianos: un chatbot que promete lo que no debe, un dato que sale donde no debía, un informe que nadie revisó.

He elegido cuatro casos públicos y bien documentados, y los cuento con lo que pasó y qué lo habría evitado. Ninguno es un fallo técnico difícil. Todos son fallos de gobierno.

En resumen
  • Por qué te importa: los riesgos de la IA que ya han costado dinero a empresas reales no venían de la tecnología, sino de usarla sin reglas: sin revisar lo que produce, sin limitar qué datos se usan y sin responsable claro.
  • Qué aporta este artículo: cuatro casos documentados (un chatbot de atención al cliente, una fuga de datos, un informe con citas inventadas y una selección de personal automatizada) y el control que habría evitado cada uno.
  • Qué te llevas: una lista de controles para antes, durante y después de usar IA, y por dónde empezar esta misma semana.

Caso 1. El chatbot que prometió un descuento que no existía

A finales de 2022, tras la muerte de un familiar, un cliente de Air Canada preguntó al chatbot de la web de la aerolínea por las tarifas para ese viaje. El chatbot le dijo que podía comprar el billete normal y pedir el descuento por duelo después de volar. La política real de la aerolínea no lo permitía, y cuando el cliente lo pidió, se lo denegaron.

El caso llegó al tribunal de resolución civil de la Columbia Británica (Canadá). En su resolución del 14 de febrero de 2024, el tribunal rechazó el argumento de la aerolínea de que el chatbot era responsable de sus propios actos: la empresa responde de toda la información de su web, la dé una página o un chatbot. Tuvo que pagar la diferencia de precio, unos 650 dólares canadienses, más intereses y costas.

La cantidad es pequeña. Lo que no lo fue es la repercusión: el caso dio la vuelta al mundo como ejemplo de lo que pasa cuando un chatbot atiende a clientes sin control.

Qué lo habría evitado: que el chatbot respondiera las preguntas sobre precios y condiciones solo a partir de la política oficial, con enlace a ella; revisar periódicamente sus respuestas en los temas sensibles; y tener claro desde el principio que lo que dice el chatbot lo dice la empresa.

Para compartir

Lo que dice el chatbot de tu web lo dice tu empresa. Un tribunal canadiense lo dejó claro en 2024: la aerolínea respondía de lo que prometía su chatbot, igual que de cualquier otra página.

Caso 2. El código fuente que acabó en una herramienta pública

En abril de 2023, la división de semiconductores de Samsung detectó tres casos en los que ingenieros habían subido información confidencial a una herramienta pública de IA generativa, entre ella código fuente y notas de reuniones internas.

La reacción, según publicó Bloomberg el 2 de mayo de 2023, fue restringir el uso de estas herramientas en los dispositivos y la red de la empresa, pedir a la plantilla que no compartiera información de la empresa en ellas ni siquiera desde dispositivos personales y empezar a preparar herramientas internas.

Qué lo habría evitado: una regla clara sobre qué datos se pueden usar en cada herramienta, conocida por todos antes de empezar, y una alternativa autorizada para quien necesita revisar código o resumir reuniones. Prohibir después llega tarde, porque lo que ya se subió no se puede recuperar.

Caso 3. El informe con referencias que no existían

El Ministerio de Empleo australiano pagó a Deloitte unos 440.000 dólares australianos por un informe sobre su sistema de control de prestaciones. Después de publicarse, un investigador universitario detectó que incluía referencias que no existían y una cita inventada atribuida a una sentencia de un tribunal federal.

La versión corregida reconoció que en su elaboración se había usado una herramienta de IA generativa. Según publicó The Register el 6 de octubre de 2025, Deloitte acordó devolver el último pago del contrato, aunque defendió que las conclusiones del informe no cambiaban.

Qué lo habría evitado: una regla tan simple como comprobar cada cita y cada referencia contra su fuente antes de entregar, y dejar escrito desde el principio cuándo se usa IA en un trabajo para un cliente. La IA inventa referencias con total seguridad; la revisión humana es lo único que lo detecta.

Para compartir

Una IA puede inventar una referencia o una cita con total seguridad. Si un informe va a un cliente, cada cita se comprueba contra su fuente. Sin excepciones.

Caso 4. El programa de selección que descartaba por edad

En 2022, la agencia de igualdad en el empleo de Estados Unidos (EEOC) demandó a iTutorGroup, una empresa de clases de idiomas en línea. Según la demanda, su programa de selección estaba configurado para descartar automáticamente a las mujeres de más de 55 años y a los hombres de más de 60, y así se rechazó a más de 200 personas que cumplían los requisitos.

La empresa negó las acusaciones, pero el 9 de agosto de 2023 firmó un acuerdo por 365.000 dólares. El acuerdo le prohíbe pedir la fecha de nacimiento a quien se presenta y le obliga a invitar de nuevo a quienes fueron descartados. Fue el primer acuerdo de la EEOC en un caso de discriminación por un programa de selección automatizada.

Lo más instructivo del caso es que, según la demanda, el programa no decidía por su cuenta: aplicaba una regla de edad que alguien había configurado. Automático no significa neutral.

Qué lo habría evitado: revisar qué criterios aplica cualquier herramienta que filtra candidatos, comprobar sus resultados por grupos de edad y sexo, y que siempre haya una persona que revise los descartes.

En Europa, además, la IA en selección de personal es de alto riesgo según el AI Act (con obligaciones desde el 2 de diciembre de 2027), el RGPD limita las decisiones totalmente automatizadas sobre personas y el Estatuto de los Trabajadores obliga a informar a los representantes de los trabajadores de los algoritmos que afectan al acceso al empleo.

Qué tienen en común los cuatro casos

Cuatro casos reales y el control que los habría evitado. Air Canada, 2024: su chatbot prometió un descuento que no existía y un tribunal le obligó a pagarlo; lo habría evitado responder solo desde la política oficial y revisar lo que dice de precios. Samsung, 2023: se subieron código fuente y notas de reuniones a una herramienta pública; lo habría evitado una regla de datos conocida por todos y una herramienta autorizada. Deloitte, 2025: un informe para un gobierno con referencias y una cita inventadas; lo habría evitado comprobar cada cita contra su fuente antes de entregar. iTutorGroup, 2023: según la demanda, su programa de selección descartaba candidatos por edad; lo habría evitado revisar los criterios del filtro y que una persona revise los descartes. Conclusión: ninguno fue un fallo técnico, todos fueron fallos de gobierno.

En ninguno de los cuatro falló la tecnología de una forma imprevisible. Los chatbots se equivocan, la gente pega datos donde no debe, la IA inventa citas y un filtro hace lo que le dicen. Lo que faltó fue lo de siempre:

  • Nadie había acotado qué podía hacer la IA. El chatbot contestaba sobre condiciones que no conocía y el filtro descartaba por edad.
  • No había una regla de datos que todos aplicaran. El código interno acabó en una herramienta pública.
  • No había revisión humana donde importaba. Ni en las respuestas sobre precios, ni en las citas del informe, ni en los descartes.
  • No estaba claro quién respondía. Air Canada llegó a defender ante el tribunal que el responsable era el chatbot.

Eso es lo que se llama gobierno de la IA: decidir qué se usa, para qué, con qué datos, quién revisa y quién responde. Los niveles para hacerlo, de lo mínimo a lo completo, están en niveles en el gobierno de la IA.

Para compartir

Los fallos de IA que más han costado a empresas reales no fueron técnicos: nadie decidió qué podía hacer la IA, con qué datos, quién revisaba y quién respondía.

Los controles que reducen los riesgos de la IA

Controles que reducen los riesgos de la IA, en tres momentos. Antes de usarla: inventario de usos de IA, política de uso con semáforo de datos y formación según el perfil. Mientras se usa: revisión humana de lo que va a clientes o decide sobre personas, aviso cuando alguien habla con una IA y comprobar cifras, citas y referencias. Cuando algo falla: un canal para avisar de incidentes, una persona que decide qué se hace y corregir y avisar a quien se ha visto afectado. Conclusión: ninguno necesita tecnología nueva, necesitan que alguien los decida, los escriba y los explique.

Los controles que habrían evitado los cuatro casos se ordenan en tres momentos:

  1. Antes de usarla. Un inventario de qué IA se usa y para qué, una política de uso con un semáforo de datos y formación según el perfil de cada persona.
  2. Mientras se usa. Revisión humana de todo lo que va a un cliente o decide sobre personas, aviso claro cuando alguien habla con una IA y comprobación de cifras, citas y referencias.
  3. Cuando algo falla. Un canal sencillo para avisar de un incidente, una persona que decide qué se hace y la costumbre de corregir y avisar a quien se ha visto afectado, en vez de esconderlo.

Ninguno de estos controles necesita tecnología nueva. Necesitan que alguien los decida, los escriba y los explique.

Por dónde empezar esta semana

Si no tienes nada de esto, no intentes hacerlo todo a la vez. Empieza por lo que más riesgo tiene:

  1. Localiza los usos de IA que tocan a clientes o deciden sobre personas. Un chatbot, un asistente que redacta respuestas, un filtro de currículos. En cómo hacer el inventario de la IA que ya se usa tienes dónde buscar.
  2. Para cada uno, nombra quién revisa lo que produce. Si no hay nadie, ese es tu primer riesgo.
  3. Comunica una regla de datos mínima, aunque sea provisional: qué no se pega nunca en una herramienta pública.
  4. Abre un canal para avisar de incidentes y di a quién se avisa.

Después, convierte todo eso en una política escrita. En qué debe incluir una política de uso de IA están las ocho piezas.

Preguntas frecuentes

¿Cuáles son los principales riesgos de la IA en la empresa?

En los casos públicos aparecen sobre todo cuatro: información falsa dada a clientes, fuga de datos confidenciales o personales, trabajos entregados con errores o referencias inventadas y decisiones sobre personas con sesgos. Ninguno es exótico: se reducen con reglas claras, revisión humana y un responsable.

¿Quién es responsable si la IA de la empresa se equivoca?

Ante sus clientes, la empresa que la usa. El tribunal del caso de Air Canada lo dijo claramente: la empresa responde de la información que da su chatbot igual que de la del resto de su web. Por eso conviene tener decidido quién revisa lo que produce la IA en cada uso.

¿Hay que prohibir las herramientas públicas de IA en la empresa?

Prohibir sin dar alternativa suele llevar el uso a la sombra. Funciona mejor autorizar herramientas de empresa con condiciones de datos claras, limitar las cuentas personales a información pública y explicar el porqué con ejemplos como el de Samsung.

¿Usar IA en selección de personal es de alto riesgo?

Sí. El AI Act clasifica como alto riesgo los sistemas de IA para seleccionar o evaluar candidatos, con obligaciones para quien los usa desde el 2 de diciembre de 2027. Ya hoy, el RGPD limita las decisiones totalmente automatizadas sobre personas y el Estatuto de los Trabajadores obliga a informar a los representantes de los trabajadores de los algoritmos que afectan al acceso al empleo.

¿Cómo empiezo a gestionar los riesgos de la IA en mi empresa?

Por el inventario: saber qué IA se usa, para qué y con qué datos. Con eso puedes decidir qué usos necesitan revisión, qué regla de datos aplicar y quién responde de cada uno. El diagnóstico de gobierno de la IA te ayuda a ver por dónde empezar.


Si quieres una foto rápida de qué riesgos tiene hoy tu empresa, el diagnóstico de gobierno de la IA es gratuito y te dice qué falta primero. Y si prefieres que lo trabajemos contigo, el servicio de gobierno de la IA te deja el inventario, la política y los controles hechos.

FormaciónPara decidir qué IA se usa, con qué reglas y quién responde: Gobernanza de IA. Para que toda la plantilla reconozca estos riesgos en su trabajo diario: Alfabetización en IA. Y para trabajarlo con un equipo entero, ofrecemos formación in-company.

Recursos relacionados

Fuentes

Información contrastada el 14 de noviembre de 2026.

Este artículo es información general y no constituye asesoría legal. Para decisiones concretas sobre tu caso, consulta con quien lleve el asunto jurídico en tu organización.

Curso gratis · 1 hora · certificado

Fundamentos de IA en la práctica

De "he probado ChatGPT alguna vez" a usar la IA con criterio en tu trabajo: prompts que funcionan, dónde encaja de verdad y qué no debes pedirle.

RECURSO GRATIS

¿Te ha servido? Llévate esto.

Recursos prácticos que reflejan nuestra forma de trabajar. Sin compromiso, sin pop-ups molestos.