Cuando se pregunta en un equipo de producto quién es responsable del uso ético de la IA, las respuestas suelen ser vagas. Legal no entiende las decisiones algorítmicas. IT no sabe qué datos envía el equipo a herramientas externas. El equipo asume que el silencio es permiso.
En ausencia de criterios claros, los equipos improvisan. Y la improvisación ética en IA tiene consecuencias reales.
01 · Responsabilidad¿De quién es realmente?
La responsabilidad no recae en una sola persona — está distribuida por roles:
- Liderazgo: define las políticas de uso de IA.
- Legal y cumplimiento: interpreta las regulaciones (RGPD, EU AI Act, normas sectoriales).
- Product Owner: toma decisiones de producto con implicaciones éticas.
- Desarrolladores: implementan decisiones y comprenden los riesgos técnicos.
- Scrum Master: facilita la visibilidad y la escalación sin asumir las responsabilidades de los demás.
La posición privilegiada del Scrum Master — presente en el trabajo diario y conectado con el liderazgo organizativo — le permite detectar las brechas. No necesariamente resolverlas solo.
02 · RiesgosLo que el equipo necesita ver.
Sesgo algorítmico
Los modelos aprenden patrones históricos — incluidos los patrones de discriminación. El sistema de Amazon para cribar CVs en 2018 es el caso de referencia: el modelo aprendió de datos históricos de contratación con sesgo de género y lo reprodujo sistemáticamente. Antes de usar IA en procesos que afectan a personas, el equipo debe preguntarse: ¿con qué datos se ha entrenado este modelo? ¿qué grupos podrían estar infrarepresentados?
Alucinaciones y fiabilidad
Los modelos de lenguaje generan contenido plausible pero falso: inventan fuentes, atribuyen citas a personas que nunca las dijeron. En 2023, un abogado fue sancionado por citar precedentes legales inventados por ChatGPT en un recurso judicial. El riesgo no es la IA — es usar IA en contextos donde la fiabilidad es crítica sin verificación humana.
Privacidad y protección de datos
Pegar información de usuarios o empleados en herramientas de IA externas transmite esos datos a terceros. Esto puede suponer una infracción del RGPD con consecuencias legales y económicas reales. El equipo necesita saber qué datos puede y no puede enviar a herramientas externas — y esa política necesita existir antes de que el equipo empiece a usar las herramientas.
Accountability y transparencia
El EU AI Act exige explicabilidad para las decisiones automatizadas de alto riesgo que afectan a personas. Si el equipo no puede explicar por qué el sistema tomó una decisión, tiene un problema de gobernanza — independientemente de si la decisión fue correcta.
03 · AcciónLo que sí puede hacer el Scrum Master.
El Scrum Master puede actuar en tres frentes concretos:
- Hacer preguntas no formuladas: En el Sprint Planning sobre implicaciones éticas; en las Sprint Reviews sobre impactos no intencionados en los usuarios; en las Retrospectivas sobre el uso responsable de la IA.
- Escalar impedimentos organizativos: Cuando el equipo carece de políticas claras sobre IA, orientación legal sobre privacidad o claridad sobre el riesgo ético aceptable, son problemas organizativos que deben escalarse — no resolverse solos.
- Conectar al equipo con los recursos adecuados: Identificar los contactos legales, las políticas organizativas o los requisitos de cumplimiento relevantes.
El Scrum Master que asume la responsabilidad de otros no ayuda a la organización a madurar.— Principio de gobernanza de IA en equipos Scrum
04 · La trampaEl riesgo de asumir demasiado.
Existe un riesgo simétrico: los Scrum Masters que se convierten en guardianes autoproclamados de la ética — revisando cada output de IA, gestionando relaciones legales, definiendo políticas de privacidad — se agotan haciendo trabajo que no les corresponde. La gobernanza madura de IA requiere que cada rol ejecute sus responsabilidades específicas, mientras el Scrum Master facilita que el sistema funcione en lugar de reemplazarlo.