Cuando se pregunta en las organizaciones sobre quién es responsable del uso ético de la IA, la respuesta suele ser un silencio incómodo, seguido de atribuciones vagas a los departamentos legales o de TI. El Scrum Master ocupa una posición privilegiada: está inmerso en el equipo mientras mantiene visibilidad organizativa.
01 · La pregunta clave¿De quién es realmente la responsabilidad?
La responsabilidad de la gobernanza ética de la IA debe distribuirse entre múltiples funciones organizativas:
- Liderazgo: establece las políticas de uso de IA, qué está permitido, prohibido o requiere aprobación explícita
- Legal y Cumplimiento: interpreta las regulaciones aplicables (GDPR, Ley de IA europea, normativas sectoriales) y las traduce en criterios operativos
- Product Owner: toma decisiones de producto y determina qué datos usar
- Desarrolladores: implementan las decisiones y comprenden los riesgos técnicos
- Scrum Master: facilita el funcionamiento del sistema asegurando que los problemas se hagan visibles y lleguen a quienes tienen autoridad y conocimiento para resolverlos
02 · Los riesgosLos riesgos que el equipo necesita ver
Cuatro riesgos éticos y legales principales afectan con frecuencia a los equipos que trabajan con IA:
- Sesgo algorítmico: los modelos aprenden de datos históricos que contienen sesgos, reproduciéndolos y amplificándolos. El sistema de cribado de CVs de Amazon discriminó a mujeres porque aprendió de patrones de contratación históricamente masculinos
- Alucinaciones y fiabilidad: los modelos de lenguaje generan texto plausible, no verdadero. Un abogado neoyorquino presentó escritos con citas de casos inventados por ChatGPT, resultando en sanciones judiciales
- Privacidad y protección de datos: pegar información de usuarios, clientes o empleados en modelos de IA externos envía datos a terceros. El GDPR establece obligaciones explícitas con consecuencias económicas reales para las violaciones
- Responsabilidad y transparencia: cuando los algoritmos toman decisiones, la responsabilidad se vuelve difusa. La Ley de IA europea (en vigor desde 2024) exige explicabilidad para los sistemas de alto riesgo
03 · La acciónLo que sí puede hacer el Scrum Master
Hacer las preguntas que nadie hace: en el Sprint Planning, ¿hay implicaciones éticas o legales en estos PBIs? En la Sprint Review, ¿podría el Incremento tener impactos no deseados en grupos de usuarios? En la Retrospectiva, ¿está el equipo usando la IA responsablemente?
Escalar impedimentos organizativos: la ausencia de políticas claras de uso de IA, la falta de orientación legal sobre privacidad, los niveles de riesgo aceptable sin definir: estos son impedimentos organizativos que el Scrum Master hace visibles y escala.
Conectar equipos con recursos organizativos: identificar los contactos apropiados (expertos legales, responsables de cumplimiento, documentos de política) representa trabajo valioso del Scrum Master.
04 · El límiteLa trampa de asumir demasiado
Existe un riesgo simétrico: asumir toda la responsabilidad personalmente. Un Scrum Master que se convierte en el guardián de la ética del equipo, revisa cada output de IA y gestiona las relaciones legales asume trabajo fuera de su rol, probablemente lo ejecuta de forma inadecuada y abandona sus responsabilidades centrales.
El Scrum Master que asume la responsabilidad de otros no ayuda a la organización a madurar: deja a la organización sin aprendizaje. La madurez organizativa requiere responsabilidad distribuida.