La inteligencia artificial se ha incorporado de forma progresiva —y en muchos casos imperceptible— en procesos de decisión que afectan directamente a las personas. Desde la concesión de créditos hasta los procesos de selección de personal, los sistemas automatizados basados en algoritmos influyen cada vez más en decisiones con consecuencias relevantes.
Este contexto plantea una cuestión clave: ¿hasta qué punto las personas entienden realmente cómo se toman las decisiones automatizadas que les afectan y qué capacidad tienen para cuestionarlas?
La expansión de las decisiones automatizadas
En numerosos ámbitos, la intervención humana ha sido reemplazada, total o parcialmente, por sistemas que analizan grandes volúmenes de datos y generan resultados en forma de puntuaciones, clasificaciones o recomendaciones. En teoría, estos sistemas prometen eficiencia y objetividad. En la práctica, no obstante, frecuentemente introducen nuevas formas de opacidad.
Cuando una persona solicita información sobre cómo se ha procesado su candidatura o por qué ha sido descartada en una fase inicial, la respuesta suele recurrir a fórmulas genéricas: "evaluación automatizada", "análisis de múltiples variables" o "coincidencia con el perfil buscado". El problema suele aparecer en aquellos casos en que esa información no permite entender por qué se ha producido una decisión concreta.
El principio de transparencia en protección de datos
El Reglamento General de Protección de Datos (RGPD) sitúa la transparencia en el centro del sistema. No como un requisito adicional, sino como una condición necesaria para que las personas puedan ejercer un control real sobre sus datos personales.
Cuando se utilizan sistemas automatizados para tomar decisiones que afectan de forma significativa a una persona —como ocurre en muchos procesos de selección— el RGPD exige informar sobre la lógica aplicada, la finalidad del tratamiento y las consecuencias previstas. El objetivo es claro: sin comprensión, no hay control; y sin control, los derechos pierden eficacia.
¿Qué debe entenderse por información "significativa"?
El RGPD no reconoce un derecho general a conocer el algoritmo ni el código fuente del sistema utilizado. El legislador europeo ha buscado un equilibrio entre la transparencia y la protección de secretos empresariales o de propiedad intelectual.
Ahora bien, este equilibrio no permite vaciar de contenido el derecho a la información. Para que esta sea significativa, debe permitir comprender, al menos en términos generales:
- Qué datos se tienen en cuenta
- Qué factores son relevantes en la decisión
- Con qué finalidad se utilizan
- Y qué efectos prácticos puede tener la decisión adoptada
Las explicaciones genéricas sobre "modelos predictivos" o "sistemas inteligentes" no cumplen adecuadamente esa función.
Transparencia y explicabilidad no son lo mismo
Es frecuente confundir transparencia con explicabilidad. Sin embargo, desde una perspectiva jurídica, se trata de conceptos distintos.
La transparencia se refiere al deber de informar sobre la existencia y características del tratamiento. La explicabilidad, en cambio, tiene que ver con la posibilidad de entender cómo los datos y los criterios influyen en el resultado. En sistemas de aprendizaje automático complejos, esta explicabilidad puede ser limitada incluso para sus desarrolladores.
Pero limitación técnica no equivale a ausencia de obligación jurídica. La explicación no tiene por qué ser exhaustiva desde un punto de vista técnico, pero sí debe ser comprensible y útil para la persona afectada.
Ejemplo: cómo un algoritmo puede fallar en un proceso de selección
Imaginemos un sistema automatizado utilizado para filtrar candidaturas en un proceso de selección de personal. El algoritmo analiza currículos y asigna una puntuación basada en variables como formación académica, experiencia previa, estabilidad laboral o palabras clave utilizadas.
Aparentemente, el sistema funciona de forma neutra. Sin embargo, pueden producirse varios fallos relevantes:
- Sesgo en los datos de entrenamiento: si el algoritmo se entrena con datos históricos de una empresa en la que, por ejemplo, los puestos técnicos han sido ocupados mayoritariamente por hombres, el sistema puede aprender a favorecer perfiles similares, penalizando indirectamente a candidatas mujeres.
- Variables proxy problemáticas: factores aparentemente neutros, como interrupciones en la trayectoria laboral, pueden funcionar como indicadores indirectos de situaciones protegidas (maternidad, cuidados, enfermedad), generando decisiones discriminatorias.
- Falta de contexto individual: el sistema puede penalizar cambios frecuentes de empleo sin distinguir entre precariedad del sector, trabajos temporales o decisiones personales legítimas.
- Opacidad en el descarte automático: la persona candidata recibe únicamente la notificación de que "no cumple los criterios del perfil", sin entender qué factores han sido determinantes ni poder cuestionarlos.
Desde la perspectiva del RGPD, el problema no es solo técnico, sino jurídico: la persona afectada no dispone de información suficiente para comprender la decisión ni para ejercer de forma efectiva sus derechos, como solicitar una explicación, impugnar el resultado o exigir intervención humana.
El riesgo de una transparencia meramente formal
En la práctica, muchas políticas de información sobre sistemas de IA se elaboran con un lenguaje jurídico-técnico que cumple la norma, pero no facilita la comprensión real. La transparencia se concibe como un requisito de cumplimiento y no como una herramienta de empoderamiento.
Esto provoca tres efectos habituales:
- Explicaciones excesivamente genéricas
- Dificultad real para entender las decisiones
- Imposibilidad práctica de cuestionar o revisar los resultados
En estos casos, el derecho a la información queda reducido a un trámite.
Contexto, impacto y garantías adicionales
No todas las decisiones automatizadas requieren el mismo nivel de explicación. Cuanto mayor sea el impacto de la decisión —por ejemplo, la exclusión de un proceso de selección— mayor debe ser el esfuerzo explicativo y mayores deben ser las garantías asociadas.
El RGPD apunta a esta lógica cuando reconoce derechos como la intervención humana, la posibilidad de expresar el punto de vista del interesado o de impugnar la decisión. Estas garantías solo pueden ejercerse de forma efectiva si existe una transparencia material, no meramente formal.
Reflexión final
La utilización de algoritmos en procesos de selección no es, en sí misma, incompatible con los derechos fundamentales. El problema surge cuando la complejidad técnica se convierte en opacidad y la transparencia se vacía de contenido.
El verdadero reto jurídico no es hacer sistemas perfectamente explicables desde un punto de vista técnico, sino garantizar que las personas puedan entender, cuestionar y, en su caso, corregir decisiones automatizadas que afectan de forma significativa a sus oportunidades.