Inicio › Temas de debate › Ciencia y tecnología
Un algoritmo no debería decidir quién recibe un préstamo
¿Es más justo un sesgo humano o uno estadístico que se puede auditar?
Tema de nivel 4 (Rebatir) · Ciencia y tecnología
Argumentos a favor
- Un algoritmo aplica los mismos criterios a todas las solicitudes, mientras que una persona puede dejarse influir por su estado de ánimo, sus prejuicios o la impresión que le causa el solicitante.
- Un modelo estadístico puede auditarse: se pueden revisar sus variables, probarlo con casos de prueba y comprobar si trata de forma distinta a distintos grupos, algo muy difícil de hacer con el juicio íntimo de un empleado.
- Decidir con algoritmos permite que el banco explique con claridad por qué se concedió o denegó un préstamo, lo que facilita reclamar y corregir errores de forma sistemática.
- Un sistema automatizado puede procesar grandes volúmenes de solicitudes con rapidez y coherencia, reduciendo esperas y evitando que la suerte de cada cliente dependa de qué oficial le toque.
Argumentos en contra
- Un algoritmo aprende de datos históricos, y si esos datos reflejan discriminaciones pasadas, el sistema las reproducirá y las presentará como si fueran objetivas, lo que dificulta detectarlas.
- La decisión sobre el crédito afecta a la vida de las personas, y delegarla en un sistema opaco o de difícil explicación para el cliente puede vaciar de sentido el derecho a conocer y cuestionar lo que le ocurre.
- Un programa no entiende situaciones excepcionales, como una caída temporal de ingresos por una enfermedad o un contexto familiar complejo, que un analista humano podría valorar con criterio y empatía.
- Las personas pueden ser responsables ante otras personas y responder por sus decisiones, mientras que atribuir la decisión a un sistema puede diluir la responsabilidad de quien lo diseñó y lo desplegó.
Para pensarlo
Si un algoritmo auditable fuera más justo en conjunto pero fallara de forma injusta con un caso concreto, ¿qué garantías deberían exigirse para que una persona afectada pueda obtener una revisión humana real?