Hace poco leí una nota sobre el impacto a la democracia de los perfiles falsos, fake news y bots y fue inevitable recordar el libro NEXUS de Harari y el uso de la IA en la toma de decisiones y como esto podría generar el nacimiento de un nuevo derecho humano “EL DERECHO A UNA EXPLICACIÓN”.
En los últimos años hemos visto como cada día la IA se transforma en un elemento fundamental en algunas instituciones para su actuar, ejemplo de ello es el algoritmo denominado COMPAS que ha sido usado en tribunales de Wisconsin y otros Estados de USA, en él la IA a través de un algoritmo puede predecir el índice de reincidencia de un imputado, lo que ha servido como base para el fallo de algunos jueces, pero, ¿cuál es el criterio que usa la IA para la predicción? O dicho de otra forma ¿cuáles son los parámetros que utilizaron los creadores del algoritmo? ¿raza, sexo, edad, años de estudios, índice económico?, al desconocer estos datos, queda la duda si lo propuesto por el algoritmo es en base a datos objetivos o tiene un sesgo. Harari utiliza un ejemplo que puede ser más práctico para entender el dilema, supongamos que nos acercamos a un Banco a solicitar un crédito y el ejecutivo nos pide rellenar un formulario con una serie de datos que van desde el lugar de nacimiento, edad, años de estudio, orientación sexual, lugar de vivienda, si fuma, si bebe alcohol, si tiene vehículo, etc… luego toma esos datos y los ingresa a un sistema donde un algoritmo le indicará el riesgo del cliente y si es factible otorgar el crédito, hasta acá todo parece normal e incluso uno pensaría que el uso de la IA ayudara a hacer más rápido el proceso, pero lo relevante es saber cuáles datos uso la IA para tomar la decisión ¿Qué pasaría si quien creo el algoritmo le dio más relevancia a la raza y orientación sexual de la persona en vez de los años de estudio o profesión? ¡Cómo Saberlo!
Esta injerencia de la IA ha llevado a que surja lo que algunas personas han denominado un nuevo derecho humano “El derecho a una explicación”, y esto tiene relación a que si un algoritmo decidió algo sobre un humano, como el otorgamiento de un crédito o índice de reincidencia, la persona afectada (como humano) tiene el derecho a exigir una explicación y que esta sea revisada por una persona (humana), es decir podría pedirle al Banco que me niega un crédito que me explique cuáles fueron los parámetros que tomo la IA para resolver mi situación y solicitar que mis datos fueran nuevamente revisados pero esta vez por un humano.
Este nuevo derecho (humano) podría ayudar a controlar y corregir, en cierta medida, la injerencia de la IA en nuestras vidas y en base a los avances de los últimos años, todo pareciera indicar que será consagrado como tal.
Síguenos en:
Suscríbete al boletín:
Suscribete Gratis
