Cuando la Inteligencia Artificial decide los despidos de una empresa o quién va a la cárcel

Algoritmos basados en 'machine learning' toman cada vez mayor relevancia tanto en el entorno laboral como en el sistema penal de Estados Unidos

por Ismael Marinero /


Los avances de la Inteligencia Artificial (IA), sistemas informáticos capaces de realizar tareas que normalmente requieren inteligencia humana, llevan años implementándose en la toma de decisiones de todo tipo, incluidas algunas tan sensibles como las laborales y las penales. Documentos publicados por el medio estadounidense 'The Verge' muestran, por ejemplo, cómo Amazon ha utilizado un algoritmo para rastrear y despedir automáticamente a cientos de empleados de su centro de Baltimore por no cumplir con las cuotas de productividad marcadas por la compañía.

el-control-de-las-maquinas

La Inteligencia Artificial empieza a ser decisiva en la vida laboral y el sistema penal estadounidense (GTres)

Aunque no todas las decisiones fueron tomadas por el sistema, los documentos -que incluyen una carta que describe con precisión el proceso firmada por un abogado de la compañía de Jeff Bezos- revelan lo profundamente automatizadas que están. La supervisión humana es casi inexistente. Lo que todavía no está claro es si Amazon sigue haciendo uso de estos procesos informáticos para tomar este tipo de decisiones o los ha suspendido dado el revuelo mediático causado por la noticia. Una portavoz de la empresa, Ashley Robinson, emitió un comunicado rechazando lo expuesto por 'The Verge', pero no fue capaz de proporcionar ningún ejemplo específico de inexactitudes en el reportaje publicado.

RELACIONADO: Más noticias sobre Tecnología

"Apoyamos a las personas que no se desempeñan a los niveles esperados con un entrenamiento específico para ayudarles a mejorar y tener éxito en su carrera en Amazon. Nunca despediríamos a un empleado sin antes asegurarnos de que haya recibido todo nuestro apoyo", explica Robinson en el comunicado. "Dado que somos una empresa que sigue creciendo, nuestro objetivo empresarial es garantizar oportunidades de desarrollo profesional a largo plazo para nuestros empleados".

Otra de las aplicaciones de la Inteligencia Artificial que plantean numerosos dilemas éticos es su inserción en la justicia penal. Desde 2013, un sistema de este tipo sirve como ayuda a los jueces en varios estados de EEUU a la hora de evaluar la probabilidad de que un convicto vaya a reincidir. Por eso, cada vez existen más empresas estadounidenses que proporcionan servicios de predicción a los tribunales, basados en potentes algoritmos de evaluación de riesgos que estiman la probabilidad de reincidencia de los delincuentes.

almacen-amazon

Un empleado en uno de los almacenes de Amazon (Getty Images)

Los jueces pueden utilizar este software de última generación para fijar la fianza, determinar la duración de las sentencias e, incluso, declarar la culpabilidad o inocencia de un acusado. Por un lado, es un sistema capaz de agilizar el anquilosado sistema judicial. Por otro, varias investigaciones señalan que estos algoritmos tienden a reforzar, entre otras cosas, el sesgo racial. Según una investigación de ProPublica, este tipo de evaluaciones tienen una peligrosa tendencia a señalar erróneamente a acusados negros como futuros criminales, en una proporción que casi dobla la de acusados blancos.

Teniendo en cuenta que son decisiones que pueden cambiar la vida de los individuos, capaces de afectar a su puesto de trabajo o a su libertad, es crucial que estos sistemas de machine learning se basen en datos fiables y contrastados. Si hay sesgos de cualquier tipo, existe el riesgo de que las desigualdades estructurales no solo se reproduzcan, sino que se amplifiquen. Es uno de los grandes retos pendientes de esta cuarta revolución industrial en la que estamos inmersos a día de hoy.