Inteligencia artificial y sesgos discriminatorios: ¿es necesario un nuevo concepto de discriminación algorítmica?
Saved in:
Lousada, J. F., Inteligencia artificial y sesgos discriminatorios: ¿es necesario un nuevo concepto de discriminación algorítmica?. IgualdadES, n. 11, 2024, 27 p.
Ref.
611282
Location:
SIIS R.1957
Palabras clave:
Discriminación social, Nuevas tecnologías, Derechos sociales, Protección social, Problemas jurídicos, Estudio cualitativo, España
Discriminación social, Nuevas tecnologías, Derechos sociales, Protección social, Problemas jurídicos, Estudio cualitativo, España
Abstract:
Los sistemas de IA incurren en sesgos discriminatorios y, en particular, en sesgos de género, que presentan diferencias respecto a los sesgos existentes con carácter general en las personas y en la sociedad. Los sesgos en la IA tienden a incrementar los sesgos generales y, en todo caso, presentan manifestaciones específicas. La cuestión que se aborda en el presente estudio es si los conceptos jurídicos vigentes sobre discriminación son suficientes para dar protección frente a tales sesgos o no, y en ese caso si se haría necesaria la creación de un nuevo concepto de discriminación algorítmica. La respuesta a la cuestión exige analizar las causas de los sesgos discriminatorios en los sistemas de IA, sus manifestaciones y las dificultades de calificación jurídica. Después se analizará lo que aporta a la cuestión el reglamento europeo de inteligencia artificial. Se finaliza con unas consideraciones que no pretenden ser conclusiones cerradas, sino propuestas para el debate.
Los sistemas de IA incurren en sesgos discriminatorios y, en particular, en sesgos de género, que presentan diferencias respecto a los sesgos existentes con carácter general en las personas y en la sociedad. Los sesgos en la IA tienden a incrementar los sesgos generales y, en todo caso, presentan manifestaciones específicas. La cuestión que se aborda en el presente estudio es si los conceptos jurídicos vigentes sobre discriminación son suficientes para dar protección frente a tales sesgos o no, y en ese caso si se haría necesaria la creación de un nuevo concepto de discriminación algorítmica. La respuesta a la cuestión exige analizar las causas de los sesgos discriminatorios en los sistemas de IA, sus manifestaciones y las dificultades de calificación jurídica. Después se analizará lo que aporta a la cuestión el reglamento europeo de inteligencia artificial. Se finaliza con unas consideraciones que no pretenden ser conclusiones cerradas, sino propuestas para el debate.