Discriminació algorítmica : límits de la regulació antidiscriminació europea i recomanacions preliminars
Capellà Ricart, Anna (Universitat Autònoma de Barcelona)

Additional title:	Discriminación algorítmica : límites de la regulación antidiscriminación europea y recomendaciones preliminares
Additional title:	Algorithmic discrimination : the limits of EU antidiscrimination law and preliminary recommendations
Additional title:	Discriminació algorítmica
Date:	2022
Abstract:	Davant les discriminacions arran de les decisions automatitzades preses mitjançant sistemes algorítmics, la normativa antidiscriminatòria europea i la jurisprudència establerta fins ara, no semblen generar per si mateixes els mecanismes adequats per combatre-les. En aquest article repassem els tres eixos que presenten les principals limitacions per poder abastar aquest nou repte: una protecció excessivament basada en els atributs protegits; massa centrada en la dualitat discriminació directa o indirecta (que amb les noves eines causants de la discriminació poden veure's difuminades); i les dificultats a nivell probatori que pot tenir algú que ha patit discriminació algorítmica, com per exemple, trobar un grup amb qui comparar-se, o alguna persona o entitat a qui responsabilitzar de l'acció discriminatòria. Cal identificar les mancances i les formes de discriminació que escapen a la regulació actual per poder proposar mecanismes que realment serveixin en la lluita envers la discriminació.
Abstract:	European anti-discrimination legislation and the jurisprudence established so far, do not seem to generate the appropriate mechanisms to combat discrimination as a result of automated decisions made through algorithmic systems. In this article we review the three axes that present the main limitations to face this new challenge: a protection overly based on protected attributes; overly focused on the duality of direct or indirect discrimination (that with the new tools that cause discrimination can be blurred); and the difficulties that someone who has been discriminated against may have at the probationary level, such as finding a group with whom to compare themselves, or who is responsible for the discriminatory action. It is necessary to identify the shortcomings and forms of discrimination that escape the current regulation to be able to propose mechanisms that really serve to fight against discrimination.
Abstract:	Ante las discriminaciones a raíz de las decisiones automatizadas tomadas mediante sistemas algorítmicos, la normativa antidiscriminatoria europea y la jurisprudencia establecida hasta ahora, no parecen generar por sí mismas los mecanismos adecuados para combatirlas. En este artículo repasamos los tres ejes que presentan las principales limitaciones para abarcar este nuevo reto: una protección excesivamente basada en los atributos protegidos; demasiado centrada en la dualidad discriminación directa o indirecta (que con las nuevas herramientas causantes de la discriminación pueden verse difuminadas); y las dificultades a nivel probatorio que puede tener alguien que ha sufrido discriminación algorítmica, como por ejemplo, encontrar un grupo con el que compararse, o alguna persona o entidad a la que responsabilizar de la acción discriminatoria. Hay que identificar las carencias y formas de discriminación que escapan a la regulación actual para poder proponer mecanismos que realmente sirvan en la lucha hacia la discriminación.
Rights:	Aquest document està subjecte a una llicència d'ús Creative Commons. Es permet la reproducció total o parcial, la distribució, la comunicació pública de l'obra, i la creació d'obres derivades, sempre que no sigui amb finalitats comercials i que es distribueixin sota la mateixa llicència que regula l'obra original. Cal que es reconegui l'autoria de l'obra original.
Language:	Català
Document:	Article ; Versió publicada
Subject:	Unió Europea ; Intel·ligència artificial ; Discriminació indirecta ; Algoritmes ; Interseccionalitat ; Igualtat de gènere ; Unión Europea ; Inteligencia artificial ; Algoritmos ; Discriminación indirecta ; Interseccionalidad ; Igualdad de género ; European Union ; Artificial intelligence ; Algorithms ; Indirect discrimination ; Interseccionality
Published in:	Quaderns IEE, Vol. 1 Núm. 2 (2022) , p. 31-56 (Estudis) , ISSN 2696-8525

Adreça original: https://revistes.uab.cat/quadernsiee/article/view/v1-n2-capella
DOI: 10.5565/rev/quadernsiee.26

26 p, 380.7 KB

The record appears in these collections:
Articles > Published articles > Quaderns IEE