Genre, algorithmes et droits

Les algorithmes ont-ils un genre ? Telle est la question à laquelle répond le présent ouvrage, grâce à une recherche exploratoire et empirique menée dans différents secteurs d'activité. Les usages des algorithmes foisonnent dans tous les domaines de l'activité humaine : la santé, l'éducation, l'emploi, l'action publique ou encore la justice. A l'heure actuelle, nombre de décisions sont d'ores et déjà prises par des algorithmes. Pourtant, les enjeux de cette automatisation et leur potentiel discriminant demeurent largement sous-estimés par les décideurs privés et publics. Cette inquiétude s'avère particulièrement prégnante s'agissant du genre des personnes. La dématérialisation des démarches quotidiennes questionne le recueil, la conservation et l'exploitation des données personnelles, et particulièrement celles relatives au genre des personnes. Le risque est fort que des biais de genre affectent les processus numériques automatisés. Pourtant, peu d'études ont été menées sur ces questions. Inéluctablement, la question doit être posée : les algorithmes ont-ils un genre ? Pour y répondre, le présent ouvrage recense les résultats d'une recherche exploratoire menée auprès du Défenseur des droits, ainsi que les contributions de chercheurs dans plusieurs domaines du droit. Elle révèle l'ampleur des risques de discrimination liée au sexe, à l'identité de genre et à l'orientation sexuelle, susceptibles de résulter de l'usage des algorithmes.

La collection "Droits, pouvoirs et sociétés" a vocation à recueillir les publications de sensibilités disciplinaires différentes, au coeur des sciences juridiques et politiques, mais aussi au-delà. Cette collection est portée par la Fédération de Recherche du même nom (FED 4280), qui regroupe plusieurs laboratoires en SHS, et notamment l'ensemble des centres de recherche de la Faculté de Droit et de Science Politique d'Aix-Marseille Université.
Elle permet ainsi de promouvoir les regards scientifiques croisés sur des questions sociétales majeures, émergentes ou innovantes.