Diskriminierungsschutz bei algorithmenbasierten Entscheidungen (Algorithms and Anti-Discrimination Law)

Anna Katharina Mangold/Mehrdad Payandeh (Hg.), Handbuch Antidiskriminierungsrecht – Strukturen, Rechtsfiguren und Konzepte (i.E.) (2021)

54 Pages Posted: 28 Apr 2021 Last revised: 17 Aug 2021

Date Written: April 17, 2021

Abstract

German Abstract: Automatisiertes Profiling und hierauf gestützte Entscheidungen stellen das Antidiskriminierungsrecht vor neue Herausforderungen, die dieses Kapitel eines neuen Handbuchs zum deutschen und europäischen Antidiskriminierungsrecht untersucht. Der Beitrag benennt zunächst die Charakteristika und die Gründe algorithmenbasierter Benachteiligungen. Sodann stellt er die bestehenden Normen zur Einhegung algorithmenbasierter Benachteiligungen (inklusive solcher des Datenschutzrechts) dar und entwickelt die relevanten Aspekte für die Rechtfertigung direkter und indirekter Formen algorithmenbasierter Benachteiligungen, wobei er auch auf die Methodik des Profiling eingeht. Schließlich wendet er sich dem drängenden Problem zu, wie Diskriminierungen entdeckt und von den Opfern geltend gemacht werden können.

English Abstract: Decision-making based on algorithms and profiling raises new questions for anti-discrimination law. This chapter (which forms part of a handbook on EU and German anti-discrimination law) looks at those questions. It explains the characteristics of and the reasons for discriminations based on algorithms. It presents the legal norms addressing algorithmic discrimination, including norms of data protection law. It suggests relevant aspects for justifying disparate treatment and (most importantly) disparate impact, including the methodology of profiling. It also raises the urging question of how discrimination can be detected and demonstrated by the victims.

Note: Downloadable document is in German.

Keywords: anti-discrimination law, algorithm, bias, profiling, scoring, automated decisions, data protection, General Data Protection Regulation

Suggested Citation

von Ungern-Sternberg, Antje, Diskriminierungsschutz bei algorithmenbasierten Entscheidungen (Algorithms and Anti-Discrimination Law) (April 17, 2021). Anna Katharina Mangold/Mehrdad Payandeh (Hg.), Handbuch Antidiskriminierungsrecht – Strukturen, Rechtsfiguren und Konzepte (i.E.) (2021), Available at SSRN: https://ssrn.com/abstract=3828696 or http://dx.doi.org/10.2139/ssrn.3828696

Antje Von Ungern-Sternberg (Contact Author)

University of Trier ( email )

54286 Trier
Germany

HOME PAGE: http://irdt.uni-trier.de/

Do you have a job opening that you would like to promote on SSRN?

Paper statistics

Downloads
305
Abstract Views
825
Rank
187,253
PlumX Metrics