Diskriminierung melden
Suchen:

Erhebliche Diskriminierungsrisiken durch Algorithmen

Foto: H.S.

17.09.2019

Studie des ITAS mit Unterstützung der Antidiskriminierungsstelle: Erhebliche Diskriminierungsrisiken durch Algorithmen / Nachweismöglichkeiten für Betroffene sollten verbessert werden.

Algorithmen und umfangreiche Datensätze bergen erhebliche Diskriminierungspotentiale im Arbeitsleben, bei der Vergabe von Wohnraum oder in der Kreditwirtschaft, bei der Berechnung von Versicherungstarifen, in der Medizin und bei der Polizei. Darauf weist eine aktuelle Studie von Carsten Orwat (2019) hin , die vom Karlsruher Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) mit finanzieller Förderung der Antidiskriminierungsstelle des Bundes erstellt wurde.

Die Differenzierung von Personengruppen, wie sie von Algorithmen im Hinblick auf die unterschiedlichsten Informationen, Produkte, Dienste, Entgelt oder Positionen vorgenommen werden, kann dabei insbesondere dann problematisch sein, wenn sie direkt oder indirekt an gesetzlich verbotene Gründe wie das Alter, eine Behinderung, die ethnische Herkunft, das Geschlecht die Religion oder Weltanschauung oder die sexuelle Identität anknüpft.

Anhand von zahlreichen Fallbeispielen zeigt die Studie nicht nur technische und gesellschaftliche Ursachen von Diskriminierungsmöglichkeiten, sondern vor allem auch die daraus resultierenden Risiken auf. Der Autor, Dr. Carsten Orwat, diskutiert dabei auch den Bedarf an Reformen im Antidiskriminierungs- und Datenschutzrecht und die Notwendigkeit gesellschaftlicher Abwägungen, welche algorithmen- und datenbasierten Differenzierungen in einer Gesellschaft für akzeptabel gehalten werden können.

„Die Studie zeigt klar: Es gibt erhebliche Diskriminierungsrisiken; sie bestehen bereits heute und in zahlreichen Lebensbereichen“, sagt der kommissarische Leiter der Antidiskriminierungsstelle, Bernhard Franke. „Die gute Nachricht ist: Das Allgemeine Gleichbehandlungsgesetz (AGG) gibt mit seinen analog wie digital geltenden Diskriminierungsverboten bereits die richtigen Antworten. Wir brauchen also kein gänzlich neues Recht, sondern müssen das bestehende zukunftsfest machen.“

Die Studie benennt konkrete Regulierungsempfehlungen wie ein Einsichtsrecht in Algorithmen für Antidiskriminierungsstellen und die Etablierung so genannter Algorithmen-Audits, um die Identifizierung und den Nachweis algorithmenbasierter Diskriminierungen zu vereinfachen und die Rechte Betroffener zu stärken. Dazu gehört auch die Schaffung präventiver Angebote wie beispielsweise die Schulung von Personal- bzw. IT-Verantwortlichen. Auch sollten Unternehmen und Verwaltungen, die Algorithmen in rechtlich sensiblen Bereichen nutzen, konkrete Dokumentationspflichten auferlegt werden, um Diskriminierungen zu vermeiden.

Die Antidiskriminierungsstelle des Bundes hat die Studie am 16. September 2019 im Rahmen eines Fachgesprächs in Berlin vorgestellt.

Die Studie steht unter Link zum Download zur Verfügung.

Link: GESUNDHEITSKARTE, DIGITIALISIERUNG, TELEMATIK, GEMATIK, e-HEALTH: Daten sind das neue Öl - Dossier
Quelle: ADS-Pressemitteilung; Berlin, 16. September 2019