Digiloglounge Digital

Im Rahmen der Diskussionsreihe #digiloglounge sprechen unsere ForscherInnen Laura Schelenz und Regina Ammicht Quinn mit Sabine Faller über die Problematik ungerechter Algorithmen.

Unsere Gesellschaft ist geprägt von Strukturen der Ungleichheit. Ob Mann oder Frau, jung oder alt, West oder Ost, Stadt oder Land – unsere alltägliche Realität kann sich teils erheblich voneinander unterscheiden. Das hängt davon ab, welchen strukturellen Vor- und Nachteilen wir jeweils ausgesetzt sind. Strukturelle Ungleichheiten sind in unseren politischen und sozialen Institutionen eingeschrieben. Sie führen zu einer ungleichen und ungerechten Behandlung verschiedener sozialer Gruppen. Dies ist zum Beispiel der Fall bei Rassismus oder (Hetero)Sexismus. 

Zunehmend setzt sich die Wissenschaft mit dem Problem auseinander, wie strukturelle Ungleichheiten bewusst oder unbewusst in moderne Technologien eingeschrieben werden. Technik kann sogar mitunter die strukturelle Diskriminierung von bestimmten Gruppen verstärken. Insbesondere betroffen sind Menschen, die ohnehin in der Gesellschaft marginalisiert werden. Dies hat mit der Entwicklung von Algorithmen zu tun. 

Algorithmische Systeme sind Computermodelle, die anhand von Datensätzen trainiert werden, eine bestimmte Aufgabe zu lösen. Häufig verfügen diese Datensätze selbst über Verzerrungen, zum Beispiel indem sie über einen hohen Anteil von Daten weißer Menschen verfügen, aber nur über einen geringen Anteil von Informationen über Menschen mit dunkler Hautfarbe. Es gibt aber auch persönliche Annahmen und Vorurteile, die Entwickler-Teams dazu motivieren, Technik »für« bestimmte Personengruppen zu designen. Dabei werden die Bedürfnisse von weniger beachteten Gruppen vernachlässigt. 

Dieser Vortrag beschäftigt sich mit struktureller Diskriminierung durch Technik. Er diskutiert einige Fallbeispiele, unter anderem die Diskriminierung von schwarzen Frauen durch Gesichtserkennungs-Software oder die Diskriminierung von Transgender bei der Sicherheitskontrolle am Flughafen. Dabei werden größere Zusammenhänge der heutigen Technikentwicklung deutlich. Der Vortrag nimmt Bezug auf die Black Lives Matter Bewegung in den USA und diskutiert ihre Relevanz im Kontext des Themas. Es werden Ansätze für eine gerechtere Technikentwicklung vorgestellt, wie beispielsweise die des Netzwerks »Design Justice«. 

Die Veranstaltung ist Teil der #digiloglounge-Gesprächsreihe. Einmal im Monat geben ExpertInnen von digilog@bw einen Einblick in ihre digitalen Forschungsthemen und beantworten Fragen im Video-Livestream!