In der vorliegenden Arbeit wird speziell auf die Entscheidungsprozesse in Einstellungsverfahren eingegangen und gezeigt, wie der Einsatz von Algorithmen dieses Feld beeinflusst. Dafür werden sowohl die positiven als auch die negativen Einflüsse der Algorithmen auf den Einstellungsprozess herausgearbeitet.
Dabei werden Studien, welche sich mit dem Thema der Entscheidungsfindung durch Algorithmen beschäftigen, erläutert. Diese liefern bereits erste Lösungsvorschläge für die Verbesserung von Entscheidungsprozessen durch Algorithmen, aber auch damit einhergehende Risiken. Im Anschluss werden die stärksten Argumente in einer Diskussion gegeneinander abgewogen. Weiterhin wird die wirtschaftspolitische Bedeutung dieses Themas dargestellt und es werden mögliche Chancen und Risiken genannt. Abschließend wird die bestehende Forschungslücke aufgezeigt.
Inhaltsverzeichnis
1 Einleitung
2 Positive Einflüsse durch den Algorithmus
2.1 Reduktion der Diskriminierung
2.2 Steigerung der Gerechtigkeit
2.3 Reduzierung des disparaten Einflusses
2.4 Erhöhung der Gleichheit
3 Negative Einflüsse des Algorithmus
3.1 Diskriminierung
3.2 Wirkung des disparaten Einflusses
4 Diskussion
5 Literaturverzeichnis
1 Einleitung
Heutzutage werden viele wichtige Entscheidungen, die noch vor ein paar Jahrzehnten von Menschen beschlossen wurden, durch Computer getroffen. Die Effizienz und Genauigkeit von automatisierten Entscheidungen versichert, dass der Einsatz von Algorithmen für Entscheidungsfelder weiter zunehmen wird. Dieses Thema ist besonders relevant, da es immer weiter Anwendung findet und dieser Fortschritt noch viele Jahre andauern wird (Tegmark 2017, 92; Barocas et al. 2017, 636). Speziell bei der Personalrekrutierung ist es wichtig, die Bewerber1 objektiv und entsprechend ihrer Qualifikationen auszuwählen. Die neuen Technologien und Algorithmen werden in diesem Kontext dazu genutzt, einen Mechanismus zur Erstellung von Vorhersagen zu entwickeln. Dabei betrachtet ein Algorithmus die Fähigkeiten der Bewerber, die Charakteristika ihrer beruflichen Leistung und die Personalkennzahlen. Anschließend wird ein Muster erstellt anhand dessen die Unternehmen ihr Personal rekrutieren (Noack 2019, 37). Das Augenmerk wird bei dieser Arbeit auf die sogenannten „screening“ Entscheidungen gelegt. Dabei muss beispielsweise ein Manager die Bewerber gründlich prüfen, um entscheiden zu können, wer eingestellt werden soll. Darauf aufbauend sind die folgenden Ausarbeitungen auf Entscheidungen bezogen, die über andere Menschen getroffen werden und unmittelbar ihr Leben beeinflussen (Brooks 2018, 83). Des Weiteren wird der Fokus auf Entscheidungsprozesse gelegt, die durch den Einsatz von Computern mit Datenverarbeitungsprogrammen unterstützt werden. Das beinhaltet den Einsatz von maschinell lernenden Algorithmen und künstlicher Intelligenz (Brooks et al. 2018, 83). Der beschriebene Algorithmus, ist die eindeutige und logische Anwendung einer Regel, die beschreibt wie ein Problem gelöst werden sollte. Besonders relevant sind die maschinell lernenden Algorithmen. Diese besitzen die Eigenschaft, sich durch Erfahrung im Lernprozess zu verbessern, ohne die Notwendigkeit menschlicher Intervention. Dies beschreibt einen Teilbereich der künstlichen Intelligenz (Tegmark 2017, 72). Der Prozess erfolgt in Einzelschritten, die nacheinander ausgeführt werden. Bei der Erstellung der Prognose gibt es qualitative und quantitative Unsicherheiten. Diese lassen sich auf die Kombinationen der Personalmerkmale, die für Arbeitgeber interessant sind, zurückführen. Diese Merkmale sind innerhalb einer Gruppe homogen und betreffen zum Beispiel die Bildung, das Vorstrafenregister, den Verdienst oder die Informationen bezüglich des Zahlungsverkehrs (Kleinberg et al. 2018, 123).
Das Vorgehen
In der vorliegenden Arbeit wird speziell auf die Entscheidungsprozesse in Einstellungsverfahren eingegangen und gezeigt, wie der Einsatz von Algorithmen dieses Feld beeinflusst. Dafür werden sowohl die positiven als auch die negativen Einflüsse der Algorithmen auf den Einstellungsprozess herausgearbeitet. Dabei werden Studien, welche sich mit dem Thema der Entscheidungsfindung durch Algorithmen beschäftigen, erläutert. Diese liefern bereits erste Lösungsvorschläge für die Verbesserung von Entscheidungsprozessen durch Algorithmen, aber auch damit einhergehende Risiken. Im Anschluss werden die stärksten Argumente in einer Diskussion gegeneinander abgewogen. Weiterhin wird die wirtschaftspolitische Bedeutung dieses Themas dargestellt und es werden mögliche Chancen und Risiken genannt. Abschließend wird die bestehende Forschungslücke aufgezeigt.
2 Positive Einflüsse durch den Algorithmus
Bei von Menschen durchgeführten Einstellungsverfahren, kann nicht ausgeschlossen werden, dass die Arbeitgeber bei ihrer Entscheidung die Herkunft oder das Geschlecht von Bewerbern mitberücksichtigen. Sollten Arbeitgeber keine aussagekräftigen Informationen über ihre Entscheidungen geben, kann versucht werden, diese zu rekonstruieren. Dazu bedarf es der Analyse von Daten (Kleinberg et al. 2018, 130). Jedoch wird die Einführung eines Algorithmus nicht unmittelbar soziale Ungerechtigkeit lösen (Abebe et al. 2020, 523). Einen statistischen Beweis für Diskriminierung in Einstellungsverfahren liefert ein Feldexperiment von Bertrand und Mullainathan, bei dem vergleichbare Bewerbungen oder Lebensläufe an Arbeitgeber verschickt wurden. Dabei wurde festgestellt, dass eine Verbindung zwischen dem Namen der Bewerber und der Assoziation mit einer Hautfarbe besteht. So erhielten Bewerber, deren Name auf eine andere Hautfarbe als die „weiße“ schließen lässt, weniger Rückrufe oder Einladungen zu einem Vorstellungsgespräch, als Personen mit deren Namen eine „weiße“ Hautfarbe suggeriert wird (Bertrand, Mullainathan 2004, 82). Das lässt sich dadurch erklären, dass das menschliche Unterbewusstsein verstärkt auf das Geschlecht, das Alter und die Hautfarbe anderer Menschen reagiert (Kleinberg et al. 2018, 125-127). Durch Algorithmen ist es einfacher festzustellen, auf welcher Basis Entscheidungen getroffen und warum bestimmte Merkmale berücksichtigt wurden. Besonders bei großen Unternehmen, die viele Bewerbungen erhalten, werden die „screening“ Systeme gebraucht. Dabei zeigt die Studie „ PROSPECT: A System for Screening Candidates for Recruitment“, dass mithilfe des „PROSPECT“ Algorithmus die Kandidaten besser eingeordnet werden können. Die dafür relevanten Informationen entnimmt der Algorithmus aus den Bewerbungen. Auf diese Weise werden Bewerbungen und Lebensläufe effizient überprüft, sodass den Arbeitgebern die wichtigsten Details über den Kandidaten vorliegen. Dazu gehören seine Berufserfahrung, Bildung oder auch die einzelnen Fähigkeiten in bestimmten Bereichen (Chenthamarakshan 2010, 659). Darüber hinaus ist es möglich, den Algorithmus prüfen zu lassen, ob die Entscheidung unverändert ausfallen würde, wenn man ein Merkmal ändert. Es kann genauestens geprüft werden, welche Daten für das Trainieren des Algorithmus verwendet wurden (Kleinberg et al. 2018, 116). Weiterhin ist die Unterscheidung zwischen der disparaten Behandlung (disparate treatment) und dem disparaten Einfluss (disparate impact) zu berücksichtigen. Beide resultieren in diskriminierenden Behandlungsweisen. Eine disparate Behandlung meint die von dem Grundrecht verbotene Diskriminierung infolge von Ethnie, Geschlecht, Nationalität, Religion und Alter (Kleinberg et al. 2018, 121). Der disparate Einfluss deutet hierbei auf eine unverhältnismäßige, negative Auswirkung auf Mitglieder von geschützten Gruppen, wie beispielsweise Frauen und AfroAmerikanern, hin (Kleinberg et al. 2018, 122).
2.1 Reduktion der Diskriminierung
Ein Algorithmus kann dazu genutzt werden, die Leistung der potenziellen Arbeitnehmer nach ihrer Einstellung zu prognostizieren. Die Entscheidungen, die durch Menschen getroffen werden, sind subjektiv. Sie basieren auf der Voreingenommenheit, welche bei der menschlichen Entscheidungsfindung unbewusst auftreten kann, sodass die Gründe für das Handeln nicht klar definierbar sind. Es ist möglich durch die Analyse von Daten die menschliche Entscheidungsfindung nachzuvollziehen. Die Untersuchungen der Daten messen nicht inwieweit zum Beispiel Mitarbeiter mit der gleichen Leistung auch gleichbehandelt werden, sondern nur die Qualifikationen der Bewerber (Kleinberg et al. 2018, 130). Die zu messenden Qualifikationen, müssen zunächst definiert werden, um als Basis für die Entscheidung zu dienen. Dabei muss das Ergebnis bestimmt werden, welches eine gute Arbeitsleistung beschreibt (Abebe et al. 2020, 255). Der Nachteil bei der Definition der Bewerberqualifikationen ist die lange Prozedur, da viele Faktoren zu berücksichtigen sind. Außerdem lässt sich festhalten, je mehr Daten beachtet werden müssen, desto länger dauert die Ausführung. Dazu kommt, dass in den meisten Fällen für eine Stellenausschreibung nur wenige Arbeitskräfte gesucht werden. Dies erschwert die Entscheidung, ob ein Unternehmen eine Person aus einer bevorzugten Gruppe statt einer Person mit der gleichen Qualifikation aus einer benachteiligten Gruppe ausgewählt hat (Kleinberg et al. 2018, 131). Um herauszufinden, ob eine disparate Behandlung vorliegt, sollten die Trainingsdaten, Zielvariablen und der resultierende Algorithmus zum Experimentieren und Prüfen zur Verfügung stehen. Dies ist wichtig, um den Fakt miteinzubeziehen, dass disparate Behandlung auftreten kann, wenn Informationen wie Herkunft und Geschlecht vorliegen. Vorausgesetzt ein Algorithmus ist in den Entscheidungsprozess eingebunden, kann der Zielkonflikt quantifiziert werden. Zielkonflikte können aus der unternehmerischen Notwendigkeit oder einer anderen Rechtfertigung für den disparaten Einfluss auf Bewerber entstehen (Kleinberg et al. 2018, 150). Algorithmen können eine Reihe von Rankings erstellen, die nach der Toleranz für die disparaten Einflüsse variieren (Kleinberg et al. 2018, 150-151). Darüber hinaus haben Algorithmen klar formulierte Ziele. Es existiert demnach nicht die Notwendigkeit zu erraten, welchen Regeln ein Algorithmus folgt. So kann beim Zulassungsverfahren genau definiert werden, nach welchen Auswahlkriterien die Bewerber rekrutiert werden sollen. Zu beachten ist, dass ein Algorithmus nicht dafür bestimmt ist, Diskriminierung aufgrund von unterschiedlichen Ethnien zu lösen (Kleinberg et al. 2018, 151). Ziel eines Algorithmus sollte es sein, das Ergebnis, für das sich Arbeitgeber beim Bewerbungsverfahren interessieren, zu spezifizieren. Außerdem sollten Ranglisten der Kandidaten anhand der resultierenden Prognose erstellt werden. Ein Algorithmus kann demnach präzise quantifizieren, was aufgegeben werden muss, um ein Ziel zu erreichen. Wenn Algorithmen in den Entscheidungsprozess involviert sind, ist es einfacher Diskriminierung festzustellen. Bei einem Bewerbungsprozess wird anhand von beobachtbaren Variablen ermittelt, ob eine Diskriminierung vorliegen könnte. So wird zum Beispiel untersucht, ob das Geschlecht in den vergangenen Einstellungsraten eines Arbeitgebers signifikant auf Diskriminierung hinweist. Dabei wird der Code des Algorithmus gelesen und dieser dem vom Gesetzgeber definiertem Begriff von Diskriminierung gegenübergestellt. Damit kann erkannt werden, ob eine nach dem Gesetz verbotene Diskriminierung vorliegt (Kleinberg et al. 2018, 114).
2.2 Steigerung der Gerechtigkeit
Ein Prinzip, dass dabei hilft Gerechtigkeit in einem System zu untersuchen, wird „procedual regularity“ genannt. Durch dessen Nutzung kann ein Computersystem legitimieren, dass Entscheidungen anhand von festen Regeln getroffen werden (Barocas et al. 2017, 637-638). Die Einbeziehung von Zufall in einen Algorithmus kann zu mehr Flexibilität führen. So kann ein Algorithmus abseits der Umwelt, in der er entwickelt wurde, operieren (Barocas et al. 2017, 683). Sollte jedoch Voreingenommenheit im Entwicklungsprozess des Algorithmus unentdeckt geblieben sein, kann sein Einsatz unter dieser Voraussetzung zu diskriminierenden Prognosen führen (Barocas et al. 2017, 683-684). In Hinsicht auf einen maschinell lernenden Algorithmus, der zur Rekrutierung von Fachkräften genutzt und mit Daten trainiert wurde, die Frauen als die schwächeren Kandidaten beurteilten, hat sich herausgestellt, dass mehr Männer eingestellt wurden. Durch dieses Ergebnis ist ersichtlich, dass Charakteristiken für erfolgreiche Einstellungen stark mit den Variablen für das Geschlecht korrelieren. Sobald der Algorithmus jedoch Elemente des Zufalls beinhaltet, werden mehr Frauen eingestellt. Die Validität der Annahmen kann geprüft werden. Davon würde über die Zeit die Präzision und Gerechtigkeit des ganzen Systems profitieren. Beim gelegentlichen Schätzen der Kandidaten, von denen keine zuverlässigen Prognosen erstellt werden können, kann dieses Modell zusätzliche Daten sammeln und sich entwickeln. So lassen sich in der realen Welt gewissenhaftere Vorhersagen treffen (Barocas et al. 2017, 684).
2.3 Reduzierung des disparaten Einflusses
Der disparate Einfluss beschreibt eine nichtgerechtfertigte negative Auswirkung auf Mitglieder von geschützten Gruppen. In Bezug auf Diskriminierung in der Personalrekrutierung bedeutet es, dass die Einstellungsentscheidungen der Arbeitgeber einen nachteiligen Effekt auf Mitglieder der geschützten Gruppen haben. Eine mögliche, zu prüfende Situation wäre beispielsweise die Forderung eines Arbeitsgebers nach einer schriftlichen Prüfung für seine Verkaufsangestellten. Denkbar wäre auch ein Polizeipräsidium, welches eine neue Regel einführt, nach der Bewerber in der Lage sein müssen, eine bestimmte Geschwindigkeit beim Laufen zu erreichen. Sobald sich durch diese Praktiken nachteilige Effekte auf Menschen aus geschützten Gruppen auswirken, werden die Maßnahmen als ungültig erklärt. Dies ist solange der Fall, bis der Arbeitgeber nachweisen kann, dass die gestellten Anforderungen in direktem Zusammenhang mit den Anforderungen für den Beruf stehen (Kleinberg et al. 2018, 122). Sofern eine Metrik eingeführt wird, die die Leistung der Mitarbeiter bewertet, hat diese oft Verzerrungen zur Folge (Abebe et al. 2020, 254). Es ist jedoch möglich, das Problem der ungleichen Auswirkung mithilfe des Algorithmus zu lösen. Dabei kann ausgesagt werden, welches Ausmaß der disparate Einfluss annimmt und welche Folgen die Eliminierung dieser Auswirkung nach sich zieht (Kleinberg et al. 2018, 150-151).
[...]
1 Aus Gründen der Lesbarkeit wird im Text die männliche Form gewählt, es ist jedoch immer die weibliche Form mitgemeint.