Fear of the machine, rage against the machine? Die grosse Angst vor AI im Recruiting (und was man dagegen tun kann)

Eine neue Studie aus Deutschland zeigt, dass der Einsatz von künstlicher Intelligenz (AI) in Bewerbungsverfahren auf breite Ablehnung stösst und generell negative Emotionen bei potenziellen Bewerber:innen weckt. Zudem wurden von den Befragten zahlreiche Einwände erhoben. Dabei mögen die Furcht vor einprogrammiertem Bias oder einem liederlichen Umgang mit personenbezogenen Daten je nach Kontext durchaus ihre Berechtigung haben. Im Grundsatz wäre es aber dennoch möglich, viele der genannten Bedenken auszuräumen, wenn es vonseiten der Arbeitgebenden und Software-Anbietern mehr Bemühungen um Transparenz und Erklärbarkeit zum Einsatz von AI im Recruiting gäbe. Auch wären mehr vergleichende Untersuchungen zu der jeweiligen Performance von Mensch und Maschine in diesem Bereich zu begrüssen, um den offensichtlichen Groll auf AI im HR-Bereich zu dämpfen. Gerade auch weil der Einsatz von AI im Bewerbungsablauf unaufhaltbar sein wird, versuchen wir im Folgenden deshalb, die noch immer massive Black Box um solche Rekrutierungssysteme aufzubrechen und zu verdeutlichen, welche Voraussetzungen für einen erfolgreicheren Gebrauch von Algorithmen & Co erfüllt sein müssen.

Die Angst vor dem Unbekannten

Insgesamt assoziieren rund 65 % der Studienteilnehmenden Negatives mit der Vorstellung von AI im Recruiting. Auch wenn dies eine klare Mehrheit darstellt, ist es gleichwohl interessant, die einzelnen Hintergründe dieses Resultats zu erwägen. Ungefähr zwei Drittel aller Befragten zeigen nämlich kein Vertrauen in Entscheidungen, die innerhalb eines Anstellungsprozesses mittels AI getroffen werden. Als grösste Schwachstelle wird zudem der Faktor der Unpersönlichkeit bei einem automatisierten Verfahren genannt. Gleichzeitig nahm in der Vergangenheit aber nur eine geringe Minderheit (6,3 %) überhaupt den Kontakt mit AI im Recruiting wahr, obschon dieser bereits vielerorts eine Realität ist. [1]

 

Fakten und Zahlen direkt aus der Studie

janzztechnology_rage-against-the-machine_graph-1

All diese Erkenntnisse weisen auf ein zentrales Problem hin: Solange keine Transparenz rund um das Thema künstliche Intelligenz im HR-Bereich herrscht, ist es ein Ding der Unmöglichkeit, Stellensuchende und Arbeitnehmende von solchen Vorgängen zu überzeugen. Das schlechte Image von AI im Recruiting-Prozess besteht also vor allem auch aufgrund einer Angst vor dem Unbekannten, welche sich wiederum zweifältig äussert. Weder scheinen die Befragten genau zu wissen, wie AI-basierte Entscheide zustande kommen, noch, welche genauen Auswirkungen diese Entscheide auf den eigentlichen Bewerbungsablauf und ihre Anstellungschancen haben werden.

Der X-Faktor in AI

Es liegt sowohl an den Anbietern von Softwarelösungen als auch an den Arbeitgebenden, hier für mehr Aufklärung zu sorgen, sodass sich Kandidat:innen darüber im Klaren sein können, wo und wie künstliche Intelligenz im HR eingesetzt wird. Noch immer gibt es zahlreiche Rekrutierungstools auf dem Markt, deren auf maschinellem Lernen (ML) basierende Resultate von den Herstellern bei Bedarf weder ausreichend erklärt, repliziert, noch korrigiert werden können. Solche Black-Box-Vorgänge verunmöglichen den Bewerber:innen demzufolge auch eine echte Einwilligungsoption für die Erhebung, Verarbeitung, Speicherung und Löschung von personenbezogenen Daten, was ernsthafte rechtliche Probleme mit sich ziehen kann. Es wird also vielerorts sowohl den Auflagen der Datenschutz-Grundverordnung der EU (DSGVO), als auch dem AI-Grundsatz der Transparenz der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) nicht entsprochen.

Eine Antwort auf diese Problematik liefert die sogenannte erklärbare künstliche Intelligenz, kurz XAI. Sie hat sich in den letzten Jahren als bewährter Ansatz zum Aufbrechen der Black Box um Systeme, die auf Deep Learning und künstlichen neuralen Netzen aufbauen, etabliert. Bei JANZZ.technology arbeiten wir seit geraumer Zeit mit solch erklärbaren Modellen und liefern dank deren Kombination mit ontologiebasiertem, semantischem Matching zahlreiche leistungsstarke Lösungen für alle Prozesse in den Bereichen HR und Arbeitsmarktmanagement.  Es ist uns ein grosses Anliegen, die Verständlichkeit unserer Dienstleistungen in den Vordergrund zu stellen und unsere Kund:innen mit dem nötigen Wissen über die Mechanismen und Vorgänge unserer Technologien auszustatten. Unser Matching-Tool JANZZsme! liefert beispielsweise nicht einfach einen simplen, wenig aussagenden Matching-Score zwischen Kandidat:in-Profil und Stellenausschreibung, sondern zerlegt sämtliche Kriterien in Teilaspekte wie Skills, Sprachkenntnisse oder Erfahrung, die allesamt ihren eigenen, einsehbaren Score haben und Resultate sowohl für Bewerbende als auch Arbeitgebende nachvollziehbar erklären.

Dem von einer Vielzahl der Befragten geäusserten Wunsch nach einer persönlichen Ansprechperson für Rückfragen während des Prozesses kann also zu einem Grossteil auch mittels erklärbarer Technologien und transparenter Auskunft darüber vonseiten der HR-Abteilungen nachgekommen werden. Der Erkenntnis, dass auf AI zurückgreifende Prozesse beim Bewerbungsverfahren als derart unpersönlich schlechtgeredet werden, sei vor allem zu entgegnen, dass endgültige Entscheidungen heute noch immer bei einem Recruiter liegen und dies auch in den kommenden Jahren so bleiben wird. Gemäss unserer Expertise und mehrjährigen Erfahrung gibt es nirgendwo ein vollends auf automatisiertes Anstellungsverfahren, das menschliches Einwirken komplette aus dem Prozess ausschliesst. Die Angst, dass man als Individuum während des Bewerbungsprozesses zu nichts als einer Zeichenkette aus Einsen und Nullen verkommt und das eigene Softskill-Profil völlig unberücksichtigt bleibt, ist demzufolge zwar verständlich, aber unbegründet.

Der Vergleich: Mensch versus Maschine

Es stellt sich eigentlich insgesamt die Frage, weshalb bei den Befragten der Studie solch ein Verlangen nach menschlichem Einfluss in das Rekrutierungsverfahren zu beobachten ist, wenn paradoxerweise die Hälfte von ihnen angibt, die Einbettung menschlicher Vorurteile bei der Programmierung von AI zu befürchten. [1] Die wenigen aussagekräftigen vergleichenden Studien zu den Performances von Mensch und Maschine deuten überdies auch keineswegs darauf hin, dass ersterer in Bewerbungsprozessen bessere Entscheidungen trifft. Ein weiterer Vorteil von XAI im Recruiting-Bereich ist deshalb ferner, dass wir uns inzwischen ein besseres Bild von der tatsächlichen Leistung automatisierter Vorgänge machen und diese Resultate mit denjenigen von manuellen Prozessen quantitativ vergleichen können.

Lassen Sie uns also ein kurzes Beispiel aus einem unserer eigenen Use-Cases skizzieren. Der Auftrag war, dass wir für eine internationale Organisation einen komparativen POC durchführen, bei welchem die vielversprechendsten Kandidat:innen für deren äusserst begehrte Juniorpositionen gefunden werden sollten. Zum Vergleich wurde die Auswahl auch von den erfahrenen HR-Managern getätigt, welche diesen Prozess üblicherweise jedes Jahr «manuell» während einer mehrwöchigen Zeitspanne ausführen. Die Parameter, auf welche beim Vergleich der Resultate besonders geachtet werden sollte, betraf die Vermeidung von Bias, das Erzielen von möglichst hoher Effizienz und selbstverständlich das Finden der am besten geeigneten Kandidat:innen.

Das Ergebnis dürfte eine Mehrheit der Teilnehmenden aus der eingangs beschriebenen Studie erstaunen: Nicht nur war die Verarbeitungszeit mittels unserer APIs, Matching-Tools und Parser auf einen Bruchteil jener des manuellen Prozesses reduziert (3 Tage vs. 12–14 Wochen), wobei Schnelligkeit in der Studie übrigens das am dritthäufigsten genannte Kriterium für eine angenehme Candidate Experience war. [1] Auch war bei der XAI-basierten Entscheidungsfindung von JANZZ keinerlei Bias festzustellen, während die Wahl der HR-Managern massive Verzerrungen bei den Variablen Herkunft, Gender und Sprache aufwies – nicht weiter erstaunlich, wenn man sich die unzähligen Formen von (unbewussten) Vorurteilen vor Augen hält, die den manuellen Anstellungsprozess prägen. Zwar bedeutete unser replizierbare, auf bindenden Kriterien basierende Prozess, dass wirklich die objektiv besten Kandidat:innen ausgesucht wurden und diese nicht immer automatisch auch spezielle Erwartungen bezüglich Diversity und Inclusion erfüllten. Aber selbst solche Anforderungen sind auf Wunsch skalierbar und können dann regelbasiert und konsequent eingesetzt werden, sofern dieser Entscheid den Bewerber:innen wiederum transparent mitgeteilt wird. Interessanterweise sahen in der Studie gerade mal 14 % einen der Hauptvorteile von XAI-basiertem Matching [1]. Nämlich, dass damit einfacher und zuverlässiger ein Job gefunden werden kann, der tatsächlich zu den eigenen Fähigkeiten, Kompetenzen und Ausbildung passt. Bei unserer eigenen Technologie stützen wir uns zu diesem Zwecke auf multilinguales, semantisches Matching, welches eine variable Lösung für das allgemeine Problem der heterogenen Vielfalt an Wissen, Terminologien und Informationen in CVs und Stellenanzeigen bietet und den Matching-Prozess deshalb um ein x-Faches leistungsfähiger macht.

 

Fakten und Zahlen aus dem JANZZ-POC

janzztechnology_rage-against-the-machine_graph-2

Insgesamt weist unser Vergleich eindeutig klare Ergebnisse zugunsten von AI auf. Um die bestehenden Ängste vieler potenzieller Arbeitnehmenden abzubauen, wäre es zweifellos nutzbringend, wenn Evaluationen wie die unsere in breiterem und regelmässigerem Masse gemacht würden. Dennoch lässt sich daraus bereits folgender Schluss ableiten: In Bezug auf Voreingenommenheit beim Bewerbungsprozess performt mit Deep Learning und einem Knowledge-Rich-System angereicherte AI definitiv nicht schlechter als der Mensch (siehe auch Verweis letzter Abschnitt). Ganz im Gegenteil, sie bringt sogar potenzielle Vorteile wie Geschwindigkeit und vor allem Objektivität mit sich. Der Einsatz von AI im HR-Bereich ist überdies bereits auf unaufhaltbarem Vormarsch. Sieht denn irgendjemand eine Alternative, mit der die stetig wachsende Partizipationsrate und Bewegung auf dem Arbeitsmarkt bewältigt werden sollen? Aufgrund all dieser Tatsachen halten wir uns bei JANZZ.technology an den Grundsatz «Keine künstliche Intelligenz ohne menschliche Intelligenz». XAI-basierte Systeme bieten unabdingbare Hilfe bei im manuellen Rekrutierungsverfahren mühseligen und kostspieligen Vorprozessen und erlauben es menschlichen Personalverantwortlichen, sich auf das Wesentliche zu konzentrieren; auf das Finden der Top-Kandidat:innen.

 

Die Möglichkeiten von AI für den HR-Bereich gehen weit über den Anstellungsprozess hinaus, da sie zum Beispiel auch ausgezeichnet im strategischen Workforce Planning eines Unternehmens eingesetzt werden kann. Falls Sie gerne mehr über unser breites Angebot erfahren oder Auskunft darüber erhalten möchten, was JANZZ.technology für Ihr spezifisches Anliegen tun kann, kontaktieren Sie uns bitte unter info@janzz.technology oder via Kontaktformular, oder besuchen Sie unsere Produktseite für einen Überblick über all unsere Lösungen. Ausserdem laden wir Sie herzlich dazu ein, in unseren Podcast reinzuhören, in welchem wir Wissenswertes rund ums Thema erläutern – in der aktuellen Folge beispielsweise gerade zum Unterschied zwischen Systemen, die «knowledge-lean» bzw. «knowledge-rich» sind.

 

[1] IU Internationale Hochschule. 2022. KI im Recruiting: Emotionen, Ansichten, Erwartungen. Der Einfluss von künstlicher Intelligenz auf die Candidate Experience. URL: https://www.iu.de/forschung/studien/ki-im-recruiting-studie/