Teilen auf
Die Nutzung von künstlicher Intelligenz (KI) nimmt in allen Lebensbereichen zu. Der Einsatz dieser Technologie ist häufig sinnvoll, um Zeit und Kosten zu sparen. Dies gilt nicht zuletzt auch im Recruiting, in dem KI auf vielfältige Weise verwendet werden kann. Diskriminierungsrisiken und die Notwendigkeit der Beteiligung des Betriebsrates werden als Konsequenz bereits vielfach diskutiert. Daneben gibt es seit 1. August 2024 durch das sogenannte SCHUFA-Urteil des Europäischen Gerichtshofs und das Inkrafttreten des AI-Acts neue Fallstricke bei der KI-gestützten „Vorauswahl“ von Bewerbern, die es zu vermeiden gilt.
Gemäß Artikel 22 Absatz 1 Datenschutz-Grundverordnung (DSGVO) hat jede Person das Recht, keiner Entscheidung unterworfen zu werden, die „ausschließlich“ auf einer automatisierten Verarbeitung beruht und ihr gegenüber eine rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Im Recruiting betrifft dies insbesondere KI-Anwendungen, die eigenständig eine Vorauswahl treffen, indem sie nur einen Teil der eingegangenen Bewerbungen anzeigen. Dadurch bleiben bestimmte Bewerbungen für die HR-Abteilung unsichtbar und werden nicht weiter berücksichtigt. In diesen Fällen entscheidet die KI, dass einige Bewerber keine Chance auf ein Vorstellungsgespräch – und damit auch keine Möglichkeit auf den Abschluss eines Arbeitsvertrages – erhalten. Ein derartiger Einsatz stellt nach überwiegender Ansicht einen Verstoß gegen Artikel 22 Absatz 1 DSGVO dar. Wird gegen diesen Artikel verstoßen, drohen laut Artikel 83 Absatz 5 Geldbußen von bis zu 20 Millionen Euro oder von bis zu vier Prozent des weltweit erzielten Jahresumsatzes des vorangegangenen Geschäftsjahres eines Unternehmens.
SCHUFA-Urteil des EuGH
Im sogenannten SCHUFA-Urteil des Europäischen Gerichtshofs vom 7. Dezember 2023 (EuGH, Rechtssache C-634/21) stand die Bedeutung des Artikels 22 Absatz 1 DSGVO im Mittelpunkt. Bisher wurde ausgehend vom Wortlaut richtigerweise angenommen, dass die bloße automatisierte Vorbereitung einer Entscheidung nicht unter Artikel 22 Absatz 1 DSGVO fällt, da es sich hierbei nicht um die eigentliche Entscheidung handelt. So argumentierte auch die SCHUFA in dem Verfahren. Ihrer Auffassung nach sei Artikel 22 DSGVO auf ihre Tätigkeit nicht anwendbar, da sie keine Entscheidungen treffe, sondern lediglich einen „Score“ ermittele, den ihre Kunden bei ihren Entscheidungen berücksichtigen können.
Der EuGH teilte diese Auffassung nicht und stützte sich dabei auf die Schlussanträge des Generalanwalts. Nach Ansicht des EuGH liegt eine „ausschließliche“ Entscheidung im Sinne von Artikel 22 Absatz 1 DSGVO auch dann vor, wenn die automatisierte Vorbereitungshandlung im Einzelfall eine „maßgebliche Rolle“ für die endgültige Entscheidung spielt. Er begründet dies mit dem Verweis auf den Sinn und Zweck der Norm. Die endgültige Entscheidung sei danach jede Maßnahme, die rechtliche Wirkung gegenüber der betroffenen Person entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt (siehe hierzu auch Erwägungsgrund 71 der DSGVO).
Was genau unter „maßgeblich“ in diesem Kontext zu verstehen ist, hat der EuGH allerdings nicht weiter konkretisiert. Hinweise hierzu lassen sich jedoch den Schlussanträgen des Generalanwalts entnehmen, auf die das Urteil verweist. Danach sei die Maßgeblichkeit insbesondere dann gegeben, wenn die automatisierte Vorbereitungshandlung den Entscheidungsprozess so stark prägt, dass sie durch die menschliche Entscheidung „durchschlägt“. Dies soll bereits dann der Fall sein, wenn der Verantwortliche die Entscheidung zwar nicht ausschließlich auf das von der KI bereitgestellte Ergebnis stützt, dies jedoch „in aller Regel maßgeblich tut“. Obwohl die Entscheidung des EuGH angesichts der Wortlautgrenze des Artikels 22 Absatz 1 DSGVO durchaus kritisch betrachtet werden kann, muss die Praxis sich auf die Auswirkungen dieses Urteils einstellen.
Bedeutung für das Recruitingverfahren
Das Urteil des EuGH ist im Recruiting-Verfahren insbesondere für KI-Anwendungen von Bedeutung, die den Auswahlprozess unterstützen. Durch einige sogenannte „People Analytics“-Anwendungen kann zum Beispiel eine Vorauswahl der Bewerber getroffen werden. Diese Systeme durchsuchen automatisch eine große Anzahl an Bewerbungen und erstellen ein Ranking der Kandidaten. Bisher wurde aufgrund des vermeintlich klaren Wortlauts von Artikel 22 Absatz 1 DSGVO davon ausgegangen, dass eine solche Rangliste keine Entscheidung im Sinne dieser Vorschrift darstellt. Nach dem EuGH-Urteil lässt sich dies jedoch nicht mehr mit Sicherheit sagen.
In der Praxis könnte zukünftig problematisch werden, dass Bewerber, die auf den hinteren Plätzen dieser Rangliste stehen, oft nicht zu Vorstellungsgesprächen eingeladen werden, ohne dass ihre Bewerbungen nochmals gesichtet werden. Dass die Bewerbungen häufig nicht mehr in Gänze angesehen werden, liegt an dem Umstand, dass die gleichen Kriterien, die von der KI zur Erstellung der Rangliste verwendet werden, auch ohne den Einsatz von KI eine entscheidende Rolle bei der Auswahl der Bewerber spielen würden, die zum Vorstellungsgespräch eingeladen werden.
Es kann aber mit guten Gründen argumentiert werden, dass der Einsatz von KI in diesem Kontext keine Entscheidung im Sinne von Artikel 22 Absatz 1 DSGVO darstellt:
Zunächst geht der Gesetzgeber in Erwägungsgrund 71 zur DSGVO selbst davon aus, dass eine Entscheidung im Sinne von Artikel 22 Absatz 1 DSGVO dann vorliegt, wenn ein „Online-Einstellungsverfahren ohne jegliches menschliche Eingreifen“ durchgeführt wird. Eine durch KI erstellte Rangliste vor einem Bewerbungsgespräch stellt jedoch kein vollständiges Online-Einstellungsverfahren dar. In der Regel gibt es weniger offene Stellen als geführte Bewerbungsgespräche, und die Platzierung auf der Rangliste spielt im persönlichen Gespräch höchstens noch eine untergeordnete Rolle. Viel entscheidender ist das Auftreten des Bewerbers im Gespräch. Außerdem ist die Rangliste nicht in gleichem Maße belastend wie ein „Online-Einstellungsverfahren ohne jegliches menschliche Eingreifen“ im Sinne des Erwägungsgrundes 71.
Die Bedeutung einer Rangliste für die Entscheidung über einen möglichen Arbeitsvertrag ist auch nicht vergleichbar mit der Bedeutung des „SCHUFA-Scores“ für die Kreditvergabe. Wäre dies der Fall, müsste nahezu immer der Erstplatzierte auf der Rangliste die Stelle erhalten, was in der Praxis nicht so häufig vorkommt wie die Ablehnung eines Kredits aufgrund eines negativen „SCHUFA-Scores“. Das heißt nicht, dass der Arbeitsvertrag für den Betroffenen weniger bedeutend ist als die Gewährung eines Kredites. Es geht um die Bedeutung der KI generierten „Produkte“ (SCHUFA-Score und Rangliste) für den Vertragsschluss (Kreditvertrag, Arbeitsvertrag).
Darüber hinaus wird es auch weiterhin im Interesse des Arbeitgebers liegen, sich nicht ausschließlich auf das Ergebnis der KI-Anwendung zu verlassen. Um potenziell geeignete Kandidaten nicht vorschnell auszuschließen, sollten Arbeitgeber weiterhin (stichprobenartige) Überprüfungen und Abweichungen von der Rangliste vornehmen. Dies unterscheidet sich erheblich vom „SCHUFA-Score“, der vollständig automatisiert und ohne nachträgliche menschliche Überprüfung erstellt wird.
Es ist jedoch nicht auszuschließen, dass Gerichte dies dennoch anders bewerten und auch die KI-basierte Erstellung einer Rangliste in einem Bewerbungsverfahren als Verstoß gegen Artikel 22 Absatz 1 DSGVO ansehen. Es könnte argumentiert werden, dass ein schlechter Listenplatz, ähnlich wie beim SCHUFA-Scoring, „in nahezu allen Fällen“ dazu führt, dass der Bewerber nicht zum Vorstellungsgespräch eingeladen wird, weshalb Artikel 22 Absatz 1 DSGVO greift. Die bloße (theoretische) Möglichkeit, von der Liste abzuweichen und andere Personen einzuladen, könnte als unzureichend angesehen werden.
Risikoverringerung
Sollten die Gerichte zu dem Ergebnis gelangen, dass schon ein derartiger Einsatz von KI-Anwendungen im Auswahlprozess gegen Artikel 22 Absatz 1 DSGVO verstößt, stellt sich die Frage, ob solche Software überhaupt noch „gewinnbringend“ eingesetzt werden kann. Der Einsatz von KI ist schließlich nur dann effizient, wenn er Zeit und Ressourcen spart, anstatt zusätzlichen Aufwand zu verursachen, wie etwa eine umfangreiche Überprüfung der von der KI erstellten Ranglisten.
Eine mögliche Lösung, um den Einsatz von KI effektiv zu gestalten und gleichzeitig das Risiko zu verringern, dass ihr Gebrauch von der Rechtsprechung als unzulässig eingestuft wird, könnte darin liegen, die Entscheidungen der KI durch ergänzende menschliche Kontrollmechanismen abzusichern. Nach dem beschriebenen Ranglistenmodell könnten zwar die bestplatzierten Kandidaten zu Vorstellungsgesprächen eingeladen werden, was für sich genommen nach der Rechtsprechung des EuGH als Verstoß gegen Artikel 22 Absatz 1 DSGVO gewertet werden könnte. In einem zweiten Schritt könnten dann jedoch weitere Bewerber aufgrund von Kriterien eingeladen werden, die von der KI nicht in vollem Umfang berücksichtigt werden konnten. Hier könnten zum Beispiel ehrenamtliches Engagement oder andere „Soft Skills“ berücksichtigt werden, die von einer KI-Anwendung möglicherweise weniger gut erfasst und gewichtet werden als von einem menschlichen Entscheider. Auf diese Weise würde ermöglicht werden, dass nicht nur die von der KI vorausgewählten Kandidaten eine Chance erhalten, sich im Vorstellungsgespräch zu beweisen, sondern auch andere Bewerber – unabhängig von ihrem Rang auf der Liste – reale Einstellungschancen haben. Diese Vorgehensweise hätte den Vorteil, dass die endgültige Entscheidung nicht ausschließlich von der KI-Vorauswahl abhängt. Gleichzeitig würde weiterhin eine Zeitersparnis erzielt, da die Bewerbungen nicht vollständig neu gesichtet werden müssten, sondern nur hinsichtlich einzelner Kriterien. Der Einsatz von KI im Bewerbungsprozess könnte so effizient und zugleich rechtssicherer erfolgen.
Ein weiteres Instrument zur Verringerung des Risikos ist die bereits erwähnte stichprobenartige Überprüfung der von der KI erstellten Ranglisten, wobei letztlich nicht sicher prognostiziert werden kann, ob die Rechtsprechung dies als ausreichend erachtet. Entscheidend ist jedoch, dass eine wirksame Risikomanagementstrategie stets an die Besonderheiten des jeweiligen Anwendungsfalls angepasst sein muss. Hierbei sind insbesondere Faktoren wie die Unternehmensgröße, der konkrete Einsatzbereich der KI und das Verhältnis von Kosten und Nutzen von maßgeblicher Bedeutung.
Wie sich die Einsatzmöglichkeiten in Zukunft verändern, hängt neben der Rechtsprechung auch vom Gesetzgeber ab. Der Entwurf des neuen Paragrafs 37a Absatz 1 Nummer 1 BDSG macht Hoffnung, dass die Folgen des Schufa-Urteils abgefedert werden. Der kürzlich vom Bundeskabinett verabschiedete Gesetzentwurf enthält eine Ausnahme zu Artikel 22 DSGVO für Fälle, in denen Wahrscheinlichkeitswerte über das zukünftige Verhalten einer Person erstellt oder genutzt werden, um über die Begründung, Durchführung oder Beendigung eines Vertragsverhältnisses zu entscheiden. Ob diese Regelung den Einsatz von KI im Recruiting beeinflussen wird, hängt jedoch davon ab, wie der Gesetzgebungsprozess weiter verläuft. Daher bleibt es wichtig, die weiteren Entwicklungen im Blick zu behalten.
Auswirkungen des AI-Acts auf das Bewerberauswahlverfahren
Auch der 2024 verabschiedete AI-Act (auch KI-Verordnung) stellt für Bewerberauswahlverfahren neue Herausforderungen dar, insbesondere da solche Verfahren in der Regel als „Hochrisiko-KI-Systeme“ gemäß Artikel 6 Absatz 2 in Verbindung mit Anhang III Nr. 4 a) der Verordnung eingestuft werden. Die damit verbundenen Risiken sind für Bereitsteller und Nutzer erheblich, da die Verordnung bei Verstößen Sanktionen von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes eines Unternehmens des vorangegangenen Geschäftsjahres vorsieht.
Der gesamte Abschnitt 2 der Verordnung legt umfangreiche Anforderungen für „Hochrisiko-KI-Systeme“ fest. Betreiber solcher Systeme müssen sicherstellen, dass das System gemäß der Gebrauchsanweisung genutzt wird. Dies umfasst auch die Überwachung und Kontrolle der Anwendung durch geschultes Personal. Zudem dürfen der KI nur solche Daten zur Verfügung gestellt werden, die für den spezifischen Einsatzzweck relevant sind. Weiter bestehen umfassende Melde-, Dokumentations- und Sicherheitspflichten. Betroffene Bewerber können außerdem ein Recht auf eine Erklärung der getroffenen Einzelfallentscheidung haben.
Ungeklärt ist allerdings, ob es sich bei der Verwendung von People-Analytics-Software, die lediglich eine Rangliste von Bewerbern anhand vorgegebener Kriterien erstellt, um einen Ausnahmefall nach Artikel 6 Absatz 3 lit. a) der Verordnung handelt. In diesem Fall wären die obigen Vorgaben nicht zu beachten. Nach Artikel 6 Absatz 3 lit. a) der Verordnung gilt eine KI-Anwendung nicht als „Hochrisiko-KI-System“, wenn sie für die Ausführung einer „engen verfahrenstechnischen Aufgabe“ bestimmt ist. Die Erstellung einer Rangliste nach festen Kriterien wie zum Beispiel Noten könnte als solche enge verfahrenstechnische Aufgabe angesehen werden. Allerdings bleibt die endgültige Klärung dieser Frage den Gerichten vorbehalten, die erst konkrete Leitlinien hierzu festlegen müssen.
Fazit
Arbeitgeber sollten den Einsatz von KI-Anwendungen in ihrem Unternehmen keineswegs von vornherein ausschließen. Solche Technologien können erhebliche Vorteile bieten, vorausgesetzt, dass potenzielle Herausforderungen und Risiken von Anfang an berücksichtigt werden.
Die zuvor behandelte Problematik der Auswahl von Bewerbern für ein Vorstellungsgespräch mittels KI-Anwendungen ist nur ein zu beachtender Aspekt des Einsatzes von KI im Unternehmen. Der vorgeschlagene Ansatz, zusätzliche Kandidaten auf Basis von „Soft Skills“ zum Gespräch einzuladen, mag allerdings – abseits der rechtlichen Aspekte – rein tatsächlich nicht in jeder Situation und für jedes Unternehmen praktikabel sein. Unternehmen sollten individuell und anhand ihres Bedarfs, der Möglichkeiten sowie unter Beachtung der Risiken prüfen, wie sie den Einsatz von KI bei sich möglichst effizient und risikoarm gestalten können.
Im Hinblick auf den AI-Act stehen Arbeitgeber je nach konkretem Einsatz des KI-Systems vor zahlreichen rechtlichen Anforderungen, die die Rechtsprechung im Einzelnen erst noch entwickeln und konturieren muss. Diese Entwicklung gilt es aufmerksam zu beobachten und hieraus Schlüsse für den KI-Einsatz im eigenen Unternehmen zu ziehen.
Weitere Arbeitsrechtsthemen:
Dr. Sebastian Kroll
