Michael Stegemann Künstliche Intelligenz entscheidet zunehmend mit, wer zu einem Vorstellungsgespräch eingeladen wird und wer eine Absage erhält. Doch wie objektiv sind solche Entscheidungen wirklich? Und dürfen Unternehmen Bewerber überhaupt automatisch durch KI aussortieren lassen? Der Einsatz künstlicher Intelligenz im Bewerbungsverfahren birgt erhebliche Risiken und wirft wichtige rechtliche Fragen auf.
Wenn eine KI Ihre Bewerbung aussortiert
Sie haben eine interessante Stellenanzeige gefunden, Ihren Lebenslauf aktualisiert und ein individuelles Anschreiben verfasst. Wenige Stunden nach dem Absenden erhalten Sie bereits eine Absage.
Hat sich tatsächlich jemand mit Ihrer Bewerbung beschäftigt?
Möglicherweise nicht.
Unternehmen können heute KI-gestützte Programme einsetzen, um Bewerbungen automatisch auszuwerten. Diese Systeme vergleichen Qualifikationen, analysieren Lebensläufe und erstellen Ranglisten geeigneter Kandidaten.
Für Personalabteilungen klingt das verlockend. Schließlich können auf eine einzige Stellenausschreibung Hunderte Bewerbungen eingehen.
Doch die vermeintliche Effizienz hat ihre Schattenseiten.
Werden Bewerbungen durch künstliche Intelligenz bewertet, besteht die Gefahr, dass Menschen aufgrund fehlerhafter oder diskriminierender Kriterien aussortiert werden, ohne jemals eine faire Chance erhalten zu haben.
Warum KI bei der Bewerberauswahl problematisch ist
1. Künstliche Intelligenz ist nicht automatisch neutral
Viele Menschen gehen davon aus, dass Computer objektiver entscheiden als Menschen.
Das ist ein Irrtum.
Auch KI-Systeme können Vorurteile übernehmen. Entscheidend ist unter anderem, mit welchen Daten sie entwickelt wurden und nach welchen Kriterien sie Bewerbungen bewerten.
Ein Beispiel:
Ein Unternehmen hat in der Vergangenheit überwiegend Männer als Führungskräfte eingestellt. Wird ein KI-System mit solchen historischen Daten trainiert, könnte es bestimmte Merkmale bevorzugen, die in den bisherigen Bewerbungen erfolgreicher Kandidaten besonders häufig vorkamen.
Dadurch können weibliche Bewerberinnen benachteiligt werden, obwohl sie genauso qualifiziert sind.
Das Problem betrifft nicht nur das Geschlecht.
Auch ältere Menschen, Bewerber mit Behinderungen oder Personen mit ausländisch klingenden Namen könnten schlechter bewertet werden.
Besonders problematisch ist, dass solche Benachteiligungen nicht immer unmittelbar erkennbar sind.
2. Ungewöhnliche Lebensläufe können zum Nachteil werden
Nicht jeder berufliche Werdegang verläuft geradlinig.
Menschen wechseln den Beruf, nehmen Elternzeit, pflegen Angehörige oder müssen aus gesundheitlichen Gründen längere Zeit pausieren.
Für einen Menschen sind solche Lebenssituationen nachvollziehbar.
Ein KI-System könnte dagegen bestimmte Unterbrechungen oder Abweichungen von einem erwarteten Karriereverlauf negativ bewerten.
So könnte beispielsweise eine Mutter, die nach mehreren Jahren Elternzeit wieder arbeiten möchte, schlechter eingestuft werden als ein Bewerber mit einem lückenlosen Lebenslauf.
Obwohl beide über vergleichbare Qualifikationen verfügen.
Eine KI kann deshalb gerade diejenigen Bewerber übersehen, die aufgrund ihrer Lebenserfahrung besonders gut für eine Stelle geeignet wären.
3. Bewerber erfahren häufig nicht, warum sie abgelehnt wurden
Ein weiteres Problem ist die mangelnde Nachvollziehbarkeit.
Manche KI-Systeme arbeiten mit komplexen Berechnungsmodellen. Selbst für die Unternehmen, die sie einsetzen, kann es schwierig sein, einzelne Bewertungen vollständig nachzuvollziehen.
Für abgelehnte Bewerber ist die Situation noch schwieriger.
Sie erhalten möglicherweise lediglich eine standardisierte Absage, ohne zu erfahren, ob ein Mensch ihre Unterlagen geprüft hat.
Das wirft eine entscheidende Frage auf:
Wie soll ein Bewerber eine mögliche Diskriminierung erkennen, wenn er nicht einmal weiß, dass eine KI an der Entscheidung beteiligt war?
Darf eine KI Bewerber automatisch ablehnen?
Der Einsatz künstlicher Intelligenz im Bewerbungsverfahren ist nicht grundsätzlich verboten.
Allerdings setzt das Datenschutzrecht Grenzen.
Besonders wichtig ist Art. 22 Datenschutz-Grundverordnung (DSGVO).
Danach dürfen Menschen grundsätzlich keiner ausschließlich automatisierten Entscheidung unterworfen werden, wenn diese ihnen gegenüber rechtliche Wirkung entfaltet oder sie in vergleichbarer Weise erheblich beeinträchtigt.
Eine vollständig automatisierte Ablehnung einer Bewerbung kann darunterfallen.
Was bedeutet das in der Praxis?
Ein Unternehmen darf KI grundsätzlich als Hilfsmittel einsetzen, sofern die jeweiligen rechtlichen Anforderungen erfüllt sind.
Beispielsweise kann eine Software dabei unterstützen,
- Bewerbungsunterlagen zu strukturieren,
- erforderliche Qualifikationen zu vergleichen,
- Informationen für die Personalabteilung zusammenzufassen oder
- mögliche Kandidaten für eine nähere Prüfung vorzuschlagen.
Anders kann die Situation aussehen, wenn eine KI eigenständig entscheidet, welche Bewerber eine Absage erhalten.
Solche Entscheidungen können gegen Art. 22 DSGVO verstoßen, wenn keine gesetzlich vorgesehene Ausnahme eingreift.
Wichtig: Es reicht nicht aus, wenn ein Personalverantwortlicher die Entscheidung der KI lediglich ungeprüft bestätigt.
Eine menschliche Kontrolle muss tatsächlich stattfinden. Die verantwortliche Person muss die Bewertung eigenständig prüfen und davon abweichen können.
Diskriminierung durch KI: Welche Rechte haben Bewerber?
Neben der DSGVO spielt das Allgemeine Gleichbehandlungsgesetz (AGG) eine wichtige Rolle.
Das AGG schützt Bewerber vor Benachteiligungen aufgrund bestimmter persönlicher Merkmale.
Hierzu gehören insbesondere:
- Alter
- Geschlecht
- Behinderung
- Ethnische Herkunft
- Religion oder Weltanschauung
- Sexuelle Identität
Diese gesetzlichen Vorgaben gelten selbstverständlich auch dann, wenn ein Unternehmen künstliche Intelligenz verwendet.
Ein Arbeitgeber kann sich daher nicht einfach damit rechtfertigen, dass eine Software für die diskriminierende Bewertung verantwortlich gewesen sei.
Können Bewerber eine Entschädigung verlangen?
Unter bestimmten Voraussetzungen ja.
Nach § 15 AGG können bei einer unzulässigen Benachteiligung Schadensersatz- oder Entschädigungsansprüche bestehen.
Dabei ist zu beachten, dass nicht jede ungerechtfertigte Absage automatisch eine Diskriminierung im Sinne des AGG darstellt.
Erforderlich ist grundsätzlich ein Zusammenhang mit einem gesetzlich geschützten Merkmal.
Bei entsprechenden Anhaltspunkten können jedoch die Beweiserleichterungen des § 22 AGG greifen.
Achtung: Ansprüche nach § 15 AGG müssen grundsätzlich innerhalb von zwei Monaten geltend gemacht werden.
Bei Bewerbungen beginnt die Frist regelmäßig mit dem Zugang der Ablehnung.
Wer den Verdacht hat, aufgrund seines Alters, Geschlechts oder eines anderen geschützten Merkmals benachteiligt worden zu sein, sollte daher nicht zu lange warten.
Die EU-KI-Verordnung: Strenge Regeln für Bewerbungsverfahren
Die Europäische Union hat die besonderen Risiken künstlicher Intelligenz im Personalbereich erkannt.
Die europäische KI-Verordnung, auch AI Act genannt, sieht für bestimmte KI-Systeme bei der Bewerberauswahl besonders strenge Anforderungen vor.
Solche Anwendungen gelten grundsätzlich als sogenannte Hochrisiko-KI-Systeme, wenn sie unter die entsprechenden Tatbestände der Verordnung fallen.
Hierzu gehören insbesondere KI-Systeme, die Bewerbungen filtern oder Bewerber bewerten sollen.
Die Verordnung sieht unter anderem Anforderungen an die menschliche Aufsicht, die Dokumentation, die Datenqualität und das Risikomanagement vor.
Nach der im Oktober 2026 geltenden Rechtslage werden die wesentlichen Hochrisiko-Vorschriften für solche Systeme grundsätzlich ab dem 2. Dezember 2027 anwendbar.
Unabhängig davon müssen Unternehmen bereits heute die DSGVO, das AGG und die bereits anwendbaren Bestimmungen der KI-Verordnung beachten.
Was können Sie tun, wenn Ihre Bewerbung durch KI abgelehnt wurde?
Wenn Sie vermuten, dass eine künstliche Intelligenz über Ihre Bewerbung entschieden hat, können folgende Schritte sinnvoll sein.
1. Fragen Sie beim Unternehmen nach.
Erkundigen Sie sich, ob künstliche Intelligenz bei der Bewerberauswahl eingesetzt wurde und ob Ihre Bewerbung tatsächlich von einem Menschen geprüft worden ist.
2. Machen Sie Ihre Datenschutzrechte geltend.
Nach Art. 15 DSGVO können Sie Auskunft über die Verarbeitung Ihrer personenbezogenen Daten verlangen.
Bei automatisierten Entscheidungen im Sinne des Art. 22 DSGVO bestehen zusätzliche Informationsrechte.
Allerdings besteht nicht automatisch ein Anspruch auf Offenlegung des vollständigen Algorithmus oder sämtlicher Geschäftsgeheimnisse.
3. Dokumentieren Sie mögliche Hinweise auf Diskriminierung.
Bewahren Sie die Stellenausschreibung, Ihre Bewerbungsunterlagen und die Absage auf.
Falls Sie konkrete Hinweise auf eine Benachteiligung haben, sollten Sie diese ebenfalls sichern.
4. Lassen Sie mögliche Ansprüche rechtlich prüfen.
Bei einer rechtswidrigen Benachteiligung können insbesondere Entschädigungsansprüche nach dem AGG in Betracht kommen.
Wegen der kurzen gesetzlichen Fristen empfiehlt sich eine zeitnahe Prüfung.
Auch Arbeitgeber tragen ein erhebliches Risiko
Nicht nur Bewerber sollten beim Einsatz künstlicher Intelligenz vorsichtig sein.
Auch für Arbeitgeber können sich erhebliche rechtliche Konsequenzen ergeben.
Wer eine KI zur Bewerberauswahl verwendet, bleibt grundsätzlich für ein rechtmäßiges Auswahlverfahren verantwortlich.
Unternehmen sollten daher vor dem Einsatz prüfen, ob
- das System tatsächlich für den vorgesehenen Zweck geeignet ist,
- diskriminierende Bewertungen vermieden werden,
- die Verarbeitung personenbezogener Daten rechtmäßig erfolgt,
- Bewerber ausreichend informiert werden,
- Entscheidungen nachvollziehbar dokumentiert werden und
- eine wirksame menschliche Kontrolle gewährleistet ist.
Besondere Vorsicht ist geboten, wenn Bewerbungsunterlagen in allgemein zugängliche KI-Dienste hochgeladen werden.
Denn Lebensläufe und Bewerbungsunterlagen enthalten regelmäßig personenbezogene Daten, die nicht ohne entsprechende rechtliche Grundlage und geeignete Schutzmaßnahmen verarbeitet werden dürfen.
Häufige Fragen zur KI bei der Bewerberauswahl (FAQ)
Darf ein Arbeitgeber meine Bewerbung von einer KI bewerten lassen?
Grundsätzlich ja. Der Einsatz künstlicher Intelligenz zur Unterstützung eines Bewerbungsverfahrens ist nicht generell verboten. Allerdings müssen insbesondere die Datenschutzvorschriften, das Allgemeine Gleichbehandlungsgesetz und die jeweils anwendbaren Anforderungen der EU-KI-Verordnung eingehalten werden.
Darf eine KI automatisch eine Absage verschicken?
Eine vollständig automatisierte Ablehnung kann gegen Art. 22 DSGVO verstoßen. Entscheidend ist insbesondere, ob die Auswahl ausschließlich automatisiert erfolgt und den Bewerber rechtlich oder vergleichbar erheblich beeinträchtigt. Gesetzliche Ausnahmen sind unter engen Voraussetzungen möglich. Der bloße technische Versand einer zuvor von einem Menschen getroffenen Absage ist davon zu unterscheiden.
Muss ein Unternehmen offenlegen, dass es KI bei Bewerbungen verwendet?
Unternehmen unterliegen datenschutzrechtlichen Informationspflichten. Welche konkreten Informationen zum KI-Einsatz offengelegt werden müssen, hängt von der Verarbeitung und der Funktion des Systems ab. Bei ausschließlich automatisierten Entscheidungen im Sinne des Art. 22 DSGVO gelten zusätzliche Anforderungen.
Kann ich eine Entschädigung verlangen, wenn mich eine KI diskriminiert?
Ja, unter bestimmten Voraussetzungen. Führt der KI-Einsatz zu einer Benachteiligung aufgrund eines durch das AGG geschützten Merkmals, können Schadensersatz- oder Entschädigungsansprüche nach § 15 AGG bestehen. Allein eine unverständliche oder ungerechte Absage reicht dafür allerdings nicht aus.
Habe ich Anspruch auf eine persönliche Prüfung meiner Bewerbung?
Ein allgemeiner Anspruch auf ein persönliches Vorstellungsgespräch besteht nicht. Art. 22 DSGVO schützt jedoch unter bestimmten Voraussetzungen vor ausschließlich automatisierten Entscheidungen mit erheblichen Auswirkungen. Bei zulässigen Ausnahmen können besondere Schutzmaßnahmen, einschließlich eines Rechts auf menschliches Eingreifen, erforderlich sein.
Kann ich vom Arbeitgeber erfahren, warum ich abgelehnt wurde?
Ein allgemeiner Anspruch auf eine individuelle Begründung jeder Bewerbungsabsage besteht grundsätzlich nicht. Datenschutzrechtliche Auskunftsansprüche können aber Informationen über die Verarbeitung personenbezogener Daten und unter bestimmten Voraussetzungen über automatisierte Entscheidungen vermitteln.
Ist KI bei der Personalauswahl nach der EU-KI-Verordnung verboten?
Nein. Die EU-KI-Verordnung verbietet den Einsatz künstlicher Intelligenz bei der Bewerberauswahl nicht generell. Sie stuft bestimmte Anwendungen jedoch als Hochrisiko-KI ein und stellt besondere Anforderungen an deren Einsatz.
Fazit: Die Verantwortung muss beim Menschen bleiben
Künstliche Intelligenz kann die Personalauswahl erleichtern. Sie kann Verwaltungsaufgaben übernehmen und Personalabteilungen bei der Auswertung umfangreicher Bewerbungsunterlagen unterstützen.
Doch eine Bewerbung besteht aus mehr als bloßen Daten.
Hinter jedem Lebenslauf steht ein Mensch mit individuellen Fähigkeiten, Erfahrungen und persönlichen Lebensumständen.
Wer ausschließlich auf automatisierte Bewertungen vertraut, riskiert, qualifizierte Bewerber zu übersehen und Menschen möglicherweise rechtswidrig zu benachteiligen.
Deshalb sollte künstliche Intelligenz die Personalentscheidung unterstützen, aber nicht unkontrolliert über die berufliche Zukunft eines Menschen bestimmen.
Für Bewerber gilt: Eine auffällig schnelle oder nicht nachvollziehbare Absage ist noch kein Beweis für einen Rechtsverstoß. Bestehen jedoch konkrete Anhaltspunkte für eine Diskriminierung oder eine unzulässige automatisierte Entscheidung, kann eine rechtliche Prüfung sinnvoll sein.
Sie vermuten eine Diskriminierung bei Ihrer Bewerbung?
Die digitale Kanzlei berät Sie zu arbeitsrechtlichen Fragen, möglichen Benachteiligungen im Bewerbungsverfahren und Ihren Rechten als Bewerber.
Auch Arbeitgeber unterstützen wir bei arbeitsrechtlichen Fragestellungen und einem rechtssicheren Umgang mit digitalen Auswahlverfahren.
Weitere Informationen finden Sie unter www.diedigitalekanzlei.com.
