KI im Recruiting: Zwischen Innovation und Compliance – was du wissen musst

Einleitung

Stell dir vor: Du hast vor sechs Monaten ein KI-HR-Tool für deine Bewerbungsprozesse eingeführt. Vorauswahl läuft automatisch, dein Team gewinnt Zeit. Dann kommt eine E-Mail von der Datenschutzbehörde. Ein abgelehnter Bewerber möchte wissen, nach welcher Logik die KI seine Bewerbung bewertet hat – und ob dabei überhaupt ein Mensch beteiligt war. Für immer mehr HR-Verantwortliche in KMUs ist das keine Fiktion.

KI im HR-Bereich zählt zu den rechtlich heikelsten Anwendungsfeldern überhaupt. Viele Unternehmen setzen KI-HR-Tools ein, ohne zu wissen, dass sie sich damit in ein Minenfeld aus DSGVO-Anforderungen und EU-AI Act-Vorgaben begeben. Dieser Artikel zeigt dir, wo die rechtlichen Grenzen liegen – und woran du problematische Tools erkennst, bevor sie zum Problem werden.

Warum KI im HR-Bereich besonders reguliert ist

KI im Personalwesen unterscheidet sich fundamental von anderen KI-Anwendungen. Es geht um Entscheidungen, die direkte Auswirkungen auf Lebenschancen, Karrierewege und finanzielle Existenz von Menschen haben.

Genau deshalb hat der Gesetzgeber hier besonders hohe Hürden gesetzt – höhere als bei KI im Marketing oder in der Logistik. Vier Gründe sind entscheidend:

• Sensible Daten: Im Recruiting werden häufig besonders schützenswerte Daten verarbeitet – von Alter und Geschlecht bis zu ethnischer Herkunft, etwa durch Fotos oder Namen auf Lebensläufen.
• Reproduktion von Vorurteilen: KI-HR-Systeme übernehmen bestehende Biases aus historischen Einstellungsdaten. Amazons internes Recruiting-Tool benachteiligte nachweislich Frauen – kein Einzelfall.
• Strukturelle Machtlosigkeit: Bewerber:innen können KI-Entscheidungen kaum anfechten und verlieren eine Jobchance, ohne je zu verstehen, warum.
• Verfassungsrechtlicher Schutz: Das Recht auf Arbeit und der Schutz vor Diskriminierung sind verfassungsrechtlich verankert – das setzt dem Einsatz automatisierter Systeme klare Grenzen.

DSGVO Art. 22: Das Verbot automatisierter Einzelentscheidungen

Das Herzstück der DSGVO-Anforderungen für KI im Recruiting ist Art. 22 DSGVO. Er verbietet grundsätzlich automatisierte Einzelentscheidungen, die für eine Person rechtliche Wirkung entfalten oder sie erheblich beeinträchtigen.

Was das konkret bedeutet

Eine rein automatisierte Entscheidung liegt vor, wenn ein KI-HR-System Bewerbungen analysiert und eigenständig entscheidet, wer abgelehnt wird – ohne dass ein Mensch die Empfehlung inhaltlich prüft.

“Wichtig: Eine Nicht-Einladung zum Vorstellungsgespräch gilt als erhebliche Beeinträchtigung. Bewerber:innen verlieren eine Jobchance – das reicht aus, um Art. 22 auszulösen.”

Die Ausnahmen helfen dir kaum

Art. 22 DSGVO kennt Ausnahmen – aber im Recruiting greifen sie typischerweise nicht: Eine Einwilligung ist kaum nutzbar, da Bewerber:innen unter Druck stehen und die Freiwilligkeit rechtlich fragwürdig ist. Vertragserfüllung greift nur bei bestehendem Arbeitsverhältnis. Und eine gesetzliche Erlaubnis für Recruiting-KI existiert nach aktuellem Stand nicht.

Die Konsequenz: Vollautomatische Bewerbungsentscheidungen ohne echte menschliche Prüfung sind in den meisten Fällen unzulässig. Ein simples Klicken auf "OK" bei KI-Vorschlägen reicht nicht aus.

EU AI Act: Wenn Recruiting KI zur Hochrisiko-Anwendung wird

Der EU AI Act verschärft die Anforderungen für KI im Personalwesen zusätzlich. Er kategorisiert KI-Systeme nach Risikoklassen – und ein Großteil der verfügbaren Tools fällt in die Hochrisiko-Kategorie.

Wann gilt ein AI HR-Tool als Hochrisiko?

KI-Systeme gelten als Hochrisiko, wenn sie für Bewerbungsverfahren – insbesondere zur Vorauswahl, Bewertung oder Einstellung – sowie für Beförderungsentscheidungen oder Leistungsüberwachung eingesetzt werden. Das betrifft CV-Parsing-Systeme mit intelligenter Bewertung genauso wie Interview-Analyse-Tools, die Mimik oder Sprachmuster auswerten.

Was das für dich bedeutet

Für Hochrisiko-KI gelten strenge Pflichten in sechs Bereichen:

• Risikomanagement: Systematische Identifikation und Minimierung von Risiken
• Datenqualität: Training mit repräsentativen, fehlerfreien Datensätzen
• Dokumentation: Umfassende technische Dokumentation
• Transparenz: Klare Information der betroffenen Personen
• Menschliche Aufsicht: Echte Human-Oversight-Mechanismen
• Genauigkeit: Nachweisbare Leistungsfähigkeit

Diese Pflichten richten sich zwar primär an die Anbieter – aber du musst als Anwender:in sicherstellen, dass das Tool diese Anforderungen erfüllt und du es bestimmungsgemäß einsetzt.

Wann du ein AI HR-Tool sofort hinterfragen solltest

Bevor du ein Recruiting KI-Tool kaufst oder verlängerst, prüfe diese fünf Warnsignale:

1. Keine Erklärung der KI-Logik. Der Anbieter kann nicht beschreiben, wie Empfehlungen zustande kommen. Wenn du die Logik nicht verstehst, kannst du sie auch nicht gegenüber Bewerber:innen erklären.

2. Kein Bias-Testing. Es gibt keine Informationen dazu, wie das System auf Diskriminierung getestet wird. Das ist beim Einsatz von KI im HR-Bereich ein K.O.-Kriterium.

3. Kein EU-Datensitz. Der Anbieter sitzt außerhalb der EU und kann keine ausreichenden Datenschutzgarantien vorweisen – kein AVV, keine Standardvertragsklauseln.

4. Versprechen von Vollautomatisierung. "Bewerber ohne HR-Aufwand verarbeiten" klingt verlockend – ist aber nach aktuellem Rechtsstand ein klares Warnsignal.

5. Compliance liegt beim Kunden. Der Anbieter schiebt die gesamte Verantwortung auf dich ab, ohne selbst Nachweise zu liefern.

Wenn du auf einen oder mehrere dieser Punkte stößt: Hol dir schriftliche Klarheit – oder wähle ein anderes Tool.

Fazit und nächster Schritt

KI im Recruiting ist rechtlich komplex – aber handhabbar, wenn du die Grundlagen kennst. DSGVO Art. 22 und EU AI Act stecken den Rahmen ab. Deine Aufgabe als Arbeitgeber ist es, innerhalb dieses Rahmens zu operieren: mit echten menschlichen Prüfprozessen, transparenter Kommunikation gegenüber Bewerber:innen und sorgfältiger Auswahl deiner AI HR-Tools.

Wie du das konkret umsetzt – mit einer Schritt-für-Schritt-Checkliste, Human-in-the-Loop-Prozessen und Vendor-Management-Tipps – zeigt der zweite Teil dieses Leitfadens.