KI im Personalwesen richtig umsetzen: Checkliste, Human-in-the-Loop & Vendor-Tipps

Bevor wir zu den Lösungen kommen, ein Blick auf die Fehler, die wir in der Praxis am häufigsten sehen.

Fehler 1 – Die "Click-to-Approve"-Falle: 

HR-Mitarbeiter:innen bestätigen KI-Entscheidungen nur formal, ohne sie inhaltlich zu prüfen. Was aussieht wie menschliche Kontrolle, ist keine. Dieser Fehler ist der weitaus häufigste – und der gefährlichste, weil er so unauffällig ist.

Fehler 2 – Fehlende Transparenz: 

Bewerber:innen erhalten vage Hinweise wie "moderne Technologie" statt konkreter Information darüber, welches AI HR-Tool eingesetzt wird und warum. Das ist keine ausreichende Erfüllung der Informationspflicht.

Fehler 3 – Vendor-Blindness: 

Man verlässt sich auf Versicherungen des Anbieters, ohne selbst zu prüfen. Das Ergebnis: Ein AVV fehlt, Daten-Standorte sind unklar, Bias-Testing hat nie stattgefunden. Die Haftung bleibt trotzdem bei dir.

Fehler 4 – Fehlende Risikobewertung: 

Es gibt keine systematische Analyse, welche Diskriminierungsrisiken das konkrete KI HR-System birgt. Eine Datenschutz-Folgenabschätzung (DSFA) ist bei Hochrisiko-Verarbeitung verpflichtend – und wird dennoch regelmäßig übersprungen.

Das zentrale Compliance-Instrument beim Einsatz von Recruiting KI ist das Human-in-the-Loop-Prinzip (HitL). Aber die meisten Unternehmen verstehen es falsch.

Die 5 Anforderungen an eine wirksame Prüfung

Fachliche Kompetenz: 

Die prüfende Person muss die KI-HR-Empfehlung inhaltlich bewerten können. Wer kein Recruiting-Verständnis hat, kann keinen KI-Vorschlag wirklich beurteilen.

Vollständiger Datenzugang: 

Sie muss die vollständige Bewerbung sehen – nicht nur die KI-Zusammenfassung. Wer nur das Ranking des KI-HR-Tools sieht, prüft nichts.

Reale Entscheidungsmacht: 

Sie kann und darf von der KI-Empfehlung abweichen – ohne Rechtfertigungsdruck. Wenn das System so gebaut ist, dass Abweichungen mühsam sind, ist das kein Human-in-the-Loop, das ist eine Fassade.

Ausreichend Zeit: 

200 Bewerbungen in 20 Minuten durchklicken ist keine Prüfung. Menschliche Kontrolle braucht Kapazität – das muss bei der Prozessplanung berücksichtigt werden.

Verständnis der KI-Logik: 

Die prüfende Person sollte zumindest grob verstehen, nach welchen Kriterien das System bewertet – nur dann erkennt sie, wo die KI möglicherweise falsch liegt.

Merke: Ein "4-Augen-Prinzip", bei dem eine zweite Person die KI-Entscheidung nur nochmal bestätigt, reicht nicht. Es braucht eine echte inhaltliche Bewertung der Ausgangsbewerbung.

Beim Einsatz von KI im Personalwesen haben Bewerber:innen weitreichende Informationsrechte. Diese zu ignorieren ist nicht nur rechtlich riskant – es ist auch ein Signal schlechter Unternehmenskultur.

Folgendes musst du kommunizieren: ob und in welcher Phase Recruiting KI eingesetzt wird, wofür sie genutzt wird (Vorauswahl, Skill-Matching, Interview-Analyse), welche Daten verarbeitet werden, wie KI-Empfehlungen in die Entscheidung einfließen, dass eine menschliche Prüfung stattfindet – und welche Rechte Bewerber:innen haben (Auskunft, Widerspruch, menschliche Überprüfung).

Wo kommunizieren? Die bewährteste Kombination: Hinweis in der Stellenausschreibung, ausführliche Information in der Datenschutzerklärung für Bewerber:innen sowie ein gezielter Hinweis vor jedem KI-gestützten Verfahrensschritt. Verständliche Sprache ist Pflicht – Juristendeutsch schützt dich nicht, wenn Bewerber:innen die Information nicht wirklich verstehen konnten.

Schritt 1: Rechtsgrundlage klären

• Definiere präzise, wofür du das KI-HR-Tool einsetzen willst
• Prüfe die Rechtsgrundlage (typischerweise Art. 6 Abs. 1 lit. b oder f DSGVO)
• Führe eine DSFA durch – bei Hochrisiko-Verarbeitung verpflichtend

Schritt 2: Vendor Due Diligence

• Fordere Nachweise zur DSGVO- und AI-Act-Konformität ein
• Prüfe, ob das Tool Hochrisiko-Anforderungen erfüllt
• Schließe einen AVV ab – ohne geht es nicht

Schritt 3: Human-in-the-Loop etablieren

• Prozesse für menschliche Prüfung schriftlich festhalten
• HR-Team im Umgang mit dem KI HR-System schulen
• Zeitkapazitäten für sorgfältige Prüfung einplanen

Schritt 4: Transparenz herstellen

• Bewerber:innen aktiv über Recruiting KI informieren
• Datenschutzerklärung und Stellenausschreibungen aktualisieren
• Prozesse für Auskunftsersuchen vorbereiten

Schritt 5: Dokumentieren und monitoren

• Alle KI HR-Entscheidungen und menschlichen Prüfungen dokumentieren
• Regelmäßige Risiko-Reviews durchführen
• KI auf Bias testen und Prozesse bei Gesetzesänderungen anpassen

Willst du wissen, ob dein KI-HR-Prozess heute schon compliant ist? In einer kostenlosen Demo zeigen wir dir, wo dein Unternehmen steht – und was konkret fehlt.

Ein häufiger Irrtum: Mit dem Abschluss eines AVV ist die Sache erledigt. Ist sie nicht.

Als Arbeitgeber bleibst du DSGVO-Verantwortlicher für die Bewerberdaten – egal wer das Tool bereitstellt. Der Anbieter ist Auftragsverarbeiter. Verstöße treffen primär dich.

Was du daher laufend vom Anbieter einfordern und prüfen solltest: aktuelle Nachweise zur DSGVO-Konformität, Informationen zur KI-Logik und zu Bias-Tests, Angaben zu Unterauftragnehmern und Daten-Standorten sowie klare Prozesse für Betroffenenrechte. Anbieter, die das verweigern oder vertrösten, sind ein Risiko – unabhängig davon, wie gut das Tool sonst funktioniert.

KI im Personalwesen und Recruiting bietet echte Effizienzpotenziale. Richtig implementiert können KI-HR-Tools sogar Diskriminierung reduzieren, indem sie unbewusste menschliche Vorurteile minimieren. Aber nur, wenn der Einsatz rechtssicher gestaltet ist.

Die gute Nachricht: Mit den fünf Schritten aus diesem Leitfaden hast du eine solide Grundlage. Echte menschliche Kontrolle, klare Transparenz, sorgfältiges Vendor-Management – das sind die Bausteine, die Recruiting-KI vom Risiko zum Vorteil machen.

Compliance ist kein einmaliges Projekt. Gesetze ändern sich, KI-Systeme entwickeln sich weiter. Wer das als laufenden Prozess versteht, ist langfristig auf der sicheren Seite.

Du willst das nicht alleine aufsetzen? Mit heyData bekommst du strukturierte Unterstützung – von der DSFA über AVV-Verwaltung bis zum laufenden Compliance-Monitoring.

Was genau bedeutet "Human-in-the-Loop" bei Recruiting KI?

Human-in-the-Loop (HitL) bedeutet, dass ein Mensch jede KI-Entscheidung inhaltlich prüft und das letzte Wort hat. Das ist nicht erfüllt, wenn HR-Mitarbeitende KI-Vorschläge nur formal bestätigen. Die prüfende Person muss die vollständige Bewerbung gesehen haben, die KI-Logik zumindest grob verstehen und ohne Rechtfertigungsdruck abweichen können.

Reicht ein Hinweis im Impressum über den KI-Einsatz aus?

Nein. Die Informationspflichten müssen dort erfüllt werden, wo die Daten erhoben werden – typischerweise in der Datenschutzerklärung für Bewerber:innen, auf die beim Absenden der Bewerbung explizit hingewiesen werden muss. Ein versteckter Hinweis im Impressum ist nicht ausreichend.

Brauche ich für jedes AI HR-Tool eine DSFA?

Nicht automatisch – aber für alle, die eine umfangreiche systematische Bewertung persönlicher Aspekte vornehmen, wie es KI-basierte Bewerberbewertungen typischerweise tun. Eine Datenschutz-Folgenabschätzung ist dann verpflichtend. Im Zweifel: lieber eine zu viel als eine zu wenig.