Löschen bitte! Was das Recht auf Vergessenwerden für KI-Modelle bedeutet

Einleitung: Zwischen Datenschutz und technischer Machbarkeit

KI-Modelle wie ChatGPT, Bilderkennungssysteme oder Bewerber-Scoring-Algorithmen sind längst fester Bestandteil vieler Geschäftsprozesse in Europa. Doch mit der wachsenden Leistungsfähigkeit steigt auch der Druck, datenschutzrechtliche Vorgaben wie das Recht auf Vergessenwerden konsequent umzusetzen. Besonders komplex wird es, wenn personenbezogene Daten nicht nur in Datenbanken, sondern im „gelernten Wissen“ der Modelle selbst stecken. Dieser Leitfaden zeigt, warum das Löschen in der KI-Welt so herausfordernd ist, welche rechtlichen und technischen Fallstricke Unternehmen beachten müssen – und wie sich mit Blick auf den EU AI Act ab August 2025 praxisnahe und DSGVO-konforme Strategien umsetzen lassen.

Was besagt das Recht auf Vergessenwerden?

Das „Recht auf Vergessenwerden“ nach Art. 17 DSGVO verpflichtet Unternehmen dazu, personenbezogene Daten auf Wunsch dauerhaft zu löschen – z. B. bei Widerruf einer Einwilligung, Zweckerfüllung oder unrechtmäßiger Verarbeitung.

Relevanz für KI-Systeme:
Viele Unternehmen nutzen personenbezogene Daten zur Verbesserung von Algorithmen – etwa:

• zur Verhaltensanalyse im E-Commerce
• für Chatbots mit personalisierten Antworten
• in Bewerber-Scoring-Systemen

Doch: Wenn diese Daten später gelöscht werden müssen – was passiert mit dem KI-Modell, das darauf trainiert wurde?

Problemstellung: Die DSGVO unterscheidet nicht zwischen einer klassischen Datenbank und einem trainierten Modell. Das führt zu Unsicherheit – denn auch „gelerntes Wissen“ kann personenbezogen sein, wenn es rückführbar ist.

Warum KI-Modelle problematisch sind

Ein KI-Modell „lernt“ durch das Verarbeiten von Trainingsdaten. Dabei entstehen Modellgewichte oder Vektorrepräsentationen, die nicht wie klassische Datensätze strukturiert und löschbar sind.

Beispiel 1 – Chatbot mit CRM-Daten trainiert:
Ein Chatbot wird mit echten Kundenanfragen aus dem CRM trainiert, inklusive Namen, Problemen und Bestellnummern. Selbst wenn die Originaldaten gelöscht werden, bleiben die Muster im Modell.

Beispiel 2 – Bewerbermanagement mit AI:
Eine HR-Software nutzt Bewerberprofile zur Verbesserung des Scorings. Wird ein Bewerber gelöscht, kann das Modell weiterhin dessen Sprachstil oder Kriterienmuster nutzen – indirekt personenbezogen.

Risiko: Wenn diese Daten später rekonstruiert werden können oder maßgeblich in Entscheidungen einfließen, ist das ein Datenschutzverstoß.

Was tun bei einer Löschanfrage?

Wird eine Löschung beantragt, stellt sich die Frage: Muss das KI-Modell neu trainiert oder angepasst werden?

Die DSGVO gibt keine klare Antwort, aber laut Aufsichtsbehörden gilt:

Wenn das trainierte Modell personenbezogene Informationen speichert oder reproduzierbar macht, ist auch das Modell von der Löschpflicht betroffen.

Beispiel aus der Praxis:
Meta wurde bereits von Datenschutzbehörden kritisiert, weil in LLMs (Large Language Models) Trainingsdaten mit personenbezogenen Inhalten nicht mehr vollständig löschbar waren. Es wird zunehmend erwartet, dass KI-Systeme nachvollziehbar und reversibel auf Datenlöschungen reagieren können.

Typische Probleme in Unternehmen:

• Modell wurde mit Live-Kundendaten trainiert, aber kein Protokoll existiert
• Keine Versionierung → man weiß nicht, welche Daten in welchem Modell stecken

• • Löschanfrage betrifft auch Daten, die für Trainingsziele relevant waren

Technische Ansätze

Hier kommen KI-Engineering und Datenschutz zusammen – es gibt technische Optionen, das Recht auf Vergessenwerden in der Praxis zu ermöglichen:

1. Machine Unlearning

Gezieltes Entfernen einzelner Trainingsdaten aus einem Modell, ohne komplettes Retraining.

• Funktioniert gut bei einfachen Modellen (z. B. Entscheidungsbäume)
• Schwieriger bei tiefen neuronalen Netzen

2. Differential Privacy

Modell wird so trainiert, dass keine Rückschlüsse auf Einzeldaten möglich sind.

• Wird von OpenAI, Google, Apple genutzt
• Gut geeignet für aggregierte Datenmengen, aber weniger für individuelle Kontexte

3. Retraining mit Löschliste

Modell wird regelmäßig neu trainiert – ohne gelöschte Daten.

• Sehr zuverlässig
• Aber: aufwendig, teuer, nur für große Unternehmen praktikabel

4. Federated Learning

Daten bleiben dezentral – Modelle lernen lokal und werden zentral zusammengeführt.

• Vorteil: Löschungen sind lokal umsetzbar
• Komplex in der Integration

Tipp: Für Unternehmen mit vielen Datenlöschungen lohnt sich ein „modellzentrierter“ Löschprozess mit automatisierten Audit-Trails und Versionierung.

Was Unternehmen jetzt tun sollten

Die Löschpflicht endet nicht beim CRM oder der Cloud – sie betrifft zunehmend auch algorithmische Systeme. Deshalb brauchen Unternehmen:

1. Privacy by Design für KI-Systeme

• Frühzeitig klären: Welche Daten dürfen verwendet werden?
• Trainingsdaten möglichst pseudonymisieren oder aggregieren

2. Modell-Dokumentation

• Wer hat mit welchen Daten was trainiert?
• Welche Modelle sind im Einsatz? Welche Version enthält welche Daten?

3. Prozess für Löschanfragen

• Interdisziplinär zwischen Datenschutz, IT und Data Science
• Automatisierte Prüfungen, ob Modelle betroffen sind
• Ggf. Modell-Retraining oder Austausch

4. DSFA (Datenschutz-Folgenabschätzung)

• Besonders bei sensiblen Modellen (HR, Gesundheit, Verhalten, Risikoscoring)
• Muss bewerten, ob Betroffenenrechte technisch durchsetzbar sind

Fazit

Das Recht auf Vergessenwerden stellt KI-Entwickler:innen und Unternehmen vor echte Herausforderungen – aber es ist lösbar. Mit dokumentierten Datenflüssen, technischem „Unlearning“ und klaren Verantwortlichkeiten wird auch die KI-Welt DSGVO-fähig.

Unternehmen, die heute KI-Modelle aufbauen, müssen die Reversibilität mitdenken – sonst drohen teure Neu-Trainings, Bußgelder und Imageverlust.