Löschen bitte! Was das Recht auf Vergessenwerden für KI-Modelle bedeutet

Das „Recht auf Vergessenwerden“ nach Art. 17 DSGVO verpflichtet Unternehmen dazu, personenbezogene Daten auf Wunsch dauerhaft zu löschen – z. B. bei Widerruf einer Einwilligung, Zweckerfüllung oder unrechtmäßiger Verarbeitung.

Relevanz für KI-Systeme:
Viele Unternehmen nutzen personenbezogene Daten zur Verbesserung von Algorithmen – etwa:

• zur Verhaltensanalyse im E-Commerce
• für Chatbots mit personalisierten Antworten
• in Bewerber-Scoring-Systemen

Doch: Wenn diese Daten später gelöscht werden müssen – was passiert mit dem KI-Modell, das darauf trainiert wurde?

Problemstellung: Die DSGVO unterscheidet nicht zwischen einer klassischen Datenbank und einem trainierten Modell. Das führt zu Unsicherheit – denn auch „gelerntes Wissen“ kann personenbezogen sein, wenn es rückführbar ist.

Ein KI-Modell „lernt“ durch das Verarbeiten von Trainingsdaten. Dabei entstehen Modellgewichte oder Vektorrepräsentationen, die nicht wie klassische Datensätze strukturiert und löschbar sind.

Beispiel 1 – Chatbot mit CRM-Daten trainiert:
Ein Chatbot wird mit echten Kundenanfragen aus dem CRM trainiert, inklusive Namen, Problemen und Bestellnummern. Selbst wenn die Originaldaten gelöscht werden, bleiben die Muster im Modell.

Beispiel 2 – Bewerbermanagement mit AI:
Eine HR-Software nutzt Bewerberprofile zur Verbesserung des Scorings. Wird ein Bewerber gelöscht, kann das Modell weiterhin dessen Sprachstil oder Kriterienmuster nutzen – indirekt personenbezogen.

Risiko: Wenn diese Daten später rekonstruiert werden können oder maßgeblich in Entscheidungen einfließen, ist das ein Datenschutzverstoß.

Wird eine Löschung beantragt, stellt sich die Frage: Muss das KI-Modell neu trainiert oder angepasst werden?

Die DSGVO gibt keine klare Antwort, aber laut Aufsichtsbehörden gilt:

Wenn das trainierte Modell personenbezogene Informationen speichert oder reproduzierbar macht, ist auch das Modell von der Löschpflicht betroffen.

Beispiel aus der Praxis:
Meta wurde bereits von Datenschutzbehörden kritisiert, weil in LLMs (Large Language Models) Trainingsdaten mit personenbezogenen Inhalten nicht mehr vollständig löschbar waren. Es wird zunehmend erwartet, dass KI-Systeme nachvollziehbar und reversibel auf Datenlöschungen reagieren können.

Typische Probleme in Unternehmen:

• Modell wurde mit Live-Kundendaten trainiert, aber kein Protokoll existiert
• Keine Versionierung → man weiß nicht, welche Daten in welchem Modell stecken

• • Löschanfrage betrifft auch Daten, die für Trainingsziele relevant waren

Hier kommen KI-Engineering und Datenschutz zusammen – es gibt technische Optionen, das Recht auf Vergessenwerden in der Praxis zu ermöglichen:

1. Machine Unlearning

Gezieltes Entfernen einzelner Trainingsdaten aus einem Modell, ohne komplettes Retraining.

• Funktioniert gut bei einfachen Modellen (z. B. Entscheidungsbäume)
• Schwieriger bei tiefen neuronalen Netzen

2. Differential Privacy

Modell wird so trainiert, dass keine Rückschlüsse auf Einzeldaten möglich sind.

• Wird von OpenAI, Google, Apple genutzt
• Gut geeignet für aggregierte Datenmengen, aber weniger für individuelle Kontexte

3. Retraining mit Löschliste

Modell wird regelmäßig neu trainiert – ohne gelöschte Daten.

• Sehr zuverlässig
• Aber: aufwendig, teuer, nur für große Unternehmen praktikabel

4. Federated Learning

Daten bleiben dezentral – Modelle lernen lokal und werden zentral zusammengeführt.

• Vorteil: Löschungen sind lokal umsetzbar
• Komplex in der Integration

Tipp: Für Unternehmen mit vielen Datenlöschungen lohnt sich ein „modellzentrierter“ Löschprozess mit automatisierten Audit-Trails und Versionierung.

Die Löschpflicht endet nicht beim CRM oder der Cloud – sie betrifft zunehmend auch algorithmische Systeme. Deshalb brauchen Unternehmen:

1. Privacy by Design für KI-Systeme

• Frühzeitig klären: Welche Daten dürfen verwendet werden?
• Trainingsdaten möglichst pseudonymisieren oder aggregieren

2. Modell-Dokumentation

• Wer hat mit welchen Daten was trainiert?
• Welche Modelle sind im Einsatz? Welche Version enthält welche Daten?

3. Prozess für Löschanfragen

• Interdisziplinär zwischen Datenschutz, IT und Data Science
• Automatisierte Prüfungen, ob Modelle betroffen sind
• Ggf. Modell-Retraining oder Austausch

4. DSFA (Datenschutz-Folgenabschätzung)

• Besonders bei sensiblen Modellen (HR, Gesundheit, Verhalten, Risikoscoring)
• Muss bewerten, ob Betroffenenrechte technisch durchsetzbar sind

Das Recht auf Vergessenwerden stellt KI-Entwickler:innen und Unternehmen vor echte Herausforderungen – aber es ist lösbar. Mit dokumentierten Datenflüssen, technischem „Unlearning“ und klaren Verantwortlichkeiten wird auch die KI-Welt DSGVO-fähig.

Unternehmen, die heute KI-Modelle aufbauen, müssen die Reversibilität mitdenken – sonst drohen teure Neu-Trainings, Bußgelder und Imageverlust.