Ist eine KI-Richtlinie Pflicht?
Nein, nach unserer Einschätzung schreiben weder die DSGVO noch der EU AI Act ausdrücklich vor, eine KI-Richtlinie zu erstellen. Eine KI-Richtlinie (auch KI-Policy) ist eine interne Regel, die festlegt, welche KI-Tools erlaubt sind, welche Daten eingegeben werden dürfen, wie KI-Ergebnisse geprüft werden und wer verantwortlich ist. Sie hilft dir aber bei Pflichten, die es gibt: Art. 4 AI Act verlangt Maßnahmen zur Förderung der KI-Kompetenz, Art. 32 DSGVO angemessene technische und organisatorische Maßnahmen. Stand: 2. November 2026.
Ohne Regeln können Mitarbeitende beliebige KI-Tools nutzen, und vertrauliche Kunden-, Bewerber- oder interne Daten gelangen in ungeprüfte Systeme. Die Richtlinie ist ein organisatorisches Mittel, dieses Risiko zu verringern. Mehr dazu: technische und organisatorische Maßnahmen.
Was verlangt Art. 4 AI Act wirklich?
Art. 4 AI Act verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zur Förderung der KI-Kompetenz zu ergreifen. Ein bestimmtes Kompetenzniveau musst du nicht garantieren. Die Regel gilt seit 2. Februar 2025. Deine Richtlinie kann festlegen, wie Mitarbeitende im Umgang mit KI geschult werden, mehr dazu unter AI Literacy und bei den Compliance-Schulungen.
Was muss in eine KI-Richtlinie?
Baue die Richtlinie modular auf. Diese Bausteine gehören in der Regel hinein:
| Baustein | Was du regelst | Rechtsbezug |
|---|---|---|
| Tool-Freigabe | Freigegebene Tools, Freigabeprozess, Verbot privater Accounts | Art. 28 DSGVO (AVV mit dem Anbieter) |
| Eingaberegeln | Erlaubte und verbotene Datenkategorien, Anonymisierung oder Pseudonymisierung | Art. 5, 6, 9 DSGVO |
| Prüfung von KI-Ergebnissen | Menschliche Prüfung vor der Verwendung, Verantwortlichkeiten | interne Qualitätsregel |
| Kennzeichnung | Wann der KI-Einsatz offengelegt wird | Art. 50 AI Act |
| KI-Kompetenz | Schulung und Nachweis | Art. 4 AI Act |
| Mitbestimmung | Information und Beteiligung des Betriebsrats | §§ 87 Abs. 1 Nr. 6, 90 Abs. 1 Nr. 3, 80 Abs. 3 S. 2 BetrVG |
Welche KI-Tools dürfen Mitarbeitende nutzen?
- Whitelisting: Eine klare Liste freigegebener KI-Anwendungen (z. B. ChatGPT Enterprise, Microsoft Copilot mit aktiver Unternehmenslizenz).
- Shadow-IT-Verbot: Private Accounts oder ungeprüfte Tools sind für geschäftliche Zwecke tabu. Wie du KI-gebaute Apps steuerst, zeigt unser Artikel zur Shadow-Builder-Policy.
- Freigabeprozess: Ein definierter Ablauf, wie Mitarbeitende neue Tools zur Prüfung einreichen.
Welche Daten dürfen in KI-Tools eingegeben werden?
Lege fest, welche Datenkategorien eingegeben werden dürfen und welche tabu sind (z. B. Gesundheitsdaten, Quellcode von Kernprodukten, Passwörter, sensible Kundenakten). Verlange, Daten vor der Eingabe zu anonymisieren oder zu pseudonymisieren (Pseudonymisierung: Art. 4 Nr. 5 DSGVO), wenn der Kontext erhalten bleiben muss. Für personenbezogene Daten gilt:
- Rechtsgrundlage klären: Du brauchst eine Rechtsgrundlage nach Art. 6 DSGVO – etwa Vertrag, berechtigtes Interesse oder Einwilligung. Für besondere Kategorien wie Gesundheitsdaten gelten zusätzlich die Regeln des Art. 9 DSGVO.
- AVV abschließen: Verarbeitet ein KI-Tool personenbezogene Daten in deinem Auftrag, ist ein AVV nach Art. 28 DSGVO nötig. Die Richtlinie sollte festlegen: Ohne gültigen AVV dürfen keine personenbezogenen Daten in das Tool fließen.
- Drittlandtransfer absichern: Viele KI-Dienste sitzen in den USA. Das EU-US Data Privacy Framework (DPF) kann Grundlage für Übermittlungen an zertifizierte Anbieter sein, alternativ kommen Standardvertragsklauseln (SCC) mit zusätzlichen Maßnahmen in Betracht. Das Gericht der EU hat die Klage gegen das DPF am 3. September 2025 abgewiesen, die Berufung vom 31. Oktober 2025 ist beim EuGH anhängig (laut WilmerHale, Stand: 1. Dezember 2025). Halte SCC deshalb als Alternative bereit. Mehr zu Tarifen und Transfers: ChatGPT und Datenschutz.
Praxis-Tipp: Die datenschutzrechtliche Prüfung neuer KI-Tools und der Abschluss von AVVs erfordern Fachwissen. Wer keine interne Rechtsabteilung hat, kann auf den externen Datenschutzbeauftragten von heyData zurückgreifen, um Software und interne Richtlinien effizient zu prüfen.
Wie gehst du mit KI-Ergebnissen um?
- Verifikation: Verbiete, Texte, Code oder Entscheidungsvorschläge ungeprüft zu übernehmen.
- Nutzungsbedingungen: Je nach Tarif können Eingaben zum Training genutzt werden und die kommerzielle Nutzung eingeschränkt sein. Prüfe die Bedingungen jedes freigegebenen Tools.
- Urheberrecht: Urheberrechtliche Fragen zu KI-Ergebnissen lässt du im Zweifel juristisch prüfen.
Müssen KI-Inhalte gekennzeichnet werden (Art. 50 AI Act)?
Das hängt von deiner Rolle ab. Art. 50 AI Act gilt seit 2. August 2026. Anbieter machen die KI-Interaktion erkennbar und kennzeichnen synthetische Inhalte maschinenlesbar (Abs. 1 und 2); für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, gilt Abs. 2 erst ab 2. Dezember 2026. Als Betreiber legst du Deepfakes offen und kennzeichnest KI-generierte Texte zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse, außer sie wurden menschlich geprüft und redaktionell verantwortet (Abs. 4). Lege in der Richtlinie fest, wann ihr den KI-Einsatz offenlegt. Die Verordnung (EU) 2026/1744 („Digital Omnibus on AI“) ist seit 27. Juli 2026 in Kraft und hat die Hochrisiko-Fristen verschoben (Annex III auf den 2. Dezember 2027). Details im Artikel zum Digital Omnibus; ob dein Tool unter die Hochrisiko-Regeln fällt, prüfst du mit der Checkliste zur Klassifizierung von KI-Tools.
Muss der Betriebsrat beteiligt werden?
Das hängt vom Einzelfall ab. Nach § 90 Abs. 1 Nr. 3 BetrVG muss der Arbeitgeber den Betriebsrat über die Planung von Arbeitsverfahren und Arbeitsabläufen einschließlich des Einsatzes von Künstlicher Intelligenz rechtzeitig unter Vorlage der erforderlichen Unterlagen unterrichten. Ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG betrifft technische Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen; ob ein KI-Tool darunterfällt, ist nach unserer Einschätzung eine Frage des Einzelfalls und keine Rechtsberatung. Muss der Betriebsrat die Einführung oder Anwendung von KI beurteilen, gilt die Hinzuziehung eines Sachverständigen nach § 80 Abs. 3 Satz 2 BetrVG insoweit als erforderlich. Binde Betriebsrat und Datenschutz früh ein. Mehr zu KI im Personalwesen: KI im Personalwesen.
Wer ist für KI-Ergebnisse verantwortlich?
KI-Systeme können halluzinieren (Fakten erfinden), veraltete Daten ausgeben oder voreingenommene Ergebnisse liefern. Deine Richtlinie braucht deshalb klare Kontrollen:
- Menschliche Letztverantwortung (Human-in-the-Loop): KI ist ein Assistent, kein finaler Entscheider. Jedes Arbeitsergebnis wird von einem Menschen geprüft.
- Plausibilitätsprüfung: Bei faktischen Aussagen, Statistiken, rechtlichen Einschätzungen oder Entscheidungen mit Außenwirkung recherchierst du in Primärquellen gegen.
- Verantwortlichkeiten: Benenne feste Rollen. Wer pflegt die Liste der erlaubten Tools? Wer ist Ansprechperson bei Fehlern oder Sicherheitsvorfällen? Typisch ist eine Taskforce aus IT, Datenschutz und Legal.
Wie führst du die KI-Richtlinie ein?
- Stakeholder früh einbinden: Geschäftsführung, IT, Datenschutz, HR und Betriebsrat.
- Verständlich schreiben: Klare Sprache und Beispiele aus dem Arbeitsalltag statt Juristendeutsch.
- Schulen: Kurze Workshops zeigen, wie die Richtlinie bei der täglichen Arbeit mit KI-Tools gelebt wird.
- Zentral bereitstellen: Intranet oder Mitarbeiterhandbuch, dazu ein One-Pager.
- Verankern: Onboarding und „KI-Check“ bei der Beschaffung neuer Software.
- Regelmäßig aktualisieren: Prüfe die Richtlinie mindestens einmal im Jahr.
Checkliste: Deine KI-Richtlinie auf einen Blick
Grundlagen und Geltungsbereich
- Geltungsbereich (wer, welche Tools) und Zweck sind definiert.
- Zentrale Begriffe wie „KI-System“ sind abgegrenzt.
Datenschutz
- Erlaubte und verbotene Datenkategorien für Eingaben sind festgelegt.
- Rechtsgrundlage (Art. 6 DSGVO), AVV-Prozess und Drittlandtransfer sind geregelt.
- Eine Ansprechperson für Datenschutzfragen ist benannt.
Ergebnisse und Tools
- Die menschliche Prüfung von KI-Ergebnissen ist verbindlich geregelt.
- Nutzungsbedingungen der Tools wurden geprüft und dokumentiert.
- Es gibt eine Liste freigegebener Tools und einen nachvollziehbaren Freigabeprozess.
- Die Nutzung nicht genehmigter Tools oder privater Accounts ist ausgeschlossen.
Recht und Beteiligung
- Maßnahmen zur KI-Kompetenz (Art. 4 AI Act) und Kennzeichnung (Art. 50 AI Act) sind festgelegt.
- Die Beteiligung des Betriebsrats wurde geprüft.
Fazit
Eine KI-Richtlinie ist kein bürokratisches Hindernis, sondern ein Baustein deiner Compliance- und Risikostrategie. Sie gibt Mitarbeitenden Orientierung, wie sie KI-Tools produktiv und mit Blick auf Datenschutz und EU AI Act nutzen. Lass die Inhalte im Zweifel durch Legal oder den Datenschutz prüfen.
Mit der KI-Compliance von heyData erstellst du deine KI-Policy auf Basis geprüfter Vorlagen, schulst dein Team zur KI-Kompetenz und behältst alle eingesetzten KI-Tools im Blick.
Mach den ersten Schritt: Buche jetzt eine kostenlose Demo
FAQ
Was ist der wichtigste Punkt in der KI-Policy?
Was ist der wichtigste Punkt in der KI-Policy?
Der Schutz sensibler Daten (Input-Kontrolle). Die Policy muss absolut unmissverständlich klären, welche internen Daten, Quellcodes oder personenbezogenen Informationen niemals in eine öffentliche oder ungesicherte KI eingegeben werden dürfen.
Brauchen auch kleine Unternehmen oder Startups eine solche Richtlinie?
Brauchen auch kleine Unternehmen oder Startups eine solche Richtlinie?
Ja, eine Richtlinie lohnt sich auch für kleine Teams. Sobald auch nur eine Person im Team ChatGPT oder ähnliche Tools für geschäftliche Zwecke nutzt, können vertrauliche oder personenbezogene Daten in KI-Prompts gelangen. Eine kurze Richtlinie mit freigegebenen Tools und Eingaberegeln ist ein guter Start.
Reicht es, die Nutzung von KI im Unternehmen einfach komplett zu verbieten?
Reicht es, die Nutzung von KI im Unternehmen einfach komplett zu verbieten?
Ein pauschales KI-Verbot führt in der Praxis häufig dazu, dass Mitarbeitende Tools heimlich nutzen (Schatten-IT). Dann verliert das Unternehmen den Überblick, welche Daten wohin fließen. Klare Regeln mit freigegebenen Tools, Eingaberegeln und einem Freigabeprozess sind in der Regel besser steuerbar als ein Verbot, das ignoriert wird.
Wie wirkt sich der EU AI Act auf unternehmensinterne Policies aus?
Wie wirkt sich der EU AI Act auf unternehmensinterne Policies aus?
Art. 4 AI Act verpflichtet Anbieter und Betreiber von KI-Systemen seit 2. Februar 2025, Maßnahmen zur Förderung der KI-Kompetenz zu ergreifen. Ein bestimmtes Kompetenzniveau musst du nicht garantieren. Deine Richtlinie sollte daher nicht nur Verbote enthalten, sondern auch festlegen, wie Mitarbeitende im sicheren und transparenten Umgang mit KI geschult werden. Bei Systemen, die als „Hochrisiko-KI“ eingestuft werden, gelten strengere Pflichten, für Annex III ab dem 2. Dezember 2027 (Stand: 2. November 2026).
Wie gehe ich mit der Nutzung von KI durch externe Dienstleister (z. B. Agenturen) um?
Wie gehe ich mit der Nutzung von KI durch externe Dienstleister (z. B. Agenturen) um?
Deine KI-Richtlinie sollte auch Vorgaben für externe Partner enthalten. Wenn eine Agentur Texte, Grafiken oder Programmiercode für dich erstellt, regle vertraglich, in welchem Umfang KI eingesetzt werden darf und wer den Output datenschutz- und urheberrechtlich prüft. Lass die Vertragsformulierung im Zweifel juristisch prüfen.








