EU AI Act für KMU: So klassifizierst du deine KI-Tools richtig

Der EU AI Act verfolgt einen konsequent risikobasierten Regulierungsansatz. Das bedeutet: Nicht die Technologie an sich wird reguliert, sondern deren spezifischer Einsatzzweck und das damit verbundene Gefahrenpotenzial. Diese Logik ist für viele Unternehmer bereits aus dem Datenschutz bekannt, wo besonders sensible Daten (etwa Gesundheitsdaten) strengeren Regeln unterliegen als allgemeine Kontaktdaten.

Der Grundgedanke ist pragmatisch: Eine einfache Spam-Filter-KI birgt andere Risiken als ein System, das über Kreditanträge entscheidet oder Bewerber automatisiert vorsortiert. Je höher das potenzielle Risiko für Grundrechte, Sicherheit und die Gesundheit von Menschen ist, desto strenger fallen die Anforderungen an das System und dessen Betrieb aus. Für dich als Unternehmer bedeutet das: Du musst zwingend verstehen, in welche Kategorie deine genutzten oder angebotenen KI-Tools fallen.

Die Risikoklassifizierung ist dabei weit mehr als eine bürokratische Übung – sie ist das zentrale Steuerungsinstrument der Verordnung. Sie bestimmt, ob du umfangreiche Dokumentationspflichten erfüllen musst, ob komplexe Konformitätsbewertungen nötig sind oder ob ein System in der EU sogar komplett verboten ist. Ohne eine korrekte Einordnung kannst du schlichtweg nicht beurteilen, welche rechtlichen Risiken dein Unternehmen eingeht.

Der EU AI Act unterscheidet nach aktuellem Stand vier Hauptkategorien, die du kennen musst:

Für den Mittelstand ist die Kategorie der „Hochrisiko-KI" die größte Herausforderung. Der Gesetzgeber definiert diese Systeme über zwei Wege. Einerseits betrifft es KI-Systeme, die als Sicherheitskomponenten in Produkte eingebaut werden, die bereits EU-Sicherheitsvorschriften unterliegen (z. B. Maschinen oder Medizinprodukte). Andererseits listet der Anhang III der Verordnung spezifische Einsatzbereiche auf.

Ein typisches Beispiel für KMU findet sich im Bereich Beschäftigung und Personalwesen. Nutzt du eine Software, die Lebensläufe scannt, bewertet und eine Rangliste für Vorstellungsgespräche erstellt? Ein solches Tool greift massiv in den Zugang zu Erwerbstätigkeit ein und wird daher fast immer als Hochrisiko-KI eingestuft. In diesem Fall musst du sicherstellen, dass das System ein Risikomanagementsystem durchlaufen hat und eine menschliche Aufsicht gewährleistet ist.

Als Nutzer (Deployer) solcher Tools trägst du die Verantwortung für die zweckgemäße Verwendung und das Monitoring im laufenden Betrieb. Du musst sicherstellen, dass die Eingabedaten für den Kontext deines Unternehmens angemessen sind und dass schwerwiegende Vorfälle oder Fehlfunktionen sofort gemeldet werden.

Ein häufiger Stolperstein ist die Rollenverteilung. Der EU AI Act unterscheidet strikt zwischen dem „Anbieter" (Provider) und dem „Nutzer" (Deployer).

Der Anbieter ist die Partei, die ein KI-System entwickelt oder entwickeln lässt, um es unter eigenem Namen auf den Markt zu bringen. Als Anbieter trägst du die volle Last der Konformitätsbewertung, der technischen Dokumentation und der CE-Kennzeichnung.

Der Nutzer (im Gesetz nun oft als „Betreiber“ oder Deployer bezeichnet) ist das Unternehmen, das ein KI-System unter eigener Verantwortung einsetzt. Für die meisten KMU ist dies die Standardrolle: Man abonniert eine HR-Software oder nutzt einen KI-Schreibassistenten. Doch Vorsicht: Wenn du ein bestehendes System so stark modifizierst, dass sich sein Zweck ändert, kannst du rechtlich plötzlich zum „Anbieter“ mit allen damit verbundenen Pflichten werden.

Die Realität in vielen Unternehmen ist eine fragmentierte KI-Landschaft: Das Marketing nutzt Tools für die Content-Erstellung, HR nutzt Software für das Bewerbermanagement, und die IT setzt auf automatisierte Sicherheitsanalysen. Oft geschieht dies ohne zentralen Überblick.

Ohne eine strukturierte Erfassung weißt du als Geschäftsführer schlichtweg nicht, wo Hochrisiko-KI im Einsatz ist oder wo Transparenzpflichten verletzt werden. Der EU AI Act macht diese Intransparenz zu einem erheblichen Haftungsrisiko. Eine systematische Erfassung dient als Compliance-Nachweis bei Aufsichtsbehörden, ermöglicht eine proaktive Risikobewertung und klärt die internen Verantwortlichkeiten. Analog zum Verarbeitungsverzeichnis der DSGVO wird ein Verzeichnis der KI-Systeme zum unverzichtbaren Werkzeug der Unternehmensführung.

Ein strukturierter Ansatz zur Bewältigung dieser Komplexität ist der „AI Systems Catalog". Dieses zentrale Verzeichnis aller im Unternehmen eingesetzten KI-Systeme orientiert sich methodisch am Datenschutzrecht. Statt auf manuelle, verstreute Listen zu setzen, die im Tagesgeschäft sofort veralten, schafft ein zentraler Katalog Klarheit.

Ein effektiver Katalog erfasst nicht nur den Namen des Tools, sondern auch den spezifischen Einsatzzweck, die Risikoklassifizierung, die betroffenen Personengruppen und die verantwortliche Person im Haus. Durch den Einsatz spezialisierter Compliance-Plattformen wie heydata lässt sich dieses KI-Management nahtlos in bestehende Datenschutz-Strukturen integrieren. Das spart Zeit und verhindert, dass Synergien zwischen DSGVO und AI Act ungenutzt bleiben.

Ein oft übersehener, aber zentraler Aspekt des AI Acts ist die Forderung nach AI Literacy. Unternehmen sind verpflichtet, Maßnahmen zu ergreifen, um ein angemessenes Maß an KI-Kompetenz bei ihrem Personal sicherzustellen. Das bedeutet: Mitarbeiter, die mit KI arbeiten, müssen verstehen, wie diese Systeme funktionieren, welche Grenzen sie haben und welche Risiken mit ihrer Nutzung verbunden sind.

Für KMU bedeutet dies, dass Schulungen und Awareness-Programme zum festen Bestandteil der Governance werden müssen. Eine Risikoklassifizierung ist wenig wert, wenn die Anwender vor dem Bildschirm die Risiken einer „halluzinierenden“ KI oder eines voreingenommenen Algorithmus nicht erkennen können. Hier liegt ein großer Hebel für die Haftungsvermeidung: Gut geschultes Personal ist die beste Verteidigungslinie gegen Compliance-Verstöße.

Da viele KI-Systeme personenbezogene Daten verarbeiten, überschneiden sich DSGVO und AI Act massiv. Das ist kein Zufall, sondern gewollt: Beide Regelwerke schützen die Grundrechte der Bürger. Für KMU ist das eine gute Nachricht, denn wer bereits ein funktionierendes Datenschutz-Management hat, muss das Rad nicht neu erfinden.

Ein KI-Recruiting-Tool ist beispielsweise ein Fall für beide Gesetze: Die DSGVO regelt den Schutz der Bewerberdaten, während der AI Act die Fairness und Transparenz des Algorithmus prüft. Eine integrierte Dokumentation, wie sie moderne Plattformen ermöglichen, verhindert Doppelarbeit und sorgt dafür, dass die Informationen konsistent bleiben. Wenn dein Datenschutzbeauftragter bereits etablierte Prozesse für Risikoanalysen nutzt, können diese ideal auf die Anforderungen des AI Acts erweitert werden.

Die Anforderungen hängen stark von deiner Rolle und dem Risikoprofil deiner Tools ab. Als reiner Nutzer musst du vor allem Transparenz- und Überwachungspflichten erfüllen. Du musst Informationen von deinen Anbietern einfordern und sicherstellen, dass die Nutzung im Einklang mit den internen Richtlinien steht. Wenn du jedoch selbst KI-Lösungen entwickelst (Anbieter), kommen signifikante Dokumentations- und Zertifizierungslasten auf dich zu.

Die größte Hürde ist oft der Anfang. Viele KMU unterschätzen die Zeit, die es braucht, um eine verlässliche Inventarisierung durchzuführen. „Abwarten“ ist hier eine riskante Strategie, da der AI Act stufenweise in Kraft tritt und die ersten Verbote bereits zeitnah greifen werden.

Der EU AI Act verändert die Spielregeln für den Einsatz von Technologie im Unternehmen grundlegend. Die Risikoklassifizierung ist dabei weit mehr als eine rechtliche Notwendigkeit – sie ist die Grundlage für ein verantwortungsvolles und zukunftssicheres Handeln. Für KMU bedeutet das: Manuelle Listen und ad-hoc-Entscheidungen reichen nicht mehr aus. Ein systematisches KI-Management ist keine bürokratische Last, sondern eine strategische Absicherung gegen Haftungsrisiken und Reputationsverlust.

Wer jetzt beginnt, seine KI-Landschaft strukturiert zu erfassen, Rollen klar zu definieren und auf moderne Compliance-Lösungen zu setzen, schafft Vertrauen bei Kunden und Partnern. Am Ende wird nicht derjenige gewinnen, der KI am schnellsten einführt, sondern derjenige, der sie am sichersten und transparentesten beherrscht.

Müssen KMU für jedes Tool eine eigene Risikoanalyse schreiben?

Bei Systemen mit minimalem Risiko ist das nicht nötig. Bei Hochrisiko-Anwendungen bist du als Deployer jedoch verpflichtet, die Risiken für deinen spezifischen Nutzungskontext zu bewerten. Dein Anbieter sollte dir hierfür die notwendigen technischen Basis-Informationen liefern.

Was passiert bei einer Fehlklassifizierung?

Eine falsche Einordnung kann dazu führen, dass gesetzliche Pflichten verletzt werden, was Bußgelder nach sich ziehen kann. Entscheidend ist jedoch deine Dokumentation der Sorgfalt: Wenn du begründen kannst, warum du eine bestimmte Klassifizierung gewählt hast, minimierst du dein Risiko erheblich.

Gilt der AI Act auch für kostenlose Open-Source-Tools?

Ja. Der Preis eines Tools ist für die Regulierung unerheblich. Entscheidend ist der Zweck, für den die KI im geschäftlichen Kontext eingesetzt wird.

Reichen manuelle Listen für die Dokumentation aus?

Für einen ersten Überblick mag das genügen. Sobald du jedoch mehrere Tools nutzt oder Hochrisiko-Systeme im Einsatz hast, werden händische Listen schnell unübersichtlich und fehleranfällig. Spezialisierte Software bietet hier deutlich mehr Rechtssicherheit.

Wer ist im Unternehmen für die KI-Klassifizierung zuständig?

Ideal ist eine Zusammenarbeit zwischen IT, der Rechtsabteilung (oder externen Datenschutzberatern) und den jeweiligen Fachabteilungen, die das Tool nutzen. Die finale Verantwortung für die Compliance liegt jedoch immer bei der Geschäftsführung.