Ein Unternehmen mit vierzehn Beschäftigten setzt ein Sprachmodell für Angebotsentwürfe ein, ein Werkzeug zur Vorsortierung von Bewerbungen und eine Funktion, die Kundenanfragen automatisch beantwortet. Drei Anwendungen, drei völlig unterschiedliche rechtliche Lagen. Die erste ist weitgehend unproblematisch, die zweite fällt in die strengste Kategorie unterhalb des Verbots, die dritte löst eine Hinweispflicht aus.

Die europäische Regulierung für künstliche Intelligenz sortiert nicht nach Technologie und nicht nach Unternehmensgröße, sondern nach zwei Fragen: In welcher Rolle handelt jemand, und wie hoch ist das Risiko der Anwendung. Beide Fragen lassen sich beantworten, und beide werden in der Praxis regelmäßig falsch beantwortet.

Was folgt, ist eine Einordnung dieser beiden Achsen mit Blick auf kleine Unternehmen. Die Verordnung ist umfangreich, die Auslegung entwickelt sich, und dieser Text ersetzt keine Rechtsberatung. Er zeigt, welche Fragen zu stellen sind, bevor jemand zu diesem Thema beraten kann.

Die Einordnung in sechs Zeilen

• Rolle: Anbieter entwickelt oder bringt unter eigenem Namen in Verkehr, Betreiber nutzt in eigener Verantwortung.
• Risikoklassen: verbotene Praktiken, hohes Risiko, Transparenzfälle, alles Übrige.
• Häufigster Fall im Mittelstand: Betreiber eines eingekauften Systems.
• Rollenwechsel: Eigener Name, wesentliche Änderung oder anderer Zweck machen aus einem Betreiber einen Anbieter.
• Anwendung: gestaffelt, mit Verboten und Kompetenzanforderungen zuerst.
• Erste Aufgabe: ein Verzeichnis der eingesetzten Systeme mit Zweck und Rolle.

Was die Verordnung überhaupt erfasst

Der Anwendungsbereich knüpft an Systeme an, die aus Eingaben Ergebnisse ableiten und dabei ein gewisses Maß an Selbstständigkeit aufweisen. Klassische Software mit festen Regeln fällt nicht darunter, ein Modell, das aus Daten gelernt hat, in aller Regel schon.

Erfasst werden nicht nur Anbieter aus der Union. Wer ein System in der Union in Verkehr bringt oder dessen Ergebnisse hier verwendet werden, ist einbezogen, unabhängig vom Sitz. Für Unternehmen, die Werkzeuge aus dem Ausland einsetzen, ändert der Sitz des Anbieters also nichts an der eigenen Rolle.

Ausgenommen sind bestimmte Bereiche, etwa rein private Nutzung, Forschung vor dem Inverkehrbringen und Teile des militärischen Bereichs. Für ein normales Unternehmen mit zwölf Mitarbeitenden ist keine dieser Ausnahmen einschlägig. Der amtliche Text ist über das Rechtsportal der Europäischen Union zugänglich.

Was der EU AI Act tatsächlich regelt

Er regelt nicht, ob ein Modell gut ist, und er verbietet keine Technologie in der Breite. Er knüpft Pflichten an bestimmte Anwendungen und verteilt diese Pflichten auf die Beteiligten einer Lieferkette.

Der EU AI Act arbeitet dabei mit einer Abstufung. Ganz oben stehen wenige Praktiken, die untersagt sind. Darunter eine Gruppe von Anwendungen mit hohem Risiko, für die umfangreiche Anforderungen gelten. Daneben Fälle, in denen lediglich Transparenz verlangt wird, und schließlich der große Rest, für den keine besonderen Pflichten entstehen.

Zusätzlich gibt es eine eigene Schicht für Modelle mit allgemeinem Verwendungszweck, also die großen Sprach- und Bildmodelle. Sie richtet sich an die Anbieter dieser Modelle, wirkt aber über Informationspflichten in die Kette hinein, weil nachgelagerte Anbieter auf diese Angaben angewiesen sind.

Anbieter oder Betreiber: die Rolle entscheidet

Anbieter ist, wer ein System entwickelt oder entwickeln lässt und unter eigenem Namen oder eigener Marke bereitstellt. Betreiber ist, wer ein solches System unter eigener Verantwortung einsetzt, außerhalb einer rein persönlichen Tätigkeit.

Die Pflichten unterscheiden sich erheblich. Auf der Anbieterseite stehen Anforderungen an Risikomanagement, Datenqualität, technische Dokumentation, Protokollierung, Genauigkeit und Robustheit sowie ein Konformitätsverfahren, bevor ein Hochrisikosystem auf den Markt kommt.

Auf der Betreiberseite ist die Liste kürzer und praxisnäher: Nutzung entsprechend der Anleitung, menschliche Aufsicht durch geeignete Personen, Sorgfalt bei den Eingangsdaten, soweit man sie kontrolliert, Beobachtung des Betriebs, Aufbewahrung der Protokolle und Meldung schwerwiegender Vorfälle. Dazu kommen Informationspflichten gegenüber Beschäftigten, wenn ein System am Arbeitsplatz eingesetzt wird.

Wann ein Betreiber zum Anbieter wird

Das ist der Punkt, an dem die meisten kleinen Unternehmen ihre Rolle falsch einschätzen. Drei Konstellationen führen dazu, dass aus einem Betreiber ein Anbieter mit den entsprechend höheren Pflichten wird.

Erstens, wenn ein System unter dem eigenen Namen oder der eigenen Marke bereitgestellt wird. Das betrifft jedes Produkt, in das ein eingekauftes Modell eingebaut und das anschließend unter eigenem Namen verkauft wird. Zweitens, wenn ein Hochrisikosystem wesentlich verändert wird. Drittens, wenn der Zweck geändert wird, sodass ein System, das nicht als Hochrisikosystem gedacht war, für einen solchen Zweck eingesetzt wird.

Für Unternehmen, die eigene Anwendungen auf fremden Modellen aufbauen, ist besonders der erste Fall relevant. Wer eine Funktion mit dem eigenen Produktnamen anbietet, ist gegenüber seinen Kunden Anbieter, auch wenn technisch ein fremdes Modell darunter arbeitet. Wie sich diese Abhängigkeit sonst auswirkt, behandelt der Text über die Rolle von Technologie in der Produktentwicklung.

Die Risikoklassen von oben nach unten

An der Spitze stehen untersagte Praktiken. Dazu gehören unter anderem Systeme, die Menschen durch manipulative Techniken erheblich schädigen, die Schwächen bestimmter Gruppen ausnutzen, eine allgemeine soziale Bewertung von Personen vornehmen oder Emotionen am Arbeitsplatz und in Bildungseinrichtungen erkennen sollen.

Darunter folgt die Gruppe mit hohem Risiko. Sie umfasst zwei Bereiche: Systeme, die als Sicherheitsbauteil in bereits regulierten Produkten stecken, und eine ausdrücklich aufgeführte Liste von Anwendungsbereichen, darunter Beschäftigung, Zugang zu Bildung, bestimmte Kredit- und Versicherungsentscheidungen sowie kritische Infrastruktur.

Es folgen die Transparenzfälle und schließlich alles Übrige. Der letzte Bereich ist der größte, und die meisten alltäglichen Anwendungen in kleinen Unternehmen fallen hinein: Textentwürfe, Übersetzungen, Zusammenstellungen, Auswertungen ohne Personenbezug.

Verbotene Praktiken und warum sie kleine Firmen selten treffen

Die Liste der untersagten Praktiken zielt auf Anwendungen, die in einem normalen Handels- oder Dienstleistungsbetrieb nicht vorkommen. Wer keine biometrische Kategorisierung betreibt und keine Bewertungssysteme über Personen führt, ist von diesem Teil praktisch nicht betroffen.

Eine Ausnahme verdient Beachtung: die Erkennung von Emotionen am Arbeitsplatz. Werkzeuge, die Stimmungen von Beschäftigten aus Sprache, Text oder Bild ableiten wollen, tauchen gelegentlich in Angeboten zur Mitarbeiterbefragung oder zur Bewertung von Verkaufsgesprächen auf. Hier gehört genau hingesehen.

Ebenfalls hinsehen sollte man bei Werkzeugen, die in Aufzeichnungen von Telefonaten mit Kunden nach Merkmalen suchen. Ob eine konkrete Funktion unter das Verbot fällt, hängt an ihrer genauen Ausgestaltung, und das ist eine Frage für die rechtliche Prüfung, nicht für die Produktbeschreibung des Anbieters.

Hochrisiko: wo kleine Unternehmen tatsächlich hineinlaufen

Der häufigste Fall ist die Personalauswahl. Werkzeuge, die Bewerbungen vorsortieren, Kandidaten bewerten oder Stellenanzeigen gezielt ausspielen, fallen in den Bereich Beschäftigung. Dasselbe gilt für Systeme, die über Beförderung, Aufgabenzuweisung oder die Beobachtung von Leistung entscheiden oder daran wesentlich mitwirken.

Der zweite Fall betrifft Unternehmen, die Bauteile für regulierte Produkte liefern. Wer Software in Maschinen, Medizinprodukte oder Fahrzeuge einbringt, arbeitet in einem Bereich, der ohnehin Konformitätsverfahren kennt, und die Anforderungen ergänzen die bestehenden.

Für Betreiber eines Hochrisikosystems bedeutet das konkrete Aufgaben: Es muss eine benannte Person geben, die das System beaufsichtigt und die dafür befähigt ist. Die Anleitung des Anbieters ist einzuhalten. Protokolle sind aufzubewahren. Beschäftigte, die betroffen sind, werden vorab informiert. Und bei Systemen, die Personen betreffen, kann eine Prüfung der Auswirkungen auf Grundrechte erforderlich sein.

Transparenzpflichten im Alltag

Diese Gruppe betrifft die meisten kleinen Unternehmen am ehesten. Wer ein System einsetzt, das direkt mit Menschen kommuniziert, muss dafür sorgen, dass diese wissen, dass sie es mit einem System zu tun haben, sofern es nicht offensichtlich ist.

Für erzeugte oder veränderte Inhalte gelten Kennzeichnungspflichten. Bild, Ton und Video, die eine Person oder ein Ereignis täuschend echt darstellen, sind als erzeugt oder verändert auszuweisen. Bei Texten, die der Information der Öffentlichkeit dienen, gilt Vergleichbares.

Praktisch heißt das: ein Hinweis im Chatfenster, eine Kennzeichnung unter erzeugten Bildern, eine interne Regel dazu, was gekennzeichnet wird und was nicht. Diese Pflichten sind mit geringem Aufwand zu erfüllen und werden trotzdem regelmäßig übersehen, weil niemand sie einer Person zuordnet.

Modelle mit allgemeinem Verwendungszweck und die Lieferkette

Für die großen Modelle, die vielen Anwendungen zugrunde liegen, gelten eigene Regeln auf Seiten ihrer Anbieter: technische Dokumentation, Informationen für nachgelagerte Anbieter, eine Strategie zur Einhaltung des Urheberrechts und eine Zusammenfassung der für das Training verwendeten Inhalte. Für Modelle mit besonders weitreichender Wirkung kommen weitere Anforderungen hinzu.

Für ein kleines Unternehmen ist daran vor allem eines relevant: Diese Informationen sollten beim Anbieter verfügbar sein, und man sollte sie anfordern. Wer eigene Anwendungen auf einem solchen Modell aufbaut, braucht sie für die eigene Dokumentation.

Daraus folgt eine praktische Anforderung an Verträge. Es gehört geregelt, welche Unterlagen der Anbieter bereitstellt, wie über Änderungen informiert wird und wer welche Rolle in der Kette einnimmt. Diese Punkte gehören in dieselbe Prüfung wie die datenschutzrechtlichen Fragen, die der Text über künstliche Intelligenz im Startup-Alltag beschreibt.

Kompetenz ist eine Pflicht, keine Empfehlung

Anbieter und Betreiber haben dafür zu sorgen, dass die Personen, die mit diesen Systemen arbeiten, über ein ausreichendes Maß an Kompetenz verfügen. Das gilt unabhängig von der Risikoklasse und damit auch für alltägliche Anwendungen.

Gemeint ist keine formale Zertifizierung, sondern ein Verständnis dafür, was ein System kann, wo seine Grenzen liegen, wie Ergebnisse zu prüfen sind und welche Daten hineingehören. Für die meisten Unternehmen ist das mit einer strukturierten Unterweisung und einer schriftlichen Regel erfüllbar.

Sinnvoll ist eine Dokumentation dieser Unterweisung, mit Datum, Inhalt und Teilnehmenden. Nicht wegen einer erwarteten Kontrolle, sondern weil sie ohnehin bei jeder neuen Einstellung gebraucht wird und sonst nach dem dritten Mal in Vergessenheit gerät.

Die gestaffelte Anwendung und was sie für die Planung heißt

Die Verordnung ist im Sommer 2024 in Kraft getreten und gilt nicht auf einen Schlag. Zuerst wurden die Verbote und die Anforderungen an die Kompetenz der handelnden Personen wirksam, danach die Regeln für Modelle mit allgemeinem Verwendungszweck. Der Großteil der Anforderungen an Hochrisikosysteme folgt später, und für Systeme in bereits regulierten Produkten gilt eine nochmals spätere Stufe.

Für die Planung ist weniger das einzelne Datum wichtig als die Reihenfolge. Wer heute ein Werkzeug zur Personalauswahl einführt, plant für einen Zeitraum, in dem die Anforderungen an diese Kategorie greifen, und sollte die Fragen dazu vor der Auswahl stellen, nicht nach der Einführung.

Die genauen Fristen und ihre Auslegung entwickeln sich weiter, ebenso die begleitenden Leitlinien und Normen. Wer sich auf eine Jahreszahl aus einer Präsentation verlässt, arbeitet mit einem Stand, der überholt sein kann. Maßgeblich ist der Verordnungstext in seiner geltenden Fassung.

Typische Anwendungsfälle, eingeordnet

Die folgende Übersicht ordnet Fälle ein, die in kleinen Unternehmen häufig vorkommen. Sie ist eine erste Orientierung und ersetzt die Prüfung des Einzelfalls nicht, weil die Einordnung an der konkreten Ausgestaltung hängt.

Anwendungsfall	übliche Rolle	Einordnung	was ansteht
Textentwürfe und Übersetzungen intern	Betreiber	ohne besondere Klasse	Kompetenz, interne Regel
Chatfunktion für Kundenanfragen	Betreiber	Transparenzfall	Hinweis auf das System
Vorsortierung von Bewerbungen	Betreiber	hohes Risiko	Aufsicht, Protokolle, Information
Erzeugte Bilder in der Kommunikation	Betreiber	Transparenzfall	Kennzeichnung
Eigene Funktion auf fremdem Modell	Anbieter	je nach Zweck	Dokumentation, Angaben des Vorlieferanten
Auswertung von Maschinendaten	Betreiber	meist ohne besondere Klasse	Kompetenz, Datenschutz prüfen

Auffällig ist, wie viele Zeilen in der dritten Spalte unauffällig bleiben. Der größte Teil der alltäglichen Nutzung löst keine besonderen Anforderungen aus, und der Aufwand konzentriert sich auf wenige, klar benennbare Fälle.

Was jetzt konkret zu tun ist

Der erste Schritt ist ein Verzeichnis. Eine Tabelle mit allen eingesetzten Systemen, dem Zweck, dem Anbieter, der eigenen Rolle, der vorläufigen Einordnung und einer verantwortlichen Person. Diese Übersicht ist die Grundlage für alles Weitere und in wenigen Stunden erstellt.

Der zweite Schritt sind die Verträge. Was sagt der Anbieter zur Einordnung seines Systems zu, welche Unterlagen stellt er bereit, wie informiert er über Änderungen. Wer Verträge ohne diese Punkte abschließt, muss sie später nachverhandeln.

Der dritte Schritt ist die interne Regel: welche Werkzeuge freigegeben sind, welche Daten hineindürfen, wie Ergebnisse geprüft werden, wer bei Zweifeln entscheidet. Eine Seite reicht. Der vierte Schritt ist die Unterweisung, dokumentiert. Wie sich das mit den übrigen Anforderungen an die eigene Organisation verbinden lässt, zeigt der Text über Cybersicherheit für kleine Unternehmen.

Wo die Einordnung ohne Rechtsberatung nicht trägt

An drei Stellen. Erstens bei der Frage, ob eine konkrete Anwendung in die Liste mit hohem Risiko fällt, weil die Abgrenzung an Details des Einsatzzwecks hängt und nicht am Namen des Produkts.

Zweitens bei der eigenen Rolle, sobald ein Produkt unter eigenem Namen angeboten oder ein fremdes System angepasst wird. Die Folgen dieser Einordnung sind erheblich, und sie lassen sich nachträglich nur mit Aufwand korrigieren.

Drittens beim Zusammenspiel mit dem Datenschutzrecht, das unabhängig davon gilt und eigene Anforderungen stellt. Beide Regelwerke greifen ineinander, und eine Bewertung, die nur eines von beiden betrachtet, ist unvollständig. Der Rahmen dafür ist im Überblick zur Datenschutz-Grundverordnung beschrieben.

Häufige Fragen

Gilt das auch für Unternehmen mit weniger als zehn Beschäftigten?

Ja, die Verordnung knüpft nicht an die Unternehmensgröße an. Es gibt allerdings Erleichterungen bei der Dokumentation für kleine und Kleinstunternehmen sowie Unterstützungsangebote, die sich ausdrücklich an sie richten.

Sind wir Anbieter, wenn wir ein fremdes Modell in unser Produkt einbauen?

Wenn das Ergebnis unter dem eigenen Namen angeboten wird, spricht vieles dafür. Die genaue Einordnung hängt an der Ausgestaltung und gehört geprüft, bevor das Produkt am Markt ist.

Was ist mit Werkzeugen, die im Hintergrund eines gekauften Programms arbeiten?

Auch dafür ist die Rolle zu klären. In der Regel ist das Unternehmen Betreiber, und der Hersteller des Programms ist Anbieter. Entscheidend ist, was der Vertrag dazu sagt und wie das System eingesetzt wird.

Reicht ein Hinweis auf der Website als Transparenzmaßnahme?

Für eine Chatfunktion nicht. Der Hinweis muss dort erscheinen, wo die Kommunikation stattfindet, und zwar so, dass er vor dem ersten Austausch wahrgenommen wird.

Müssen wir alte Systeme nachrüsten?

Für bereits im Einsatz befindliche Systeme bestehen Übergangsregelungen, die je nach Kategorie unterschiedlich ausfallen. Ob und wann ein konkretes System betroffen ist, gehört im Einzelfall geprüft.

Wer kontrolliert die Einhaltung?

Die Aufsicht liegt bei nationalen Behörden, ergänzt um Stellen auf Unionsebene für Modelle mit allgemeinem Verwendungszweck. Die konkrete Zuständigkeit im Inland ergibt sich aus der nationalen Umsetzung.

Der praktische Kern lässt sich in einem Satz zusammenziehen: Wer weiß, welche Systeme er einsetzt, in welcher Rolle und zu welchem Zweck, hat den schwierigsten Teil erledigt. Alles Weitere ist eine Frage an die Beratung, und diese Frage lässt sich ohne das Verzeichnis gar nicht erst stellen.