Deployer-Pflichten nach dem AI Act: Was Unternehmen dokumentieren müssen

Der EU AI Act gilt seit August 2024. Die meisten Unternehmen – vom Handwerksbetrieb bis zum Mittelständler – sind keine KI-Entwickler. Sie setzen KI ein. Damit sind sie im Sinne der Verordnung Deployer (Betreiber). Und Deployer haben eigene Pflichten. Nicht so umfangreich wie die der Provider – aber konkret, dokumentationspflichtig und bei Verstößen sanktionierbar.

Dieser Artikel zeigt, welche Pflichten Art. 26 AI Act für Deployer definiert, was Sie pro KI-System dokumentieren müssen und wie sich die Anforderungen bei 12 gängigen Tools konkret auswirken.

Die meisten Unternehmen sind Deployer – nicht Provider

Der AI Act unterscheidet drei Hauptrollen entlang der Wertschöpfungskette:

Für geschätzte 95 % der KMU ist die Deployer-Rolle die relevante. Sie kaufen oder abonnieren KI-Systeme und setzen sie in HR, Marketing, Kundenservice, Finanzen oder Produktion ein. Die Provider-Pflichten (Konformitätsbewertung, CE-Kennzeichnung, technische Dokumentation) liegen beim Hersteller. Aber die Deployer-Pflichten liegen bei Ihnen.

Und genau hier liegt das Missverständnis, das viele Unternehmen teuer kosten kann: Wer KI nur einkauft, ist nicht pflichtenfrei.

Art. 26 AI Act: Die 7 Kernpflichten für Deployer

Art. 26 der KI-Verordnung regelt die Pflichten für Betreiber von Hochrisiko-KI-Systemen. In der Praxis wirken einige dieser Pflichten aber über Hochrisiko hinaus – weil Art. 4 (KI-Kompetenz) und Art. 50 (Transparenz) für alle KI-Systeme gelten, unabhängig von der Risikoklasse.

Hier die 7 Kernpflichten im Überblick:

Pflicht 7 ist die Auffälligste: Sie gilt seit dem 2. Februar 2025 für jedes Unternehmen, das KI einsetzt – egal ob Hochrisiko oder nicht. Mehr dazu in unserem Artikel AI Literacy nach Art. 4.

Was Sie pro KI-System dokumentieren müssen: Die 10 Felder

Die Pflichten aus Art. 26 lassen sich in eine konkrete Dokumentationsstruktur übersetzen. Für jedes KI-System in Ihrem Unternehmen brauchen Sie die folgenden 10 Felder:

Nicht jedes Feld ist für jede Risikoklasse gleich kritisch. Bei Hochrisiko-Systemen (z. B. KI im Bewerbermanagement) müssen alle 10 Felder lückenlos sein. Bei Systemen mit minimalem Risiko (z. B. Spamfilter) reicht eine Basiserfassung der Felder 1–4 und 9.

Für die Einstufung in Risikoklassen (Feld 3) nutzen Sie den Entscheidungsbaum aus unserem Artikel Risikoklassen im AI Act. Die Basiserfassung (Felder 1–4) entspricht im Wesentlichen Ihrem KI-Inventar.

Praxisbeispiel: Deployer-Dokumentation für 12 gängige Tools

Theorie ist das eine – aber wie sieht die Dokumentation für Tools aus, die tatsächlich in KMU im Einsatz sind? Hier eine Übersicht für 12 gängige KI-Systeme:

Minimales Risiko – Basisdokumentation ausreichend

Begrenztes Risiko – Transparenzpflichten beachten

Hochrisiko – Vollständige Dokumentation aller 10 Felder

* Abhängig vom konkreten Einsatzzweck. Ein CRM-Tool wird durch KI-gestütztes Kredit-Scoring zum Hochrisiko-System – dieselbe Software ohne diese Funktion nicht.

Hochrisiko-Sonderfall: Wenn Ihre HR-KI unter Anhang III fällt

Der häufigste Hochrisiko-Fall für KMU ist KI im Personalwesen. Anhang III Nr. 4 des AI Act erfasst KI-Systeme, die für folgende Zwecke eingesetzt werden:

• Stellenanzeigen gezielt ausspielen oder filtern

• Bewerbungen sichten, sortieren oder vorselektieren

• Kandidaten bewerten oder ranken

• Vorstellungsgespräche analysieren (Mimik, Sprache, Stimmung)

• Leistungsbeurteilungen automatisiert erstellen

• Beförderungs- oder Kündigungsentscheidungen unterstützen

Wenn Sie ein Tool wie Personio, Workday, SAP SuccessFactors oder ein spezialisiertes Recruiting-Tool mit KI-Funktionen für einen dieser Zwecke nutzen, sind Sie Deployer eines Hochrisiko-KI-Systems.

Das bedeutet konkret:

• Alle 10 Dokumentationsfelder müssen lückenlos ausgefüllt sein

• Human Oversight muss einer konkreten Person zugewiesen sein – mit Befugnis, KI-Entscheidungen zu überstimmen

• Logs müssen mindestens 6 Monate aufbewahrt werden

• Betriebsrat muss vor Inbetriebnahme informiert werden (Art. 26 Abs. 7 + § 87 Abs. 1 Nr. 6 BetrVG)

• Betroffene Bewerber müssen über den KI-Einsatz informiert werden (Art. 26 Abs. 11)

• Eine Grundrechte-Folgenabschätzung (FRIA) kann erforderlich sein – für öffentliche Stellen und bestimmte private Deployer ist sie Pflicht

Mehr zur FRIA lesen Sie in unserem Artikel FRIA nach Art. 27 AI Act.

Transparenzpflichten nach Art. 50 – wann und wen Sie informieren müssen

Neben Art. 26 ist Art. 50 die zweite zentrale Norm für Deployer. Sie gilt unabhängig von der Risikoklasse für bestimmte KI-Anwendungen:

Für die Praxis bedeutet das: Sobald Sie ChatGPT-generierte Texte veröffentlichen, Copilot-generierte E-Mails an Kunden senden oder einen KI-Chatbot auf Ihrer Website betreiben – greifen Transparenzpflichten.

Umsetzung in 3 Schritten

1. Inventar prüfen: Welche Ihrer KI-Systeme interagieren mit externen Personen oder erzeugen öffentliche Inhalte? (Nutzen Sie dafür Ihr KI-Inventar)

2. Informationspflichten zuordnen: Pro System bestimmen, welche Transparenzpflicht greift (Tabelle oben)

3. Umsetzungsmaßnahme definieren: Datenschutzhinweis ergänzen, Chatbot-Label einbauen, Bildkennzeichnung etablieren, Betriebsrats-Information dokumentieren

Dokumentieren Sie die Transparenzmaßnahmen in Feld 7 Ihrer Deployer-Dokumentation.

Achtung Rollenwechsel: Wann der Deployer zum Provider wird

Art. 25 AI Act regelt die Verantwortlichkeiten entlang der Wertschöpfungskette. Eine der gefährlichsten Fallen für Unternehmen: Unter bestimmten Umständen wird der Deployer zum Provider – mit allen Provider-Pflichten, die daran hängen.

Das passiert in folgenden 5 Szenarien:

In der Praxis betrifft das vor allem Unternehmen, die: eigene Chatbots auf GPT-Basis für Kunden anbieten, KI-Tools intern so stark anpassen, dass sie praktisch ein neues Produkt darstellen, oder Open-Source-Modelle fine-tunen und im Geschäftsbetrieb einsetzen.

Dokumentieren Sie Ihre Rolle (Deployer oder Provider) in Feld 4 Ihrer Dokumentation – und überprüfen Sie diese Einschätzung bei jedem neuen Use Case. Die KI-Richtlinie Ihres Unternehmens sollte klare Regeln enthalten, ab wann ein Genehmigungsprozess greift.

Von der Dokumentation zum Monitoring

Deployer-Dokumentation ist kein einmaliges Projekt. Art. 26 Abs. 5 verlangt ausdrücklich, dass Deployer den Betrieb des KI-Systems laufend überwachen. Das bedeutet:

• Regelmäßige Reviews der Dokumentation (empfohlen: halbjährlich für Hochrisiko, jährlich für andere Systeme)

• Änderungs-Tracking: Neue KI-Funktionen (z. B. Copilot-Updates, Personio-Feature-Releases) können die Risikoklasse verändern

• Vorfall-Dokumentation: Wenn ein KI-System fehlerhafte, diskriminierende oder unerwartet riskante Ergebnisse liefert – sofortige Dokumentation und ggf. Meldung an den Provider

• Schwerwiegende Vorfälle: Bei Hochrisiko-Systemen müssen Sie den Provider und die Marktüberwachungsbehörde informieren (Art. 26 Abs. 5 Unterabs. 3)

Ein strukturiertes KI-Monitoring-System hilft, diese Pflichten operativ abzubilden. Mehr dazu in unserem Artikel KI-Compliance Monitoring.

Dokumentation im Zusammenspiel: Das Gesamtbild

Die Deployer-Dokumentation steht nicht allein. Sie ist ein Baustein in einem größeren System:

Bußgelder und Haftung: Was Deployern droht

Der AI Act staffelt die Sanktionen nach Schwere des Verstoßes:

Für KMU gilt jeweils der niedrigere der beiden Beträge. Aber auch 7,5 Mio. EUR sind für die meisten Mittelständler existenzbedrohend.

Dazu kommt: Private Durchsetzung ist bereits möglich. Bewerber, die durch KI-gestützte HR-Systeme benachteiligt werden, können Schadensersatzansprüche geltend machen – unabhängig von behördlichen Bußgeldern. Die Dokumentation ist dann Ihr wichtigstes Beweismittel.

Ihre nächsten 3 Schritte

1. KI-Inventar prüfen: Haben Sie alle KI-Systeme erfasst? Auch eingebettete KI in SaaS-Tools wie M365 Copilot, Personio, HubSpot, DeepL oder Canva? Wenn nicht: KI-Inventar erstellen.

2. Deployer-Dokumentation aufbauen: Pro System die 10 Felder ausfüllen. Priorisieren Sie Hochrisiko-Systeme (HR, Kredit-Scoring) und Systeme mit Transparenzpflicht (Chatbots, Bildgenerierung).

3. Review-Zyklus festlegen: Halbjährlich für Hochrisiko, jährlich für alle anderen. Tragen Sie den Termin ein – bevor er zum Audit-Thema wird.