Betreiberpflichten nach Artikel 26 der KI-Verordnung erklärt

Die meisten europäischen Unternehmen werden der KI-Verordnung der EU (Verordnung (EU) 2024/1689) als Betreiber begegnen, nicht als Anbieter. Das Kapitel für Anbieter (Art. 9–17) macht die Schlagzeilen; mit Artikel 26 leben die meisten Unternehmen tatsächlich. Dieser Ratgeber ist die Arbeitsauslegung für Betreiber.

Was „Betreiber“ bedeutet

Art. 3 Nr. 4 definiert einen Betreiber als natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet — es sei denn, das System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet.

Wenn Ihr Unternehmen ein KI-Tool im Geschäftsbetrieb verwendet — ob Sie es gekauft, durch Feinabstimmung angepasst oder eingebettet haben —, sind Sie Betreiber. Der Anbieter hat das System gebaut; Sie setzen es ein.

Wann Artikel 26 gilt

Artikel 26 gilt für Betreiber von Hochrisiko-KI-Systemen. Hat das System, das Sie verwenden, ein begrenztes Risiko (Chatbots, generierte Inhalte), gelten stattdessen die leichteren Transparenzpflichten nach Art. 50, nicht Art. 26.

Der schwierige Schritt ist deshalb, zu klären, ob das System, das Sie betreiben, nach Anhang III ein Hochrisiko-KI-System ist. Siehe Ist mein KI-System ein Hochrisiko-KI-System?.

Alle Betreiberpflichten nach Artikel 26

Für Betreiber von Hochrisiko-KI-Systemen gehören dazu:

1. Technische und organisatorische Maßnahmen treffen, um das System gemäß der Betriebsanleitung des Anbieters zu verwenden

Art. 26 Abs. 1. Die Betriebsanleitung des Anbieters ist keine freiwillige Lektüre. Sie ist Teil der Grundlage der Konformitätsbewertung. Weichen Sie wesentlich davon ab, kann Ihre Verwendung als „wesentliche Veränderung“ gelten — dann sind Sie selbst Anbieter (und es folgen die schwereren Pflichten nach Art. 9–17).

2. Die menschliche Aufsicht natürlichen Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis übertragen

Art. 26 Abs. 2. Die Person, die die Aufsicht führt, muss:

• die Kompetenz haben, das System zu verstehen
• die Ausbildung haben, die im System eingebauten Maßnahmen der menschlichen Aufsicht zu nutzen
• die Befugnis haben, tatsächlich zu widersprechen, das System zu übersteuern oder anzuhalten
• die erforderliche Unterstützung erhalten — Zeit, Mittel, Rückhalt in der Organisation

Eine menschliche Prüfung, die nur abnickt, zählt nicht.

3. Dafür sorgen, dass die Eingabedaten relevant und ausreichend repräsentativ sind

Art. 26 Abs. 4. Soweit die Eingabedaten der Kontrolle des Betreibers unterliegen, müssen sie der Zweckbestimmung des Systems entsprechen und im Hinblick auf diese Zweckbestimmung ausreichend repräsentativ sein.

Für einen Betreiber, der Eingabedaten liefert (etwa Dokumente in ein KI-Tool hochlädt), heißt das: filtern und aufbereiten. Wer Datenmüll eingibt, darf keine konformen Ergebnisse erwarten.

4. Den Betrieb des Systems anhand der Betriebsanleitung überwachen

Art. 26 Abs. 5. Der Betreiber ist für die Überwachung während der Verwendung verantwortlich. Zeigt das System Anzeichen, dass es außerhalb der erwarteten Parameter arbeitet, muss der Betreiber den Anbieter informieren und die Verwendung unter Umständen aussetzen.

Auffälligkeiten, Modelldrift, unerwartete Ausgaben — das sind für den Betreiber die Signale zum Handeln.

5. Automatisch erzeugte Protokolle mindestens 6 Monate aufbewahren

Art. 26 Abs. 6. Soweit die Protokolle der Kontrolle des Betreibers unterliegen, müssen sie mindestens 6 Monate aufbewahrt werden (oder länger, wenn anderes Unionsrecht oder nationales Recht das verlangt).

Bei SaaS-Einsätzen bewahrt oft der Anbieter die Protokolle für den Betreiber auf — das ist in Ordnung, aber dokumentieren Sie die Vereinbarung.

6. Die Arbeitnehmervertreter informieren, bevor ein Hochrisiko-KI-System am Arbeitsplatz eingesetzt wird

Art. 26 Abs. 7. Wird ein Hochrisiko-KI-System am Arbeitsplatz verwendet, muss der Betreiber die Arbeitnehmer und ihre Vertreter vor dem Einsatz informieren. In der EU bedeutet das, dass die Fristen für die Anhörung von Gewerkschaft oder Betriebsrat gelten.

7. Die betroffenen natürlichen Personen informieren

Art. 26 Abs. 11. Wird ein Hochrisiko-KI-System verwendet, um eine Entscheidung über eine natürliche Person zu treffen, muss der Betreiber diese Person informieren. Die Information muss klar sein und an der Stelle erfolgen, die für die Person relevant ist (nicht in Vertragsbedingungen versteckt).

8. Die Verwendung registrieren (wo vorgeschrieben)

Art. 49 Abs. 3 verlangt die Registrierung in der EU-Datenbank, wenn der Betreiber eine Behörde oder eine sonstige öffentliche Stelle ist (oder eine private Stelle, die in ihrem Namen handelt).

9. Grundrechte-Folgenabschätzung (Artikel 27)

Vorgeschrieben für bestimmte Betreiber — Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, und private Betreiber, die KI im Kredit- und Versicherungsbereich einsetzen. Die Grundrechte-Folgenabschätzung muss abgeschlossen sein, bevor ein Hochrisiko-KI-System eingesetzt wird.

10. Mit den zuständigen Behörden zusammenarbeiten

Art. 26 Abs. 12. Betreiber müssen mit den zuständigen Behörden bei allen Maßnahmen zusammenarbeiten, die diese im Zusammenhang mit dem KI-System ergreifen.

Wie das in der Praxis aussieht

Für ein typisches mittelgroßes B2B-SaaS-Unternehmen, das ein zugekauftes Hochrisiko-Produkt einsetzt (etwa ein KI-Tool zur Vorauswahl von Bewerbungen):

1. Lesen Sie die Betriebsanleitung des Anbieters. Ermitteln Sie die Rollen für die menschliche Aufsicht, die der Anbieter vorsieht.
2. Besetzen Sie die Rolle der menschlichen Aufsicht intern. Benennen Sie eine Person. Schulen Sie sie. Geben Sie ihr die Befugnis, die Ausgabe der KI zu übersteuern oder zu verwerfen.
3. Dokumentieren Sie die Eingabedaten. Was hineingeht, woher es stammt, wie es aufbereitet wird.
4. Richten Sie die Überwachung ein. Prüfen Sie wöchentlich oder monatlich Stichproben der Ausgabequalität. Verfolgen Sie, wie oft KI und menschliche Entscheidung übereinstimmen.
5. Bewahren Sie Protokolle mindestens 6 Monate auf. Klären Sie, ob der Anbieter oder Sie sie aufbewahren; dokumentieren Sie die Vereinbarung.
6. Informieren Sie die Arbeitnehmervertreter. Bevor das Tool bei Personalentscheidungen eingesetzt wird, informieren Sie den Betriebsrat oder die Gewerkschaft.
7. Informieren Sie die betroffenen Bewerberinnen und Bewerber. Ein Standardhinweis bei der Bewerbung, dass KI Teil der Vorauswahl ist.
8. Führen Sie eine Grundrechte-Folgenabschätzung durch, wenn sie vorgeschrieben ist. Für die meisten privaten B2B-Betreiber, die KI im Personalbereich einsetzen, ist sie nicht verpflichtend, aber gute Praxis. Für Betreiber im Kredit- und Versicherungsbereich ist sie Pflicht.

Was Betreiber NICHT tun müssen

Es lohnt sich, klar zu sagen, was nicht in Artikel 26 steht:

• Keine Konformitätsbewertung. Das ist Aufgabe des Anbieters.
• Keine technische Dokumentation nach Anhang IV. Die erstellt der Anbieter.
• Keine Registrierung in der EU-Datenbank (es sei denn, der Betreiber ist eine Behörde oder eine sonstige öffentliche Stelle).
• Kein Risikomanagementsystem nach Art. 9. Das ist Aufgabe des Anbieters.

Das ist der strukturelle Grund, warum die meisten Unternehmen der KI-Verordnung als Betreiber begegnen werden, nicht als Anbieter. Die Last des Betreibers ist erheblich, aber verhältnismäßig.

Was Betreiber auslagern können — und was nicht

Die menschliche Aufsicht, die Information betroffener Personen und die Zusammenarbeit mit den zuständigen Behörden lassen sich nicht auslagern. Sie sind Aufgaben, die aus dem Einsatz in Ihrer eigenen Organisation folgen.

Die Aufbewahrung der Protokolle und die Überwachung kann oft der Anbieter für Sie übernehmen, aber die rechtliche Verantwortung bleibt bei Ihnen — dokumentieren Sie, wer was tut.

Die Grundrechte-Folgenabschätzung können Sie mit externer Beratung entwerfen, aber sie muss den tatsächlichen Einsatzkontext Ihrer Organisation abbilden, nicht eine Vorlage.

Wie Software hilft

Die größte praktische Last des Betreibers ist ein laufender Prüfpfad: welche Systeme Sie betreiben, welche Entscheidungen die prüfenden Personen bestätigt haben und welche Personen informiert wurden. Genau dafür sind in Maditon das Audit-Protokoll, die Prüfanmerkungen und die Transparenzseite gebaut — damit Sie antworten können, wenn eine Aufsichtsbehörde verlangt: „Zeigen Sie mir Ihre Aufzeichnungen zur Verwendung nach Artikel 26 für das erste Quartal 2028.“