Welche Pflichten hat eine Bildungseinrichtung bei Hochrisiko-KI?

01Die Rollen zuerst klären

Wer ein KI-System entwickelt oder unter eigenem Namen in Verkehr bringt, ist typischerweise Anbieter. Wer es unter eigener Verantwortung in einem Bildungsprozess verwendet, kann Betreiber im Sinn des AI Act sein. Bei öffentlichen Schulen muss zusätzlich geklärt werden, welche Organisation oder zuständige Stelle diese Rolle im konkreten Beschaffungs- und Nutzungskonzept trägt.

Der Vertrag muss diese Rollen sichtbar machen. Er kann gesetzliche Betreiberpflichten aber nicht einfach vollständig an den Hersteller zurückgeben. Umgekehrt übernimmt eine Schule nicht automatisch sämtliche Anbieterpflichten; ein Rollenwechsel kann etwa bei wesentlicher Veränderung oder neuer Zweckbestimmung nach Art. 25 entstehen.

02Wann diese Pflichten relevant werden

Für Bildung erfasst Anhang III Z 3 vier bestimmungsgemäße Zwecke: Zugang oder Zuweisung, Bewertung von Lernergebnissen einschließlich Lernsteuerung, Beurteilung des Bildungsniveaus und Prüfungsüberwachung. Nicht jedes Lernprogramm mit KI ist deshalb hochriskant.

Für Systeme nach Art. 6 Abs. 2 und Anhang III werden die betreffenden Kapitel-III-Pflichten ab 2. Dezember 2027 anwendbar. Art. 6 Abs. 5 und Übergangsregeln für bereits eingesetzte Systeme sind gesondert zu prüfen. Bereits geltendes Datenschutz-, Schul- und Prüfungsrecht wird durch diesen Termin nicht aufgeschoben.

03Was Art. 26 praktisch verlangt

Bei einem tatsächlich hochriskanten System muss die Betreiberseite insbesondere:

1. das System entsprechend der Gebrauchsanweisung und mit geeigneten organisatorischen Maßnahmen verwenden;
2. Personen für die menschliche Aufsicht bestimmen, die Kompetenz, Schulung und Befugnis besitzen und das Ergebnis wirklich übersteuern können;
3. die Eingabedaten, soweit sie unter eigener Kontrolle stehen, auf Zweckangemessenheit prüfen;
4. den Betrieb beobachten und bei erkannten Risiken, Vorfällen oder Fehlfunktionen angemessen reagieren;
5. automatisch erzeugte Protokolle, soweit sie unter eigener Kontrolle stehen, grundsätzlich mindestens sechs Monate aufbewahren, sofern anderes Unions- oder nationales Recht nichts anderes vorgibt;
6. betroffene Personen informieren, wenn das System Entscheidungen über sie trifft oder unterstützt.

„Human in the loop“ ist daher kein Etikett. Wer einen Punkte-, Zulassungs- oder Proctoring-Vorschlag nur bestätigt, ohne ihn fachlich und tatsächlich verwerfen zu können, schafft keine wirksame menschliche Aufsicht.

04Zwei Folgenabschätzungen auseinanderhalten

Eine Grundrechte-Folgenabschätzung nach Art. 27 AI Act kann insbesondere für öffentlich-rechtliche Stellen und private Stellen relevant sein, die öffentliche Dienste erbringen und ein Anhang-III-Hochrisikosystem einsetzen. Daneben kann Art. 35 DSGVO eine Datenschutz-Folgenabschätzung verlangen.

Beide Prüfungen können inhaltlich verbunden werden, sind aber nicht dasselbe. Die eine betrifft die breiteren Grundrechtswirkungen des KI-Einsatzes, die andere die Risiken der Verarbeitung personenbezogener Daten. Zuständigkeit, Zeitpunkt und Dokumentation sind vor dem Echtbetrieb zu klären.

05Was in Ausschreibung und Vertrag gehört

06Was der neue Praxisleitfaden ergänzt

Der AI Act Readiness Report 2026 – AI in Education and Training von Embed AI / Praxikon fasst diese Betreiberperspektive für Aufnahme, Bewertung, Prüfung und Proctoring in einem 15-seitigen Arbeitsrahmen zusammen. Neu und praktisch nützlich sind vor allem Systeminventar, Rollenklärung, Nachweisordner und ein 30/60/90-Tage-Vorgehen.

Der Bericht ist eine private Fachanalyse von Zahed Ashkara, keine amtliche Leitlinie und keine Rechtsquelle. Seine rechtlichen Aussagen müssen daher mit dem konsolidierten AI Act und der Änderungsverordnung gelesen werden.

Praxisleitfaden als PDF herunterladen