KI-Verordnung: Risikoklassifizierung für Hochschulen und Schulen

Vier Risikoklassen, eine Verordnung: Was Hochschulen jetzt wissen müssen

Die EU-Verordnung über künstliche Intelligenz (KI-Verordnung, Verordnung 2024/1689) schreibt jedem KI-System eine Risikoklasse zu — und diese Klasse bestimmt, welche Pflichten eine Hochschule als Betreiberin zu erfüllen hat. Für Fachhochschulen, Universitäten und akkreditierte Privatschulen in Deutschland ist das kein abstraktes Rechtsproblem mehr: Die Frist für Hochrisikosysteme läuft am 2. August 2026 ab.

Die Verordnung unterscheidet vier Stufen: unannehmbares Risiko (verboten), hohes Risiko (strenge Pflichten), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (keine spezifischen Pflichten). Welche KI-Tools Ihrer Hochschule in welche Klasse fallen, hängt davon ab, was das System tut — nicht davon, wie der Anbieter es nennt.

Die vier Risikoklassen im Überblick

Unannehmbares Risiko — verbotene Systeme

Systeme dieser Klasse sind ab dem 2. Februar 2025 untersagt. Die KI-Verordnung verbietet unter anderem soziale Bewertungssysteme, die das Verhalten von Personen außerhalb des unmittelbaren Kontexts beurteilen, Systeme zur unterschwelligen Manipulation von Entscheidungen und den Einsatz von Echtzeit-Biometrie im öffentlichen Raum durch Strafverfolgungsbehörden.

Im Hochschulkontext ist das Szenario relevant, wenn ein Bewerbungsscoring-Tool Verhaltensdaten aus sozialen Netzwerken, Veranstaltungsteilnahmen oder Bewegungsprofile einbezieht, um Zulassungschancen zu berechnen. Solche Systeme überschreiten die Grenze zur sozialen Bewertung — sie sind verboten, auch wenn sie als „ganzheitlicher" Ansatz vermarktet werden.

Hohes Risiko — Hochschulen als Betreiberinnen im Fokus

Das ist die für Hochschulen wichtigste und anspruchsvollste Kategorie. Anhang III der KI-Verordnung listet ausdrücklich KI-Systeme auf, die zur „Entscheidung über den Zugang zu oder die Zulassung zu Einrichtungen der allgemeinen und beruflichen Bildung" eingesetzt werden (Anhang III, Punkt 3a). Diese Formulierung trifft auf eine Vielzahl von Systemen zu, die an deutschen Hochschulen bereits im Einsatz sind.

Ebenfalls als hohes Risiko eingestuft: KI-Systeme zur Beurteilung von Studienleistungen sowie Systeme, die Bildungs- und Berufsverläufe maßgeblich beeinflussen (Anhang III, Punkt 3b). Dieser Auffangtatbestand erfasst KI-gestützte Orientierungstools, die Studieninteressierten bestimmte Programme empfehlen, und algorithmische Bewerbungsranking-Tools im CRM.

Als „Betreiberin" im Sinne von Artikel 3 Nr. 4 der KI-Verordnung ist die Hochschule jede natürliche oder juristische Person, die ein Hochrisiko-KI-System im eigenen Rahmen nutzt — unabhängig davon, ob sie das System selbst entwickelt hat oder es als Dienstleistung bezieht.

Begrenztes Risiko — Transparenzpflichten für Chatbots

Zulassungs-Chatbots und Informationssysteme, die mit Studieninteressierten kommunizieren, fallen in diese Kategorie. Die zentrale Pflicht ergibt sich aus Artikel 50 Abs. 1 der KI-Verordnung: Personen, die mit einem KI-System interagieren, müssen darüber informiert werden, dass sie es mit einer KI und nicht mit einem Menschen zu tun haben — soweit dies nicht offensichtlich ist.

Für einen Hochschul-Chatbot bedeutet das: eine klare Kennzeichnung in der Begrüßungsnachricht, dauerhaft sichtbar im Interface. Eine Formulierung wie „Ich bin ein KI-Assistent der [Hochschulname]. Ein menschlicher Berater ist auf Anfrage erreichbar" genügt den gesetzlichen Anforderungen.

Ebenfalls in diese Kategorie fallen KI-generierte Texte in Bewerberkommunikation (automatisierte E-Mails, Newsletter), sofern sie nicht als KI-Inhalt erkennbar sind, sowie Emotionserkennungssysteme — etwa Tonanalyse in Video-Bewerbungsgesprächen.

Minimales Risiko — keine spezifischen Pflichten

Rechtschreibkorrektoren, Spam-Filter, Stundenplanoptimierer und einfache Empfehlungsalgorithmen ohne Auswirkung auf Grundrechte fallen in diese Kategorie. Es bestehen keine regulatorischen Pflichten, wobei Transparenz gegenüber Studierenden nach wie vor empfehlenswert ist.

Risikoklassen für KI-Systeme an deutschen Hochschulen

Pflichten für Hochschulen bei Hochrisiko-KI-Systemen

Artikel 29 der KI-Verordnung regelt die Pflichten von Betreiberinnen für Hochrisikosysteme. Für Hochschulen ergibt sich daraus ein konkreter Pflichtenkatalog, der vor dem 2. August 2026 umzusetzen ist.

Risikomanagementsystem: Die Hochschule muss in Abstimmung mit dem Anbieter sicherstellen, dass ein dokumentiertes Risikomanagementsystem nach Artikel 9 besteht. Dieses muss die spezifischen Risiken des Einsatzkontexts an der Hochschule abdecken — insbesondere Bias-Risiken bei unterrepräsentierten Bewerbergruppen (Erstakademiker, internationale Studierende, Bewerber aus bestimmten Schultypen).

Menschliche Aufsicht: Keine Zulassungsentscheidung darf vollständig automatisiert erfolgen. Artikel 14 der KI-Verordnung verpflichtet Betreiberinnen, die menschliche Aufsicht durch geeignete technische und organisatorische Maßnahmen zu gewährleisten. Ein Akkreditierungsrat-konformer Zulassungsprozess muss einen dokumentierten menschlichen Überprüfungsschritt enthalten.

Protokollierung: Hochschulen müssen die Protokolldaten, die das Hochrisikosystem automatisch erzeugt, nach Artikel 26 Abs. 5 aufbewahren, soweit diese Daten unter ihrer Kontrolle stehen. Die Mindestaufbewahrungsfrist beträgt in der Regel die Dauer des Verwendungszeitraums zuzüglich drei Jahre.

Anbieter-Pflichten überprüfen: Als Betreiberin ist die Hochschule verpflichtet, die technische Dokumentation des Anbieters einzusehen und zu prüfen, ob das System den Anforderungen der Verordnung entspricht. Fordern Sie von jedem Anbieter eine aktuelle Konformitätserklärung, die Risikoklassifizierung mit Begründung und den Nachweis der EU-Datenbankregistrierung (Artikel 71 der KI-Verordnung).

Datenschutz-Folgenabschätzung (DSFA): Hochrisiko-KI-Systeme lösen regelmäßig die Pflicht zur DSFA nach Artikel 35 DSGVO aus. Der Europäische Datenschutzausschuss (EDPB) hat in seiner Stellungnahme zum AI Act klargestellt, dass die Anforderungen beider Regelwerke kumulativ gelten. Die DSFA muss vor dem Produktivbetrieb abgeschlossen sein.

Transparenzpflicht für den Hochschul-Chatbot

72 % der Interessentenanfragen sind durch FAQ-Automatisierung lösbar — nur 7 % erfordern menschliches Eingreifen (Quelle: Automatische Klassifikation von 12.000 Skolbot-Gesprächen, 2025). Ein gut konfigurierter Zulassungs-Chatbot entlastet das Beratungsteam erheblich. Die Compliance-Anforderungen für diese Kategorie sind im Vergleich zum hohen Risiko deutlich überschaubarer — aber nicht verhandelbar.

Drei konkrete Maßnahmen für die Chatbot-Compliance:

1. KI-Kennzeichnung: Die Begrüßungsnachricht des Chatbots muss explizit angeben, dass der Nutzer mit einem KI-System interagiert. Eine dauerhaft sichtbare Kennzeichnung im Interface (z. B. ein KI-Badge) ist empfehlenswert.

2. Option auf menschlichen Kontakt: Studieninteressierte müssen jederzeit die Möglichkeit haben, mit einem menschlichen Berater in Kontakt zu treten. Ein Button „Mit Berater verbinden" oder ein ähnliches Element muss im Chatbot-Interface stets sichtbar sein.

3. Datenschutzinformation: Die durch den Chatbot erhobenen und verarbeiteten Daten müssen in der Datenschutzerklärung der Hochschule dokumentiert sein. Die Informationspflichten aus Artikel 13 DSGVO gelten unverändert; der Chatbot muss auf die Datenschutzerklärung verlinken oder deren Kerninhalt in der Begrüßungssequenz zusammenfassen.

Für die vollständige Dokumentation der datenschutzrechtlichen Anforderungen an KI-Chatbots an Hochschulen empfehlen wir unseren Leitfaden KI-Chatbot: DSGVO-Datenerhebung an Hochschulen.

Zuständige Behörden in Deutschland

Der BfDI (Bundesbeauftragter für den Datenschutz und die Informationsfreiheit) ist für den öffentlichen Bereich des Bundes zuständig und hat frühzeitig zur Umsetzung der KI-Verordnung Stellung genommen. Für private Hochschulen sind primär die Landesdatenschutzbehörden und die Bundesnetzagentur als Marktüberwachungsbehörde im Sinne von Artikel 70 der KI-Verordnung zuständig.

Die Bundesnetzagentur koordiniert gemeinsam mit den Ländern die Marktüberwachung für KI-Systeme und nimmt Beschwerden über Verstöße gegen die KI-Verordnung entgegen. Sie kann Untersuchungen einleiten, technische Dokumentationen anfordern und bei Verstößen Abhilfemaßnahmen anordnen.

Für Hochschulen in Ländern mit eigenen Landesdatenschutzbehörden — Bayern (BayLDA), Baden-Württemberg (LfDI), NRW (LDI NRW) u. a. — gilt: Die DSGVO-Aufsicht verbleibt bei der Landesdatenschutzbehörde; die Marktüberwachung nach KI-Verordnung wird bundesweit koordiniert.

Compliance-Fahrplan für deutsche Hochschulen bis August 2026

Wer die Fristen im Blick hat und strukturiert vorgeht, kann die Compliance bis August 2026 erreichen. Der folgende Fahrplan orientiert sich an den gesetzlichen Fristen und dem praktischen Umsetzungsaufwand.

Phase 1: KI-Inventur (Dauer: 2–4 Wochen) Alle eingesetzten KI-Systeme erfassen — Chatbot, CRM-Scoring, Plagiatserkennung, Bewerbungsplattform, Studiengangsempfehlung, Prüfungstools. Für jedes System: Anbieter, Funktionsbeschreibung, betroffene Datenkategorien, Entscheidungsrelevanz.

Phase 2: Risikoklassifizierung (Dauer: 1–2 Wochen) Jedes System einer der vier Risikoklassen zuordnen. Bei Unsicherheit: Die Klassifizierung des Anbieters einfordern und kritisch prüfen. Anbieter klassifizieren ihr System häufig tiefer als es rechtlich geboten ist — die Betreiberin trägt das Haftungsrisiko.

Phase 3: Anbieter-Compliance-Prüfung (Dauer: 4–8 Wochen) Für jedes Hochrisikosystem: Technische Dokumentation, Konformitätserklärung, EU-Datenbankregistrierung und Bias-Audit-Ergebnisse anfordern. Für Chatbots: Transparenz-Compliance prüfen und ggf. KI-Kennzeichnung nachrüsten.

Phase 4: Interne Maßnahmen (Dauer: 4–8 Wochen) Menschliche Aufsichtsprozesse für Hochrisikosysteme dokumentieren, Protokollierungspflichten sicherstellen, DSFA für noch nicht geprüfte Systeme abschließen, Datenschutzerklärung aktualisieren.

Phase 5: Schulung und Dokumentation (laufend) Zulassungs- und Verwaltungsteams zu ihren Pflichten schulen. Jährliches KI-Compliance-Audit im Rhythmus des DSGVO-Audits verankern.

Für den DSGVO-Gesamtrahmen, in den die KI-Verordnung eingebettet ist, empfehlen wir unseren DSGVO-Leitfaden für Studentendaten. Die Wechselwirkungen zwischen KI-Verordnung und dem Recht auf Löschung unter der DSGVO sind für Zulassungsprozesse besonders relevant.

Sanktionen und Haftungsrisiken

Die KI-Verordnung sieht abgestufte Bußgelder vor: bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes für den Betrieb verbotener Systeme, bis zu 15 Mio. EUR oder 3 % für Verstöße gegen Hochrisiko-Pflichten. Als Betreiberinnen — nicht Anbieterinnen — sind die Bußgeldsätze für Hochschulen etwas niedriger angesetzt, aber nicht vernachlässigbar.

Hinzu kommt das Reputationsrisiko: Eine wegen KI-Nichtkonformität sanktionierte Hochschule, die gleichzeitig Digitalkompetenzen im CHE-Ranking oder in der Akkreditierung als Stärke ausweist, untergräbt ihre Glaubwürdigkeit erheblich. Die Risiken bei KI-Bias im Studierendengewinnungsprozess sind ein eigenes Feld — unser Artikel zu KI-Bias in der Studierendengewinnung behandelt dies vertieft.

Dieser Artikel dient allgemeinen Informationszwecken und stellt keine Rechtsberatung dar. Für verbindliche Einschätzungen zu Ihren spezifischen KI-Compliance-Pflichten wenden Sie sich an einen auf KI-Regulierung spezialisierten Juristen oder an Ihren Datenschutzbeauftragten.

FAQ

Fällt mein Zulassungs-Chatbot unter „hohes Risiko"?

Nein — sofern er informiert, qualifiziert und weiterleitet, ohne selbst Zulassungsentscheidungen zu treffen. Ein Chatbot, der Fragen beantwortet, Informationsveranstaltungen vermittelt und Interessenten an das Beratungsteam weitergibt, fällt unter „begrenztes Risiko" (Art. 50 KI-Verordnung). Trifft der Chatbot dagegen automatisiert Entscheidungen darüber, ob ein Bewerber kontaktiert wird oder in welche Bewerbungskategorie er einsortiert wird, wechselt die Klassifizierung. Die Grenze liegt bei der Entscheidungsrelevanz — nicht bei der Technologiekomplexität.

Welche Pflichten hat unsere Hochschule als „Betreiberin" im Vergleich zum Anbieter?

Anbieter (Art. 3 Nr. 3 KI-Verordnung) sind Unternehmen, die ein KI-System entwickeln und in Verkehr bringen. Betreiberinnen (Art. 3 Nr. 4) nutzen dieses System im eigenen Kontext. Die technischen Konformitätspflichten — CE-Kennzeichnung, EU-Datenbankregistrierung, technische Dokumentation — liegen primär beim Anbieter. Die Hochschule als Betreiberin muss sicherstellen, dass sie das System nur für die vorgesehenen Zwecke nutzt, die menschliche Aufsicht gewährleistet ist und Protokolldaten aufbewahrt werden (Art. 29 KI-Verordnung). Bei maßgeblichen Änderungen am Einsatzkontext wird die Hochschule unter Umständen selbst zur Anbieterin und übernimmt damit die vollen Anbieter-Pflichten.

Wie hängen KI-Verordnung und DSGVO zusammen?

Beide Regelwerke gelten gleichzeitig und ergänzen sich. Die DSGVO regelt den Umgang mit personenbezogenen Daten (Rechtsgrundlage, Transparenz, Betroffenenrechte). Die KI-Verordnung regelt das KI-System als solches — unabhängig davon, ob personenbezogene Daten verarbeitet werden. Verarbeitet ein KI-System Bewerber- oder Interessentendaten, gelten beide Regelwerke kumulativ. Die DSFA nach Art. 35 DSGVO und die Konformitätsprüfung nach KI-Verordnung sind getrennte, aber inhaltlich verwandte Instrumente — in der Praxis empfiehlt sich eine gemeinsame Bearbeitung.

Was kostet die Compliance für eine mittlere Hochschule?

Für eine Hochschule mit Chatbot (begrenztes Risiko) und einem CRM ohne automatisiertes Bewerbungsscoring: 2–4 Wochen Aufwand, überwiegend intern, plus ggf. 2.000–5.000 EUR für externe Rechtsberatung und DSFA-Unterstützung. Für eine Hochschule mit automatisierter Bewerbervorauswahl (hohes Risiko): 2–4 Monate und 15.000–40.000 EUR, wobei ein erheblicher Teil dieser Kosten beim Anbieter liegt. Die laufenden Kosten (jährliches Audit, Protokollierung, Schulung) liegen bei 3.000–8.000 EUR pro Jahr.

Gilt die KI-Verordnung auch für ausländische Softwareanbieter, die wir nutzen?

Ja. Die KI-Verordnung hat extraterritoriale Wirkung: Sie gilt für jedes KI-System, das in der EU eingesetzt wird oder dessen Ergebnisse in der EU genutzt werden — unabhängig vom Sitz des Anbieters. Ein US-amerikanischer Anbieter, dessen Bewerbungsmanagement-Software an einer deutschen Hochschule eingesetzt wird, muss die KI-Verordnung einhalten. Als Betreiberin können Sie nicht auf den ausländischen Sitz des Anbieters verweisen — Sie sind in der Pflicht, die Konformität zu überprüfen und sicherzustellen.

Weiterführende Lektüre: KI-Verordnung und Hochschulen — Überblick · KI-Chatbot: DSGVO-Datenerhebung an Hochschulen · DSGVO-Leitfaden für Studentendaten