Am 19. Mai 2026 veröffentlichte die Europäische Kommission Entwürfe der Leitlinien zur Klassifizierung von KI-Systemen als hochriskant gemäß Anhang III des EU AI Acts. Wie Modulos AI auf X kommentiert: „The early commentary is missing the most important shift in the document" — und tatsächlich enthält der Entwurf eine Konkretisierung, die für KMU mit lokalen Sprachmodellen relevanter ist als fast alles, was seit Inkrafttreten des AI Acts diskutiert wurde.
Die entscheidende Frage für jedes KMU, das ein lokales LLM betreibt, lautet nicht: Bin ich DSGVO-konform? Die lautet: Gilt mein System überhaupt als hochriskant nach Anhang III — und wenn ja, welche Pflichten zieht das nach sich?
Was Anhang III des EU AI Acts enthält
Anhang III listet acht Sektoren auf, in denen KI-Systeme als hochriskant eingestuft werden können:
- Biometrische Identifizierung und Kategorisierung
- Kritische Infrastruktur (Energie, Wasser, Verkehr)
- Bildung und Berufsausbildung (z. B. Prüfungsbewertung, Lernzielkontrolle)
- Beschäftigung und Personalverwaltung (Bewerbungsscreening, Beförderungsentscheidungen)
- Zugang zu wesentlichen Dienstleistungen (Kreditwürdigkeitsprüfung, Sozialleistungen)
- Strafverfolgung
- Migration und Asyl
- Rechtspflege und demokratische Prozesse
Die bloße Sektorzugehörigkeit genügt nicht. Das System muss zusätzlich ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte einer identifizierbaren natürlichen Person darstellen. Dieser Doppeltest ist der Kern der Mai-Leitlinien.
Die wichtigste Verschiebung in den Entwürfen vom Mai 2026
Gemäß unserem Verständnis der veröffentlichten Entwürfe operationalisieren die Leitlinien den Begriff „erhebliches Risiko" erstmals mit prüfbaren Kriterien:
- Autonomiegrad: Entscheidet das System allein und bindend, oder wirkt ein Mensch eigenverantwortlich mit?
- Reichweite: Betrifft die Ausgabe des Systems eine identifizierbare Einzelperson oder eine breit definierte Gruppe?
- Reversibilität: Können fehlerhafte Ausgaben einfach korrigiert werden, ohne materielle Konsequenzen für Betroffene?
- Sektor-Spezifität: Erfolgt der Einsatz tatsächlich in einem der acht Sektoren oder nur in einem verwandten Bereich?
Für die meisten KMU-Anwendungsfälle mit lokalen LLMs sind diese Kriterien aufschlussreich: Ein Modell, das interne Dokumente zusammenfasst oder häufige Kundenfragen beantwortet, hat weder hohen Autonomiegrad noch direkte Auswirkungen auf identifizierbare Einzelpersonen in sensitiven Lebensbereichen.
Welche lokalen KI-Anwendungen sind wahrscheinlich NICHT hochriskant
Basierend auf unserem Verständnis der Entwürfe fallen folgende typische KMU-Szenarien wahrscheinlich nicht unter Anhang III:
- Interne Dokumentensuche: Ollama plus Llama 3.3 oder Qwen 2.5, der Verträge, SOPs und E-Mails nach natürlicher Sprache durchsucht — kein Anhang-III-Sektor einschlägig
- Meeting-Protokoll mit lokalem Whisper: Automatische Transkription und Zusammenfassung ohne Entscheidungsfunktion
- Interner FAQ-Chatbot: Beantwortet Mitarbeiterfragen zu Urlaubsregelungen, IT-Prozessen oder Onboarding — kein Risiko für individuelle Rechte
- Textzusammenfassung und -klassifikation: Interne Kategorisierung von Kundenanfragen ohne Auswirkung auf Leistungsansprüche
In diesen Szenarien ist lokale KI nicht nur datenschutzrechtlich vorteilhaft — sie fällt auch aus dem Hochrisiko-Regime heraus.
Welche Anwendungen eine Einzelfallprüfung erfordern
Folgende Use Cases befinden sich nach unserem Verständnis im Graubereich und sollten rechtlich geprüft werden:
- Bewerbungsscreening mit automatischer Vorauswahl: Sektor Beschäftigung ist einschlägig; entscheidend ist, ob ein Mensch eigenverantwortlich urteilt oder das Modell faktisch selegiert
- Kreditwürdigkeitsvorprüfung: Sektor Zugang zu wesentlichen Dienstleistungen; auch ein lokales Modell auf eigenem Server greift hier ggf. in Grundrechte ein
- KI-gestützte Schulleistungsbewertung: Sektor Bildung; wenn das System Noten generiert oder Empfehlungen ausspricht, die direkt in Zeugnisse einfließen
Wichtig: Ob das Modell lokal oder in der Cloud läuft, ist für die Hochrisiko-Einstufung irrelevant. Ein Mac Studio, der Qwen 2.5 ausführt, ist kein hochriskantes System — aber eine Anwendung, die auf diesem Mac Studio läuft und automatisiert über Bewerbende entscheidet, kann es sein.
Praxischeckliste: Hochrisiko-Bewertung in vier Schritten
Diese Sequenz basiert auf unserem Verständnis der Leitlinienentwürfe und ersetzt keine individuelle Rechtsberatung:
Schritt 1 — Sektorzuordnung: Fällt die Funktion des Systems in einen der acht Anhang-III-Sektoren? (Wenn nein → kein Hochrisikosystem nach Anhang III, Ende der Prüfung.)
Schritt 2 — Risikocheck: Besteht ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte identifizierbarer Personen?
Schritt 3 — Autonomieprüfung: Trifft das System eigenständige Entscheidungen mit rechtlichen oder erheblichen persönlichen Folgen?
Schritt 4 — Ausnahmeprüfung: Greift Art. 6 Abs. 3 AI Act? Entscheidet ausschließlich ein Mensch auf Basis der KI-Ausgabe, trägt er dabei volle Verantwortung, und wird dies dokumentiert?
Wer alle vier Schritte abgearbeitet hat und zu einem Ja bei Schritt 1–3 gelangt, ohne dass Schritt 4 greift, sollte juristische Beratung einholen. Alle anderen können sich auf die allgemeinen Betreiberpflichten nach Art. 26 konzentrieren — dazu haben wir eine separate Checkliste veröffentlicht.
Was eine Hochrisiko-Einstufung bedeutet
Bestätigt sich der Hochrisikoverdacht, greifen die Pflichten aus Kapitel III des EU AI Acts. Für Betreiber — also KMU, die ein KI-System in einem eigenen Produkt oder Prozess einsetzen — bedeutet das konkret:
- Konformitätsbewertung (Art. 43)
- Technische Dokumentation nach Anhang IV (Art. 11)
- Menschliche Aufsicht gewährleisten und dokumentieren (Art. 14)
- Registrierung in der EU-KI-Datenbank (Art. 49)
- Nachmarktüberwachung und Vorfallsberichterstattung (Art. 72 ff.)
Der Aufwand ist erheblich. Für die Mehrheit der KMU, die lokale Modelle für interne Workflows nutzen, ist dieser Aufwand nach unserem Verständnis nicht einschlägig — was lokale KI für selbst entwickelte Anwendungen deutlich attraktiver macht als Cloud-basierte GPAI-Dienste mit pauschaler Hochrisikoeinstufung.
Zeitplan: Verschoben, aber nicht aufgehoben
Wie Rémy Schlich auf X festhält: „EU lawmakers have agreed to delay key obligations for high-risk AI systems under the EU AI Act. The revised timeline — now extending to 2027–2028." Die Vollzugsfristen für Hochrisiko-KI sind verschoben. Das bedeutet aber nicht, dass KMU jetzt nichts tun müssen.
Die Mai-Leitlinien operationalisieren die Hochrisiko-Definition erstmals rechtlich belastbar. KMU, die heute ihre Systeme einordnen, profitieren von zwei Vorteilen: Sie vermeiden Überraschungen bei der späteren Durchsetzung — und sie können das Pilotprojekt-Design von Anfang an compliance-gerecht gestalten, statt es nachträglich anzupassen.
Lassen Sie Ihre lokale KI einordnen
Unsicher, ob Ihre Anwendung unter Anhang III fällt? Wir helfen KMU dabei, Funktion, Autonomiegrad und Sektorzugehörigkeit zu prüfen und daraus einen klaren Handlungsrahmen abzuleiten — auf Basis der aktuellen Entwürfe, ohne unnötigen Compliance-Overhead. Sprechen Sie uns an.