Welche KI-Anwendungen sind in der EU rundheraus verboten? Seit dem 2. Februar 2025 zählt Artikel 5 des EU AI Act acht Praktiken auf, die kein Unternehmen einsetzen darf, unabhängig von Risikoklasse, Branche oder Größe. Zwei davon treffen ganz normale Betriebe, die sich nie als Hochrisiko-Fall gesehen hätten.
Stand: 2026-09-01
Die meiste Aufmerksamkeit im AI Act gilt den Hochrisiko-Pflichten und den Transparenzregeln aus Artikel 50. Artikel 5 läuft daneben oft unter dem Radar, dabei ist er der schärfste Teil der Verordnung. Hier geht es nicht um Dokumentation oder Kennzeichnung, sondern um ein glattes Verbot. Wer eine dieser Praktiken einsetzt, hat keinen Weg zur Konformität, sondern muss sie abstellen.
Seit wann die Verbote gelten
Artikel 5 ist am 2. Februar 2025 in Kraft getreten, zusammen mit den Regeln zur KI-Kompetenz aus Artikel 4. Das ergibt sich aus der Verordnung (EU) 2024/1689, dem AI Act selbst. Die Aufsichts- und Sanktionsbefugnisse folgten ein halbes Jahr später, seit dem 2. August 2025 können die Behörden Bußgelder verhängen.
Zwei Tage nach Inkrafttreten, am 4. Februar 2025, hat die Europäische Kommission Leitlinien zu den verbotenen Praktiken veröffentlicht. Sie sind rechtlich nicht bindend, liefern aber Beispiele und Abgrenzungen und sollen die Auslegung in den Mitgliedstaaten vereinheitlichen. Wer eine Grenzfrage hat, findet dort mehr als im nackten Verordnungstext.
Die acht verbotenen Praktiken
Gemäß unserem Verständnis des Verordnungstexts umfasst Artikel 5 Absatz 1 diese Fälle:
- Unterschwellige, manipulative oder täuschende Techniken, die das Verhalten so beeinflussen, dass ein erheblicher Schaden entsteht.
- Das Ausnutzen von Schwächen aufgrund von Alter, Behinderung oder sozialer und wirtschaftlicher Lage.
- Social Scoring, also die Bewertung von Menschen nach ihrem Verhalten, wenn sie zu einer benachteiligenden Behandlung in einem fremden Kontext führt.
- Die Vorhersage von Straftaten allein auf Basis von Profiling einer Person.
- Das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen, um Datenbanken zur Gesichtserkennung aufzubauen.
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen.
- Biometrische Kategorisierung, die auf sensible Merkmale wie ethnische Herkunft, politische Meinung, Gewerkschaftszugehörigkeit oder sexuelle Orientierung schließt.
- Biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken, mit eng gefassten Ausnahmen.
Die letzten beiden Punkte betreffen vor allem Behörden. Der Rest ist näher an der Wirtschaft, als es auf den ersten Blick wirkt.
Die zwei Verbote, die normale Betriebe treffen
Am häufigsten stolpern Unternehmen über zwei Punkte aus der Liste.
Der erste ist die Emotionserkennung am Arbeitsplatz. Manche Callcenter-Software wirbt damit, aus Stimme und Sprechtempo den Gefühlszustand von Mitarbeitenden abzuleiten, um die Gesprächsqualität zu bewerten. Manche Meeting-Werkzeuge versprechen, aus Kamerabildern Aufmerksamkeit oder Stimmung zu messen. Beides fällt gemäß unserem Verständnis unter das Verbot aus Artikel 5 Absatz 1 Buchstabe f, sobald es sich gegen die eigene Belegschaft richtet. Die Ausnahme für medizinische oder Sicherheitszwecke ist eng: ein Müdigkeitswarner im Cockpit ist etwas anderes als ein Produktivitäts-Dashboard im Großraumbüro.
Der zweite ist die biometrische Kategorisierung. Ein System, das aus einem Gesicht oder der Stimme auf Herkunft, Religion oder politische Haltung schließt, ist verboten, wenn es diese sensiblen Merkmale ableitet. Das klingt exotisch, steckt aber in mancher Analyse-Software für Bewerber oder Kunden, oft ohne dass der Betrieb weiß, was das Werkzeug im Hintergrund tut.
In Deutschland kommt ein praktischer Punkt dazu: Systeme, die das Verhalten von Beschäftigten auswerten, sind mitbestimmungspflichtig. Der Betriebsrat sitzt bei solchen Werkzeugen ohnehin am Tisch, und ein System, das gegen Artikel 5 verstößt, ist auch arbeitsrechtlich kaum durchsetzbar.
Verbot oder nur Kennzeichnung?
Hier lohnt die Abgrenzung zu Artikel 50, weil beide dieselben Techniken nennen und doch etwas völlig anderes verlangen. Artikel 50 Absatz 3 sagt: Wer ein System zur Emotionserkennung oder zur biometrischen Kategorisierung betreibt, muss die betroffenen Personen darüber informieren. Das klingt so, als sei Emotionserkennung erlaubt, solange man sie offenlegt. Für den Arbeitsplatz gilt das aber nicht. Dort greift die schärfere Regel aus Artikel 5, und die kennt keine Rettung durch Transparenz. Ein Hinweis an die Belegschaft macht ein verbotenes System nicht zulässig, er dokumentiert nur den Verstoß.
Praktisch heißt das: Die Transparenzpflicht aus Artikel 50 betrifft die Fälle, in denen Emotions- oder Biometrie-Systeme überhaupt erlaubt sind, etwa gegenüber Kunden in einem zulässigen Zusammenhang. Sobald sich dasselbe System gegen die eigenen Mitarbeitenden richtet, ist nicht die Kennzeichnung das Thema, sondern das Verbot.
Was der Digital Omnibus ergänzt hat
Der Digital Omnibus, Verordnung (EU) 2026/1744, wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und ist am 27. Juli 2026 in Kraft getreten. Er hat die Fristen für Hochrisiko-Systeme nach hinten geschoben, an den bestehenden acht Verboten aber nichts geändert. Sie gelten unverändert seit Februar 2025 weiter.
Neu ist ein zusätzliches Verbot, das gemäß den vorliegenden Kanzlei-Analysen ab dem 2. Dezember 2026 greift: KI-Systeme, die auf die Erzeugung von Darstellungen sexuellen Kindesmissbrauchs oder nicht einvernehmlichem Intimmaterial gerichtet sind. Das trifft nicht nur eigens gebaute Werkzeuge, sondern auch Anbieter allgemeiner generativer KI, die keine angemessenen Schutzvorkehrungen treffen. Für die meisten Betriebe ist das keine unmittelbare Handlungspflicht, aber es zeigt die Richtung: die Liste der roten Linien wächst, sie schrumpft nicht.
Was bei Verstößen droht
Verbotene Praktiken liegen im obersten Bußgeldrahmen des AI Act. Gemäß Artikel 99 der Verordnung drohen bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes, je nachdem welcher Betrag höher ist. Zum Vergleich: für Verstöße gegen die meisten anderen Pflichten liegt der Rahmen bei bis zu 15 Millionen Euro oder 3 Prozent. Artikel 5 ist also die teuerste Kategorie, und die Sanktionsbefugnis besteht seit dem 2. August 2025.
Ob eine nationale Behörde die Obergrenze ausschöpft, hängt vom Einzelfall ab, und die Zahlen sind Höchstwerte, keine Regelstrafe. Aber die Größenordnung macht klar, dass Artikel 5 keine Formalie ist.
Was das für lokale KI bedeutet
Ein verbreiteter Irrtum: Wer das System selbst betreibt, sei aus dem Schneider. Das stimmt nicht. Eine verbotene Praktik bleibt verboten, egal ob sie in der Cloud oder auf dem eigenen Server läuft. Lokale KI verschiebt nicht die rote Linie, sie verschiebt nur, wer die Kontrolle hat.
Und genau da liegt der praktische Vorteil. Wer die Modelle und die Datenflüsse im Haus hat, kann prüfen und belegen, was das System tut und was nicht. Bei einer zugekauften Cloud-Analyse steht im Datenblatt selten, ob im Hintergrund Emotionen abgeleitet oder biometrische Merkmale kategorisiert werden. Ein Aufbau, den Sie selbst konfigurieren, macht die Frage nach Artikel 5 zu einer Frage Ihrer eigenen Einstellungen statt einer Blackbox. Das ist der Kern von Datensouveränität, und es ist der Grund, warum wir Compliance und lokale Technik zusammen denken.
Konkrete Schritte
Für die meisten KMU lässt sich Artikel 5 auf eine Bestandsaufnahme herunterbrechen. Gehen Sie Ihre KI-Werkzeuge durch und stellen Sie drei Fragen: Leitet eines davon Emotionen von Mitarbeitenden oder Kunden ab? Schließt eines aus Gesicht oder Stimme auf sensible Merkmale? Bewertet eines Menschen nach ihrem Verhalten und nutzt das Ergebnis in einem fremden Zusammenhang? Bei einem klaren Ja gehört das Werkzeug abgestellt oder umkonfiguriert, nicht dokumentiert.
Achten Sie besonders auf Zusatzfunktionen, die als Produktivitäts- oder Qualitätsanalyse verkauft werden. Dort verstecken sich die Emotions- und Biometrie-Features am ehesten. Wer die Transparenzpflichten aus Artikel 50 schon geprüft hat, findet in unserem Beitrag zu den Transparenzpflichten für lokale KI die Einordnung dazu.
Diese Darstellung ist unser Verständnis der aktuellen Rechtslage und ersetzt keine Prüfung Ihres konkreten Falls. Wenn Sie wissen wollen, welche Ihrer Systeme betroffen sind und wie ein prüffester, lokaler Aufbau aussieht, sprechen Sie mit uns über ein Pilotprojekt.
Häufige Fragen
Ist Emotionserkennung am Arbeitsplatz in der EU verboten?
Ja. Artikel 5 Absatz 1 Buchstabe f des EU AI Act untersagt seit dem 2. Februar 2025 KI-Systeme, die Emotionen von Beschäftigten am Arbeitsplatz ableiten. Ausnahmen gelten nur aus medizinischen oder Sicherheitsgründen.
Wie hoch sind die Strafen für verbotene KI-Praktiken?
Bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes, je nachdem was höher ist. Das ist der höchste Bußgeldrahmen des AI Act und gilt gemäß Artikel 99 seit dem 2. August 2025.
Schützt lokale KI vor dem Verbot aus Artikel 5?
Nein. Eine verbotene Praktik bleibt verboten, egal ob das System in der Cloud oder auf dem eigenen Server läuft. Der Betriebsort ändert an der Einstufung nichts.
Was hat der Digital Omnibus an Artikel 5 geändert?
Er ergänzt ab dem 2. Dezember 2026 ein zusätzliches Verbot: KI-Systeme zur Erzeugung von Missbrauchsdarstellungen und nicht einvernehmlichem Intimmaterial. Die acht bestehenden Verbote bleiben unverändert.