← Vetro Attest · KI-Bußgeldrechner · Hochrisiko-Check · Dokumentenpaket
KI-Verordnung Art. 5: Verbotene Praktiken
*Technische Orientierung, keine Rechtsberatung.*
Art. 5 gilt seit 2. Februar 2025 und ist die einzige Stelle der KI-Verordnung, die bestimmte Anwendungen nicht reguliert, sondern schlicht verbietet. Ein Verstoß kostet bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Art. 99).
Die acht Verbote
| Verboten | Typisches Beispiel |
|---|---|
| Unterschwellige oder manipulative Techniken, die Entscheidungen erheblich verzerren und Schaden verursachen | Ein Verkaufsagent, der gezielt Druck aufbaut, bis der Kunde gegen sein Interesse kauft |
| Ausnutzen von Schwächen wegen Alter, Behinderung oder sozialer Lage | Aggressive Kreditangebote an Menschen in finanzieller Notlage |
| Social Scoring mit Nachteilen in fremdem Kontext oder unverhältnismäßiger Behandlung | Bewertung von Mietern nach ihrem Verhalten in sozialen Netzwerken |
| Vorhersage von Straftaten allein aufgrund von Profiling | Risikowert für Personen ohne objektive Tatsachen |
| Ungezieltes Auslesen von Gesichtsbildern aus Internet oder Videoüberwachung für Gesichtsdatenbanken | Scraping von Profilbildern für Erkennungsdienste |
| Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen | Stimmungsanalyse von Callcenter-Mitarbeitenden |
| Biometrische Kategorisierung nach sensiblen Merkmalen | Ableitung von politischer Meinung, Religion oder sexueller Orientierung aus Fotos |
| Biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zur Strafverfolgung | nur mit engen Ausnahmen und richterlicher Genehmigung |
Wo Unternehmen tatsächlich stolpern
Die offensichtlichen Fälle (Social Scoring) betreffen kaum ein deutsches Unternehmen. Kritisch sind die Randbereiche:
- Emotionserkennung im Kundenservice: Die Analyse von *Kunden*stimmung ist nicht nach Art. 5 verboten, die von *Mitarbeitenden* schon. Ein Tool, das beides tut, muss sauber getrennt werden. Ausnahmen gibt es nur aus medizinischen oder Sicherheitsgründen.
- Agenten mit Überzeugungsauftrag: Ein Vertriebs- oder Retention-Agent, dessen Prompt auf maximale Abschlussquote optimiert, kann in Richtung Manipulation rutschen. Ob das passiert, sieht man nur in den Protokollen seiner tatsächlichen Gespräche.
- Zugekaufte Systeme: Das Verbot trifft auch Betreiber. "Der Anbieter hat gesagt, das ist konform" schützt nicht.
Was als Nachweis taugt
Für verbotene Praktiken gibt es kein Konformitätsverfahren. Wer geprüft wird, muss zeigen, was das System tatsächlich getan hat, nicht was es tun sollte. Dafür braucht es Protokolle, die nachträglich nicht verändert werden können: jeden Modellaufruf, jeden Tool-Aufruf, jede Policy-Entscheidung, verkettet und signiert. Eine Policy-Regel, die bestimmte Muster (etwa Druckformulierungen oder Auswertung von Mitarbeiterstimmung) blockiert, und ein Protokoll, das jede Blockierung festhält, sind der stärkste Beleg, dass ein Verbot nicht nur auf dem Papier eingehalten wurde.
Nächster Schritt
Prüfen Sie mit dem Hochrisiko-Check, in welche Kategorie Ihr System fällt, und rechnen Sie mit dem KI-Bußgeldrechner Ihr Risiko für Ihren Umsatz durch.
Wie hoch wäre das Bußgeld in Ihrem Fall? Kostenlos im KI-Bußgeldrechner berechnen. Grundrechte-Folgenabschätzung (Art. 27), Entwurf der technischen Dokumentation (Anhang IV), KI-Kompetenzplan (Art. 4) und Hinweise nach Art. 50, aus Ihren Angaben erstellt und signiert: das EU-AI-Act-Dokumentenpaket auf Deutsch für 99 USD.