Der EU AI Act ist wirtschaftsfreundlich und soll Innovationen fördern. Doch der Gesetzgeber zieht eine klare rote Linie: KI-Systeme, die fundamentale Grundrechte verletzen oder Menschen systematisch manipulieren, sind in der EU strikt verboten.
Diese Verbote sind in Artikel 5 geregelt. Sie greifen als allererste Maßnahme des Gesetzes – seit dem 2. Februar 2025. Bei Verstößen drohen die höchsten Strafen im gesamten AI Act.
Offizieller Gesetzestext zu Art. 5 – artificialintelligenceact.eu
Welche KI-Praktiken sind in der EU verboten?
Artikel 5 nennt Anwendungsfälle, die weder in Verkehr gebracht noch betrieben werden dürfen. Hier sind die wichtigsten Verbote für die Praxis:
1. Manipulative und täuschende KI (Art. 5 Abs. 1a & 1b)
KI, die Menschen unterschwellig manipuliert oder Schwächen (Alter, Behinderung) ausnutzt, um schädliches Verhalten zu provozieren.
2. Social Scoring (Art. 5 Abs. 1c)
Die Bewertung von Menschen basierend auf ihrem Sozialverhalten (wie in China), wenn dies zu ungerechtfertigter Benachteiligung führt.
3. KI zur Vorhersage von Straftaten (Art. 5 Abs. 1d)
„Predictive Policing“, das ausschließlich auf Profiling oder Persönlichkeitsmerkmalen basiert.
4. Emotionserkennung am Arbeitsplatz und in der Schule (Art. 5 Abs. 1f)
Unternehmen und Schulen dürfen keine KI nutzen, um Emotionen von Mitarbeitern oder Schülern abzuleiten (Ausnahme: Sicherheit/Medizin, z.B. Müdigkeitserkennung bei Fahrern).
5. Biometrische Kategorisierung (Art. 5 Abs. 1g)
Systeme, die Menschen anhand biometrischer Daten in Kategorien wie Ethnie, politische Meinung oder sexuelle Orientierung einteilen.
6. Gesichtserkennung im öffentlichen Raum (Art. 5 Abs. 1h)
Die biometrische Fernidentifizierung in Echtzeit in öffentlich zugänglichen Räumen ist verboten (mit sehr engen Ausnahmen ausschließlich für Strafverfolgungsbehörden bei Terror- oder Entführungsgefahr).
Was bedeutet das für Unternehmen?
Für die meisten Unternehmen im DACH-Raum sind diese Praktiken ohnehin ethisch und datenschutzrechtlich (DSGVO) Tabu.
Aber Vorsicht
Besonders im HR-Bereich oder bei der Produktivitätsmessung müssen Sie prüfen, welche Funktionen eingekaufte Software von Drittanbietern im Hintergrund ausführt. Wenn z. B. eine US-Videokonferenz-Software plötzlich mit einem „Emotion-Tracking-Feature“ (Wer ist im Meeting gestresst oder gelangweilt?) wirbt, dürfen Sie dieses in der EU nicht nutzen.
Wissen Ihre Mitarbeiter, welche Tools sie rechtssicher nutzen dürfen?
Die Sensibilisierung für solche Risiken ist Teil der gesetzlichen KI-Kompetenzpflicht nach Art. 4. Erfahren Sie hier mehr über unsere Kompaktschulungen inkl. Zertifikat:
