Soll der Einsatz künstlicher Intelligenz bei Entscheidungen über Beschäftigung, Kreditvergabe und staatliche Leistungen strenger reguliert werden?

Seit dem 01.08.2024 ist die KI-Verordnung der EU in Kraft, ihre Regeln greifen schrittweise. Sie stuft Systeme als hochriskant ein, die Bewerbungen sichten, Bewerber bewerten, über Beförderungen und Kündigungen mitentscheiden oder Leistung und Verhalten von Beschäftigten überwachen. Hochriskant sind auch Systeme, die die Kreditwürdigkeit von Menschen bewerten, und Systeme, mit denen Behörden prüfen, ob jemand Anspruch auf staatliche Unterstützungsleistungen hat. Ein solches System gilt ausnahmsweise nicht als hochriskant, wenn es das Ergebnis einer Entscheidung nicht wesentlich beeinflusst, etwa weil es nur eine vorbereitende Aufgabe erledigt. Das schätzt der Anbieter selbst ein. Er muss seine Einschätzung dokumentieren und das System registrieren. Wertet das System persönliche Merkmale eines Menschen aus, um ihn zu bewerten, bleibt es immer hochriskant. Seit dem 02.02.2025 sind Systeme verboten, die am Arbeitsplatz Emotionen von Menschen erkennen sollen, außer aus medizinischen Gründen oder Sicherheitsgründen. ^[1]

Für hochriskante Systeme verlangt die Verordnung unter anderem ein Risikomanagement, Trainingsdaten, die repräsentativ und möglichst fehlerfrei sind, eine technische Dokumentation und menschliche Aufsicht. Ob das erfüllt ist, prüft der Anbieter selbst. Eine unabhängige Prüfstelle ist nicht vorgeschrieben. Arbeitgeber müssen Arbeitnehmervertreter und Beschäftigte vor dem Einsatz informieren. Behörden, die solche Systeme einsetzen, und Unternehmen, die mit ihnen die Kreditwürdigkeit prüfen, müssen vorher abschätzen, wie sich das System auf Grundrechte auswirkt. Bei Verstößen drohen Bußgelder bis 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für kleinere Unternehmen gilt der niedrigere Betrag. ^[1][2] Diese Pflichten sollten ab dem 02.08.2026 gelten. Mit einer Verordnung vom 08.07.2026 hat die EU sie auf den 02.12.2027 verschoben. Als Grund nennt sie, dass technische Normen, Leitlinien und nationale Behörden nicht rechtzeitig bereitstanden. Die Liste der Hochrisiko-Bereiche blieb unverändert. Systeme, die vor diesem Stichtag auf den Markt kommen oder in Betrieb gehen, fallen nur unter die Regeln, wenn sie danach erheblich verändert werden. Solche älteren Systeme, die Behörden nutzen sollen, müssen die Regeln spätestens ab dem 02.08.2030 erfüllen. ^[2]

In Deutschland überwacht seit dem 29.07.2026 die Bundesnetzagentur, ob die KI-Verordnung eingehalten wird. Setzen Banken oder Versicherer KI für ihre beaufsichtigten Geschäfte ein, ist die Finanzaufsicht BaFin zuständig. Für Behörden der Länder sind Landesbehörden zuständig. Gegen Behörden und andere öffentliche Stellen von Bund und Ländern werden keine Bußgelder verhängt. ^[3]

Die KI-Verordnung erlaubt den Staaten, Regeln beizubehalten oder einzuführen, die Beschäftigte beim Einsatz von KI durch Arbeitgeber besser schützen. ^[1] In Deutschland bestimmt der Betriebsrat mit, wenn ein Arbeitgeber technische Einrichtungen einführt, die Leistung oder Verhalten überwachen sollen. Das gilt auch für Richtlinien zur Personalauswahl, wenn bei ihrer Aufstellung künstliche Intelligenz eingesetzt wird. ^[4][5] Für Menschen, die über Online-Plattformen arbeiten, verbietet eine EU-Richtlinie unter anderem, mit automatisierten Systemen ihren emotionalen Zustand oder private Gespräche auszuwerten. Deutschland muss sie bis zum 02.12.2026 umsetzen. ^[6]

Für Bonitätswerte gelten zusätzlich Regeln des Datenschutzes. Ein Gesetz vom 12.05.2026 regelt dieses sogenannte Scoring in Deutschland neu. Ab dem 20.11.2026 dürfen in solche Werte unter anderem Alter, Geschlecht, Name, Anschrift, Gesundheitsdaten, Daten aus sozialen Netzwerken und Kontobewegungen nicht einfließen. Für Minderjährige dürfen keine solchen Werte erstellt werden. ^[7]

2025 nutzten nach Angaben des Statistischen Bundesamtes 26 Prozent der Unternehmen mit mindestens zehn Beschäftigten künstliche Intelligenz, bei Unternehmen mit mehr als 250 Beschäftigten 57 Prozent. ^[8] Weitere 20 Prozent hatten den Einsatz erwogen, nutzten KI aber nicht. Von ihnen nannten 72 Prozent fehlendes Wissen als Grund, 62 Prozent unklare rechtliche Folgen und 60 Prozent Bedenken beim Datenschutz. ^[9]

Dies ist ein Stimmungsbild unserer Leserinnen und Leser, keine repräsentative Umfrage. Wer abstimmt, entscheidet selbst, ob er teilnimmt. Das Ergebnis sagt deshalb nicht, was alle Menschen in Deutschland denken.

Abstimmen können Sie einmal am Tag, ohne Anmeldung und ohne E-Mail-Adresse. Dafür merkt sich Ihr Browser den Tag Ihrer Stimme, und je Internetanschluss zählen wir am Tag höchstens 20 Stimmen. Gespeichert wird nur, wie viele Stimmen jede Antwort hat. Wer wie abgestimmt hat, speichern wir nicht.

Während die Abstimmung läuft, zeigen wir nur die Anteile, und zwar ab 50 Stimmen; vorher wäre ein Zwischenstand Zufall. Die Zahl der Stimmen geben wir am Ende der Abstimmung bekannt.

Wer es darauf anlegt, kann die Sperre umgehen, etwa mit einem zweiten Gerät. Ganz ausschließen lässt sich Manipulation bei offenen Online-Abstimmungen nicht.