Sollen Bürger ein gesetzlich abgesichertes Recht auf eine nachvollziehbare menschliche Überprüfung wesentlicher automatisierter Entscheidungen erhalten?

Nach der Datenschutz-Grundverordnung der EU muss niemand eine Entscheidung hinnehmen, die ausschließlich automatisiert zustande kommt und ihm gegenüber rechtliche Wirkung hat oder ihn ähnlich erheblich beeinträchtigt. Ausnahmen gelten, wenn die Entscheidung für einen Vertrag erforderlich ist, ein Gesetz sie erlaubt oder die Person ausdrücklich eingewilligt hat. Bei Verträgen und Einwilligungen muss das Unternehmen mindestens drei Rechte gewähren: das Eingreifen einer Person zu erwirken, den eigenen Standpunkt darzulegen und die Entscheidung anzufechten. Erlaubt ein Gesetz die Entscheidung, sind diese Rechte nicht vorgeschrieben. Das Gesetz muss dann eigene Schutzmaßnahmen enthalten. Betroffene können außerdem aussagekräftige Informationen über die Logik der Entscheidung verlangen. ^[1] Der Europäische Gerichtshof entschied am 07.12.2023, dass schon die Berechnung eines Bonitätswerts durch eine Auskunftei wie die SCHUFA eine solche Entscheidung sein kann. Voraussetzung ist, dass etwa Banken dem Wert eine maßgebliche Rolle bei der Kreditvergabe beimessen. ^[2] Am 27.02.2025 entschied er, dass Betroffene nachvollziehen können müssen, welche ihrer Daten wie verwendet wurden. Die bloße Übermittlung eines Algorithmus genügt nicht. ^[3]

Nach dem Verwaltungsverfahrensgesetz dürfen Behörden einen Bescheid nur dann vollständig automatisch erlassen, wenn eine Rechtsvorschrift das zulässt und das Gesetz der Behörde keinen Entscheidungsspielraum lässt. Macht ein Bürger Angaben, die für seinen Fall wichtig sind und die das automatische Verfahren nicht erfasst, muss die Behörde sie berücksichtigen. ^[4] Im Sozialrecht und bei Steuern gilt eine eigene Regel. Dort darf ein Bescheid vollständig automatisch ergehen, wenn kein Anlass besteht, den Fall durch einen Beschäftigten der Behörde bearbeiten zu lassen. ^[5][6] Bei der Steuer besteht ein solcher Anlass insbesondere, wenn der Steuerpflichtige ein dafür vorgesehenes Feld der Steuererklärung ausfüllt. ^[6] 2024 wurden nach Angaben der Bundesregierung 16,7 Prozent der Einkommensteuerveranlagungen vollständig automatisch erledigt, 2022 waren es 12,9 Prozent. ^[7] Mit Widerspruch, Einspruch oder Klage können Bürger einen Bescheid je nach Rechtsgebiet erneut prüfen lassen. ^[6][8]

Für das sogenannte Scoring gelten ab dem 20.11.2026 neue Regeln im Bundesdatenschutzgesetz. Ein Scorewert schätzt etwa, wie wahrscheinlich jemand seine Rechnungen bezahlt. Ausschließlich automatisierte Entscheidungen mit solchen Werten erlaubt das Gesetz unter Bedingungen. Betroffene können eine solche Entscheidung anfechten, ihren Standpunkt darlegen und die Entscheidung durch einen Menschen verlangen. Prüft ein Kreditgeber die Kreditwürdigkeit für einen Verbraucherkredit automatisiert, kann der Kunde das Eingreifen einer Person verlangen. Dazu gehören eine verständliche Erläuterung und die Überprüfung der Entscheidung durch den Kreditgeber. ^[9]

Die KI-Verordnung der EU gibt Betroffenen ein Recht auf Erläuterung, wenn eine Entscheidung auf einem Hochrisiko-KI-System beruht und rechtliche Folgen hat oder sie ähnlich erheblich beeinträchtigt. Dazu zählen etwa Systeme, die Bewerbungen sichten, die Kreditwürdigkeit prüfen oder Ansprüche auf staatliche Leistungen beurteilen. Der Betreiber muss die Rolle des KI-Systems und die wichtigsten Elemente der Entscheidung erläutern. Ein Recht auf Überprüfung durch einen Menschen enthält diese Vorschrift nicht. ^[10] Die EU hat die Anforderungen an solche Systeme vom 02.08.2026 auf den 02.12.2027 verschoben. Für Systeme, die vor diesem Tag auf den Markt kommen oder in Betrieb gehen, gilt die Verordnung samt dem Recht auf Erläuterung nur, wenn sie danach erheblich verändert werden. Systeme für Behörden müssen die Regeln spätestens ab dem 02.08.2030 erfüllen. ^[11]

Die EU-Kommission schlug am 19.11.2025 vor, ausschließlich automatisierte Entscheidungen unter den bisherigen drei Bedingungen in der Datenschutz-Grundverordnung ausdrücklich zu erlauben. Bei Verträgen soll es nicht darauf ankommen, ob die Entscheidung auch anders als automatisiert getroffen werden könnte. Den Absatz über das Recht, das Eingreifen einer Person zu erwirken, ändert der Vorschlag nicht. ^[12] Im Europäischen Parlament liegt der Vorschlag am 14.10.2026 noch in den Ausschüssen. ^[13]

Dies ist ein Stimmungsbild unserer Leserinnen und Leser, keine repräsentative Umfrage. Wer abstimmt, entscheidet selbst, ob er teilnimmt. Das Ergebnis sagt deshalb nicht, was alle Menschen in Deutschland denken.

Abstimmen können Sie einmal am Tag, ohne Anmeldung und ohne E-Mail-Adresse. Dafür merkt sich Ihr Browser den Tag Ihrer Stimme, und je Internetanschluss zählen wir am Tag höchstens 20 Stimmen. Gespeichert wird nur, wie viele Stimmen jede Antwort hat. Wer wie abgestimmt hat, speichern wir nicht.

Während die Abstimmung läuft, zeigen wir nur die Anteile, und zwar ab 50 Stimmen; vorher wäre ein Zwischenstand Zufall. Die Zahl der Stimmen geben wir am Ende der Abstimmung bekannt.

Wer es darauf anlegt, kann die Sperre umgehen, etwa mit einem zweiten Gerät. Ganz ausschließen lässt sich Manipulation bei offenen Online-Abstimmungen nicht.