825 Millionen Euro für Uber: was das Bußgeld über automatisierte Entscheidungen lehrt

Am 21. August 2026 hat die niederländische Autoriteit Persoonsgegevens gegen Uber ein Bußgeld von 825 Millionen Euro verhängt. Höher war bisher nur die Strafe gegen Meta von 2023. Der Grund ist kein Datenleck und kein Drittlandtransfer, sondern etwas, das in vielen Betrieben gerade eingeführt wird: automatisierte Entscheidungen über Menschen.

Was Uber getan hat

Zwischen 2020 und 2022 hat Uber Fahrerkonten automatisch deaktiviert. Auslöser waren Betrugsverdacht oder schlechte Kundenbewertungen, bei anhaltend niedrigen Bewertungen dauerhaft. Die Behörde hat zwei Dinge festgestellt: Die Fahrer wurden nicht ausreichend darüber informiert, wie diese Entscheidungen zustande kamen. Und es fehlte eine bedeutsame menschliche Beteiligung bei Entscheidungen mit erheblichen Folgen. Das ist der Kern von Art. 22 DSGVO: Niemand darf einer Entscheidung unterworfen werden, die ausschließlich automatisiert getroffen wird und ihn erheblich beeinträchtigt, wenn nicht Vertrag, Gesetz oder ausdrückliche Einwilligung sie erlauben und wirksame Schutzmaßnahmen bestehen.

Uber hält die Summe für unverhältnismäßig und geht in Berufung. Die Feststellungen zum Verfahren stehen trotzdem im Raum, und sie sind die eigentliche Lehre.

„Ein Mensch schaut drüber" reicht nicht

Die Behörde hat nicht gesagt, dass kein Mensch beteiligt war. Sie hat gesagt, dass die Beteiligung nicht bedeutsam war. Das ist der Punkt, an dem viele Systeme scheitern:

• Der Mitarbeiter sieht den Score, aber nicht die Gründe. Er kann nicht widersprechen, weil er nichts weiß.
• Der Mitarbeiter hat 200 Fälle am Tag und drückt in 199 Fällen auf „bestätigen". Das ist keine Prüfung, das ist ein Klick.
• Der Mitarbeiter hat formal die Befugnis, abzuweichen, aber niemand hat es je getan, und das System sieht die Abweichung nicht vor.

Ein Mensch in der Schleife heißt: Er kennt die Faktoren, hat Zeit, hat die Befugnis und nutzt sie nachweisbar.

Wo das im Mittelstand vorkommt

Uber ist groß, das Muster ist klein und überall:

• Bewerber-Vorsortierung. Die KI sortiert 80 Prozent aus, ein Mensch sieht nur die restlichen 20. Die Absage an die 80 ist eine automatisierte Entscheidung.
• Kunden-Sperren. Zahlungsverzug, Retourenquote, Betrugsscore: Das Konto wird gesperrt, die Mail geht automatisch raus.
• Lieferanten-Bewertung. Ein Score entscheidet über die Auftragsvergabe.
• Kredit und Ratenzahlung im Shop. Ein externer Score sagt nein, der Kunde bekommt nur die Vorkasse angezeigt.
• Support-Priorisierung. Wer als „geringer Wert" eingestuft wird, wartet länger. Auch das kann erheblich sein.

Die Rechtsprechung dazu wird gerade konkreter. Das OLG Schleswig hat im Februar entschieden, dass Betroffene nicht die Offenlegung des kompletten Algorithmus verlangen können, wohl aber Transparenz über Datenkategorien und Entscheidungslogik, und dass ein Unternehmen den tatsächlichen menschlichen Entscheidungsspielraum dokumentieren muss. Genau daran fehlte es bei Uber.

Die vier Fragen vor jedem automatisierten Nein

1. Hat die Entscheidung erhebliche Wirkung? Kein Vertrag, kein Job, kein Konto mehr: ja. Ein anderer Newsletter: nein.
2. Gibt es eine Rechtsgrundlage nach Art. 22 Abs. 2? Vertragserfüllung, gesetzliche Erlaubnis oder ausdrückliche Einwilligung. „Berechtigtes Interesse" ist hier keine.
3. Ist der Mensch bedeutsam beteiligt? Sieht er die Gründe, hat er Zeit, darf er abweichen, tut er es manchmal? Wenn die Abweichungsquote null ist, ist der Mensch Dekoration.
4. Weiß der Betroffene Bescheid? Information vorher (Art. 13), Auskunft über die Logik auf Anfrage (Art. 15), Möglichkeit, den eigenen Standpunkt darzulegen und die Entscheidung anzufechten.

Und der AI Act?

Bewerber-Bewertung und Kreditwürdigkeitsprüfung sind zusätzlich Hochrisiko nach Anhang III des EU AI Act. Die Pflichten dafür gelten durch den KI-Omnibus erst ab 2. Dezember 2027. Art. 22 DSGVO gilt seit 2018, und der Uber-Bescheid beweist, dass er durchgesetzt wird. Wer mit dem Omnibus-Aufschub argumentiert, argumentiert am falschen Gesetz.

Kurz gesagt: Automatisierung darf vorschlagen, sortieren, priorisieren. Sobald sie über Menschen entscheidet, braucht sie einen Menschen, der wirklich entscheidet, und einen Betroffenen, der weiß, warum. Beides kostet Prozess, nicht Technik. Die Alternative kostete Uber 825 Millionen. Wie ein Freigabeschritt in der Praxis aussieht, zeigt der Artikel zur Belegerfassung mit Vier-Augen-Prinzip.