Die niederländische Datenschutzbehörde AP hat Uber wegen unzulässiger automatisierter Entscheidungen mit einem Bußgeld von 824,99 Millionen Euro belegt. Uber hatte zwischen 2018 und 2022 Software eingesetzt, die das Fahrverhalten und Kundenbewertungen analysierte. Auf dieser Grundlage konnten Fahrer automatisch gesperrt werden, ohne dass eine wirksame menschliche Prüfung stattfand.

 

Die Sperrungen hatten erhebliche finanzielle Folgen, da die betroffenen Fahrer keine Fahrten mehr über Uber anbieten konnten. Nach Ansicht der AP verstieß dieses Vorgehen gegen Artikel 22 DSGVO. Uber hatte weder eine ausreichende Rechtsgrundlage noch die erforderliche Einwilligung oder angemessene Schutzmaßnahmen vorgesehen. 
Zudem wurden die Fahrer nicht ausreichend über die automatisierten Entscheidungsprozesse informiert. 

 

Für Unternehmen bedeutet der Fall, dass automatisierte Systeme und KI bei Entscheidungen mit erheblichen Auswirkungen nicht allein eingesetzt werden dürfen. 
Erforderlich sind insbesondere Transparenz, eine rechtmäßige Grundlage, Datenschutz-Folgenabschätzungen und eine tatsächlich wirksame menschliche Kontrolle.