Uber-boete: wat betekent dit voor jouw geautomatiseerde processen?

Vorige week legde de Autoriteit Persoonsgegevens (AP) een boete van 825 miljoen euro op aan Uber. De reden: Uber gebruikte software om het gedrag van chauffeurs te beoordelen. Bij een vermoeden van fraude of te lage klantbeoordelingen werd het account automatisch uitgeschakeld. Zonder dat er een mens naar keek.

De AP stelt dat dit in strijd is met de AVG. Die wet verbiedt volledig geautomatiseerde besluitvorming die grote gevolgen heeft voor mensen. Een computer mag niet zelfstandig beslissen over iets als je inkomen. Eerst moet een mens ernaar kijken.

Wat betekent dit voor jouw MKB?

Misschien denk je: zo werkt mijn bedrijf niet. Maar veel MKB-bedrijven automatiseren processen zonder erbij stil te staan. Denk aan een sollicitatieprocedure die automatisch kandidaten afwijst. Of een systeem dat klanten blokkeert op basis van betaalgedrag. Dat kan al onder dezelfde regels vallen.

• Een computer die automatisch een besluit neemt met grote gevolgen is verboden.
• Dat geldt ook als het systeem alleen maar een aanbeveling doet en een mens de knoop doorhakt.
• Je moet mensen duidelijk informeren over automatische besluitvorming.

Wat kun je morgen doen?

Loop je processen na. Waar neemt software beslissingen zonder menselijke controle? Denk aan goedkeuringen, afwijzingen of blokkades. Zet daar een controle tussen. Een simpele stap: laat een medewerker een melding krijgen voordat het besluit definitief is.

En informeer je klanten of medewerkers. Vertel dat je systemen gebruikt en hoe die werken. Zo voorkom je verrassingen achteraf. De AP kijkt niet alleen naar grote techbedrijven. Ook kleinere organisaties kunnen op de bon gaan.