Finance-editie

De Autoriteit Persoonsgegevens heeft Uber een boete opgelegd van meer dan 800 miljoen euro. De reden: Uber zette chauffeurs volledig geautomatiseerd uit het systeem, zonder dat een mens ernaar keek. Volgens de toezichthouder is dit een van de grootste AVG-boetes ooit voor geautomatiseerde besluitvorming. De AVG is de Europese privacywet. Voor finance is dit geen hr-nieuws om over te slaan. Het gaat over de vraag waar jij dagelijks mee werkt: mag een systeem zelf een besluit nemen dat iemand raakt, en kun je aantonen dat een mens het heeft beoordeeld? Denk aan een leverancier die automatisch op een blokkadelijst komt, een kredietlimiet die het systeem zelf verlaagt, of een declaratie die zonder menselijke blik wordt afgewezen. In al die gevallen ligt dezelfde vraag op tafel. Het bedrag maakt het ook een begrotingsverhaal: een boete van deze omvang staat in geen verhouding tot de tijd die een goedkeuringsstap kost. Breng deze week in kaart welke besluiten in jouw financiële systemen volledig automatisch vallen, en noteer bij elk wie het achteraf nog ziet. Een geautomatiseerd besluit is niet hetzelfde als een berekening. Een berekening levert een uitkomst, een besluit heeft rechtsgevolg voor iemand. In veel financiële pakketten zit dat verschil verstopt in een regel: boven een bepaalde score of onder een bepaald bedrag gaat het automatisch door. De toets is simpel: kun je per geval aanwijzen wie ernaar keek, wanneer, en op basis waarvan? Kun je dat niet, dan bestaat de menselijke tussenkomst alleen op papier. Tegelijk is elke uitzondering handmatig laten beoordelen onbetaalbaar bij grote volumes. De werkbare grens zit in de zwaarte van het gevolg: hoe moeilijker een besluit terug te draaien is, hoe eerder er echt iemand naar moet kijken. Leg dat vast per soort besluit, niet per systeem.

Bron →