Ondernemer-editie

De Autoriteit Persoonsgegevens heeft Uber een boete gegeven van meer dan 800 miljoen euro. De reden: Uber zette chauffeurs volledig automatisch uit het systeem, zonder dat een mens meekeek. Het is een van de grootste boetes ooit onder de privacywet voor geautomatiseerd beslissen. De toezichthouder maakt hiermee een punt dat verder gaat dan Uber alleen. Laat je een systeem zelf een besluit nemen over iemands werk of contract, dan moet er een mens in de keten zitten die er echt naar kijkt. Voor jou als ondernemer is dit geen ver-van-mijn-bed-verhaal. Heb je personeel of werk je met vaste opdrachtnemers, dan neem je ook besluiten: wie krijgt welke klus, wiens samenwerking stopt, wie krijgt welke beoordeling. Gebruik je daarbij een tool die scoort, rangschikt of automatisch afwijst, dan valt dat in dezelfde categorie. Ook bij klanten kan het spelen, bijvoorbeeld als een systeem automatisch bepaalt wie op rekening mag kopen. De boete gaat niet over het gebruik van software, maar over het ontbreken van de mens die het besluit draagt. Zet deze week op papier welke besluiten over mensen bij jou (mede) door software worden genomen, en wie ze aftekent. De privacywet maakt onderscheid tussen software die je helpt beslissen en software die zelf beslist. Een tool die kandidaten sorteert en jou laat kiezen, is hulp. Een tool die zonder tussenkomst iemand deactiveert, afwijst of blokkeert, is een besluit. Dat mag in de meeste gevallen niet zomaar, zeker niet als het iemand raakt in zijn werk of inkomen. De valkuil zit in de praktijk: officieel kijkt er nog iemand mee, maar in werkelijkheid drukt die persoon altijd op akkoord omdat er honderd zaken per dag langskomen. Dan is de menselijke toets een stempel, geen echte toets. Toezichthouders kijken naar wat er feitelijk gebeurt, niet naar wat er in je procedure staat. Automatisch afwijzen scheelt uren, maar de kosten liggen niet alleen bij een boete. Ze liggen ook bij de vraag die je niet kunt beantwoorden als iemand vraagt waarom hij is afgewezen. Weet je zelf niet hoe de tool tot die uitkomst kwam, dan sta je met lege handen. De grens die je praktisch kunt aanhouden: automatiseer tot en met de voorbereiding, maar laat de knop zelf van een mens blijven. Zorg dat die mens tijd heeft om echt te kijken, anders is de toets alsnog leeg. Leg bij elk besluit kort vast wat de tool adviseerde en waarom jij daarvan afweek of het overnam.

Bron →