Zorg-editie

De Nederlandse privacytoezichthouder, de Autoriteit Persoonsgegevens (AP), legt Uber een boete op van ruim 800 miljoen euro. Reden: Uber zette chauffeurs volledig geautomatiseerd uit het systeem, zonder dat een mens meekeek. Het is een van de grootste AVG-boetes ooit voor geautomatiseerde besluitvorming. De AP geeft hiermee een signaal af aan elke organisatie die AI inzet bij beslissingen over personeel of contracten. Dat raakt ook de zorg. Niet omdat jouw instelling chauffeurs uitzet, maar omdat het principe hetzelfde is. Een systeem dat zelf een rooster sluit, een dienst weigert, een verzuimsignaal afgeeft of iets inschat over een cliënt, moet ergens een mens tegenkomen die echt kan bijsturen. Dat is meer dan een knopje 'akkoord'. De AVG heeft een apart artikel over besluiten die alleen door een machine worden genomen en die iemand hard raken. Dat mag in principe niet, tenzij er een goede grondslag is én de betrokkene het besluit kan aanvechten bij een mens. In de praktijk gaat het vaak mis op dat laatste punt: het systeem weegt af, de medewerker ziet alleen de uitkomst en mag klikken. Dan is er formeel wel een mens, maar geen echte ruimte om anders te beslissen. Dat is een stempel, geen toetsing. Vertaald naar de zorg: als een planningssysteem of verzuimtool een score geeft, gaat het niet om of iemand op akkoord drukt, maar of die persoon de gegevens erachter ziet en de score kan negeren, en dat ook echt soms doet. Let ook op de sluipende variant: iemand die duizend keer akkoord geeft en negen keer afwijkt, toetst in de praktijk niet meer echt. Leg daarom vast wanneer iemand mag afwijken en hoe vaak dat gebeurt. Vraag deze week na welk systeem in jouw organisatie zelfstandig iets beslist over een medewerker of cliënt, en wie dat besluit kan terugdraaien.

Bron →