Overheidsgebruik van AI ongereguleerd en risicovol: rekenkamer

Friday 18 October 2024 - 08:00

met een pen: Ziani Salma

Overheidsgebruik van AI ongereguleerd en risicovol: rekenkamer

De Nederlandse overheid gebruikt of heeft 433 AI-gebaseerde systemen getest en ongeveer de helft daarvan is niet goed beoordeeld op ‘gevaren’, aldus de nationale rekenkamer donderdag.

Er wordt momenteel geëxperimenteerd met 167 systemen en 120 systemen worden regelmatig gebruikt. Maar slechts 5% is opgenomen in een officieel register van algoritmen dat werd geïntroduceerd in de nasleep van het schandaal rond de kinderopvangtoeslag, aldus de rekenkamer. Algoritmen speelden een centrale rol bij het identificeren van mensen als potentiële fraudeurs en duizenden mensen werden ten onrechte van fraude beschuldigd.

Woordvoerder Ewout Irrgang van de Rekenkamer vertelde aan omroep NOS dat hij zich zorgen maakt dat het risico dat gepaard gaat met het gebruik van AI is onderschat . "Er is een drang om AI-systemen niet als riskant te classificeren", zei hij. Op die manier, zei hij, hoeven ze niet te voldoen aan de strenge EU-regels die in 2026 van kracht worden.

De EU-regels bepalen bijvoorbeeld dat het gebruik van A1 om te beoordelen of mensen het risico lopen misdaden te plegen, als een hoog risico moet worden beschouwd en dat systemen regelmatig moeten worden gecontroleerd om ervoor te zorgen dat ze niet discriminerend zijn.

De meeste Nederlandse overheidssystemen worden geclassificeerd als ‘minimaal risico’, maar dat betekent niet dat ze zonder risico zijn, vooral als het gaat om privacy, aldus de Algemene Rekenkamer.

AI-gebaseerde systemen zijn het populairst bij het ministerie van infrastructuur (84) en de ministeries van justitie en asiel (84). Van de gebruikte systemen hebben er 124 betrekking op het verwerken van informatie en 82 hebben een regelgevende en nalevingsfunctie. In totaal gebruiken 70 overheidsdepartementen en -agentschappen AI-gebaseerde systemen.

Voorbeelden van succesvolle AI zijn onder meer het gebruik ervan om aantekeningen te maken tijdens vergaderingen en om mensen te helpen overheidsformulieren in te vullen of aangifte te doen bij de politie over online oplichting. De gevangenisdienst heeft zelfs geëxperimenteerd met robotachtige honden om cellen te inspecteren .

Minister van Volksgezondheid Fleur Agema heeft haar hoop gevestigd op AI om het groeiende tekort aan zorgpersoneel op te lossen. Volgens haar zal dat tekort in 2033 oplopen tot 200.000. Deskundigen waarschuwen echter dat de minister te optimistisch is.

Privacy

In juli waarschuwde privacywaakhond AP dat overheidsinstanties nog steeds op grote schaal gebruik maken van ‘ondoordachte’ algoritmen die burgers discrimineren .

Daartoe behoorde onder meer het gebruik door de studiefinancieringsinstantie DUO van een algoritme om fraude met studiefinanciering op te sporen, dat de AP omschreef als ‘discriminerend van aard zonder enige onderbouwing’.

De AP bekritiseerde ook uitkeringsinstantie UWV omdat deze ‘illegaal gebruikmaakt van algoritmes om fraude met werkloosheidsuitkeringen op te sporen’, terwijl ook het gebruik van gezichtsherkenning door de politie onder de loep is genomen.

Sinds vorig jaar heeft de onafhankelijke AP de taak om het toezicht op algoritmes en AI, ook die van grote technologiebedrijven, te coördineren.