- 19:55Tokyo: de Marokkaanse kaftan schittert op de Oriental Fashion Show
- 12:00Elon Musk verhoogt financiële prikkel voor petitie ter ondersteuning van grondwettelijke rechten
- 11:40VN-chef benadrukt Marokko's Sahara-initiatief voor economische integratie in de Sahel
- 11:20Trump beweert dat de ondergang van Sinwar de weg vrijmaakt voor vrede in Gaza, plant dialoog met Netanyahu
- 11:01Marokko versterkt maritieme invloed met vicevoorzitterschap van de Raad van de Internationale Maritieme Organisatie
- 10:35Stellantis schakelt over: Marokkaanse automobielhausse roept vragen op voor Europese productie
- 10:10X Social Media deelt gebruikersgegevens voor training in kunstmatige intelligentie: een nieuw tijdperk van data-monetisatie
- 09:40Diplomatieke herschikking van Marokko: Koning Mohammed VI benoemt nieuwe ambassadeurs in strategische zet
- 09:15Akkoord bereikt over vervroegd pensioen voor ‘zwaar’ werk
Volg ons op Facebook
Overheid gebruikt nog steeds discriminerende algoritmen om gegevens te verzamelen
Privacywaakhond AP waarschuwt dat overheidsinstanties nog steeds op grote schaal gebruik maken van ‘ondoordachte’ algoritmen die burgers discrimineren.
De Autoriteit Persoonsgegevens stelt in haar jaarverslag over 2023 dat er ‘weinig is veranderd’ sinds een parlementair onderzoek uitwees dat algoritmes een sleutelrol speelden in het kinderopvangtoeslagschandaal dat de Nederlandse overheid in 2021 ten val bracht.
AP concludeerde dat de aanpak van de belastingdienst, inclusief het gebruik van algoritmen om potentiële fraudeurs te identificeren, “onwettig, discriminerend en in strijd met de privacywetgeving” was.
Algoritmen en discriminatie vormen nog steeds het grootste deel van de werklast van AP in 2023, aldus voorzitter Aleid Wolfsen. "De honger van de overheid naar data lijkt nauwelijks te zijn ingedamd."
In het rapport van de AP worden verschillende voorbeelden genoemd van overheidsorganisaties die gebruikmaken van ‘ondoordachte algoritmen’, waaronder het gebruik door de Education Executive Agency (DUO) van een algoritme om fraude met betrekking tot studiebeurzen op te sporen, dat door de AP werd omschreven als ‘discriminerend van aard zonder enige onderbouwing’.
Het bekritiseerde uitkeringsinstantie UWV omdat het ‘illegaal gebruikmaakt van algoritmes om fraude met werkloosheidsuitkeringen op te sporen’, terwijl ook het gebruik van gezichtsherkenning door de politie onder de loep is genomen.
"Dit is waarschijnlijk slechts het topje van de ijsberg", aldus Wolfsen.
Hoewel hij erop wees dat algoritmes en kunstmatige intelligentie (AI) ook nuttig kunnen zijn, bijvoorbeeld bij het stroomlijnen van overheidsprocessen, waarschuwde hij dat "we als samenleving altijd zeer alert moeten zijn op de risico's van algoritmes, waaronder discriminatie, zodat overheidsinstellingen niet opnieuw het leven van mensen vernietigen en onze rechtsstaat en de bescherming van fundamentele rechten hoog houden."
Toezichthoudende rol
Sinds vorig jaar heeft de onafhankelijke AP de taak om het toezicht op algoritmes en AI te coördineren, ook bij grote technologiebedrijven.
Er staat dat de overheid steeds vaker particuliere onderzoeksbureaus inhuurt om onderzoek te doen naar haar eigen privacyschendingen. Dat is een taak die eigenlijk door AP zou moeten worden uitgevoerd.
“Soms is zo’n privéonderzoek een stap voorwaarts, soms is het het resultaat van de beperkte capaciteit van de AP”, aldus het rapport. “Maar vaak leidt het tot … dubbel werk, verspilling van belastinggeld en verwarring over het juiste beoordelingskader.”
Ook roept het zorgen op over het feit dat particuliere instanties tijdens hun onderzoeken toegang kunnen krijgen tot gevoelige persoonlijke gegevens.
Wolfsen juicht de aanbeveling van de parlementaire onderzoekscommissie toe om haar 'waakhondfunctie' te versterken en haar jaarlijkse budget te verhogen.
“Dit extra budget zou er onder meer voor zorgen dat we eindelijk adequaat kunnen reageren op alle klachten, de nodige onderzoeken kunnen uitvoeren naar privacyschendingen en dat er minder behoefte is om ‘af te wijken’ van de opgedragen onderzoeken”, aldus de wethouder.
“Om ervoor te zorgen dat mensen in ons land de bescherming krijgen waar ze recht op hebben – het recht op bescherming van persoonsgegevens is niet voor niets een fundamenteel recht.”