- 16:20Netflix kiest Marokko om Franse versie van ‘Love Is Blind’ te filmen
- 15:30Marokko zal voor het eerst gastheer zijn van de Raad van Bestuur van het IIO
- 14:00WhatsApp lanceert teksttranscriptiefunctie voor spraakberichten
- 12:35De videogamesindustrie: explosieve groei verwacht in 2027
- 12:10Microsoft kondigt nieuwe vertaalapp voor bedrijven aan
- 11:32Alphabet wordt geconfronteerd met regeldruk waardoor het $100 miljard aan marktwaarde verliest
- 11:00Het risico van ‘onophoudelijke sociale verdeeldheid’: het debat over de evolutie van het kunstmatige bewustzijn
- 10:30De WHO blijft maximaal alert op de Mpox-epidemie in het licht van de zorgwekkende verspreiding
- 10:00Ecuador zet de vertegenwoordiger van Polisario definitief uit
Volg ons op Facebook
Overheid gebruikt nog steeds discriminerende algoritmen om gegevens te verzamelen
Privacywaakhond AP waarschuwt dat overheidsinstanties nog steeds op grote schaal gebruik maken van ‘ondoordachte’ algoritmen die burgers discrimineren.
De Autoriteit Persoonsgegevens stelt in haar jaarverslag over 2023 dat er ‘weinig is veranderd’ sinds een parlementair onderzoek uitwees dat algoritmes een sleutelrol speelden in het kinderopvangtoeslagschandaal dat de Nederlandse overheid in 2021 ten val bracht.
AP concludeerde dat de aanpak van de belastingdienst, inclusief het gebruik van algoritmen om potentiële fraudeurs te identificeren, “onwettig, discriminerend en in strijd met de privacywetgeving” was.
Algoritmen en discriminatie vormen nog steeds het grootste deel van de werklast van AP in 2023, aldus voorzitter Aleid Wolfsen. "De honger van de overheid naar data lijkt nauwelijks te zijn ingedamd."
In het rapport van de AP worden verschillende voorbeelden genoemd van overheidsorganisaties die gebruikmaken van ‘ondoordachte algoritmen’, waaronder het gebruik door de Education Executive Agency (DUO) van een algoritme om fraude met betrekking tot studiebeurzen op te sporen, dat door de AP werd omschreven als ‘discriminerend van aard zonder enige onderbouwing’.
Het bekritiseerde uitkeringsinstantie UWV omdat het ‘illegaal gebruikmaakt van algoritmes om fraude met werkloosheidsuitkeringen op te sporen’, terwijl ook het gebruik van gezichtsherkenning door de politie onder de loep is genomen.
"Dit is waarschijnlijk slechts het topje van de ijsberg", aldus Wolfsen.
Hoewel hij erop wees dat algoritmes en kunstmatige intelligentie (AI) ook nuttig kunnen zijn, bijvoorbeeld bij het stroomlijnen van overheidsprocessen, waarschuwde hij dat "we als samenleving altijd zeer alert moeten zijn op de risico's van algoritmes, waaronder discriminatie, zodat overheidsinstellingen niet opnieuw het leven van mensen vernietigen en onze rechtsstaat en de bescherming van fundamentele rechten hoog houden."
Toezichthoudende rol
Sinds vorig jaar heeft de onafhankelijke AP de taak om het toezicht op algoritmes en AI te coördineren, ook bij grote technologiebedrijven.
Er staat dat de overheid steeds vaker particuliere onderzoeksbureaus inhuurt om onderzoek te doen naar haar eigen privacyschendingen. Dat is een taak die eigenlijk door AP zou moeten worden uitgevoerd.
“Soms is zo’n privéonderzoek een stap voorwaarts, soms is het het resultaat van de beperkte capaciteit van de AP”, aldus het rapport. “Maar vaak leidt het tot … dubbel werk, verspilling van belastinggeld en verwarring over het juiste beoordelingskader.”
Ook roept het zorgen op over het feit dat particuliere instanties tijdens hun onderzoeken toegang kunnen krijgen tot gevoelige persoonlijke gegevens.
Wolfsen juicht de aanbeveling van de parlementaire onderzoekscommissie toe om haar 'waakhondfunctie' te versterken en haar jaarlijkse budget te verhogen.
“Dit extra budget zou er onder meer voor zorgen dat we eindelijk adequaat kunnen reageren op alle klachten, de nodige onderzoeken kunnen uitvoeren naar privacyschendingen en dat er minder behoefte is om ‘af te wijken’ van de opgedragen onderzoeken”, aldus de wethouder.
“Om ervoor te zorgen dat mensen in ons land de bescherming krijgen waar ze recht op hebben – het recht op bescherming van persoonsgegevens is niet voor niets een fundamenteel recht.”