Amina Bouayach pleit ervoor dat mensenrechten centraal staan in AI-beheer

10:25

Amina Bouayach, voorzitter van de Nationale Raad voor de Mensenrechten van Marokko (CNDH) en voorzitter van de Wereldalliantie van Nationale Mensenrechteninstellingen (GANHRI), heeft gepleit voor het plaatsen van mensenrechtenbescherming in het hart van het beheer van kunstmatige intelligentie. Tijdens een internationale conferentie op hoog niveau in Athene op woensdag waarschuwde ze dat opkomende digitale technologieën de fundamentele vrijheden kunnen bedreigen als hun ontwikkeling en gebruik niet onderhevig zijn aan effectieve waarborgen.

Bouayach erkende dat kunstmatige intelligentie aanzienlijke kansen biedt om openbare diensten te verbeteren, de toegang tot rechten uit te breiden en sociale inclusie te ondersteunen. Ze waarschuwde echter dat deze voordelen moeten worden afgewogen tegen risico's zoals online desinformatie, deepfake-inhoud en bevooroordeelde algoritmen, die bestaande ongelijkheden kunnen versterken en nieuwe vormen van discriminatie kunnen creëren.

Ze benadrukte dat mensenrechten universeel zijn en in elke setting gerespecteerd moeten worden, inclusief de digitale omgeving. Volgens haar strekt de uitdaging zich verder uit dan de technologische vooruitgang zelf tot de juridische kaders en beleidsbeslissingen die bepalen hoe digitale systemen worden ontworpen, ingezet en gebruikt.

Bijzondere bezorgdheid werd geuit over het toenemende gebruik van gezichtsherkenningstechnologie, vooral wanneer deze wordt ingezet zonder adequate controle. Dergelijke systemen kunnen risico's voor privacy, gelijkheid en bescherming tegen discriminatie met zich meebrengen, waardoor transparantie, verantwoordelijkheid en betekenisvolle menselijke supervisie essentieel zijn.

Bouayach pleitte ervoor dat systemen voor kunstmatige intelligentie regelmatig mensenrechtenimpactbeoordelingen ondergaan gedurende hun levenscyclus, van het initiële ontwerp en de ontwikkeling tot inzet en dagelijks gebruik. Ze benadrukte ook de noodzaak om de verantwoordelijkheden van de organisaties en individuen die betrokken zijn bij het creëren en opereren van deze technologieën te verduidelijken.

Nationale mensenrechteninstellingen, zo betoogde ze, hebben een belangrijke rol te spelen bij het monitoren van de effecten van AI op fundamentele vrijheden. Hun verantwoordelijkheden kunnen het onderzoeken van individuele klachten, het onderzoeken van vermeende schendingen, het identificeren van bredere patronen van schade en het aanbevelen van effectieve remedies voor mensen die door digitale systemen zijn getroffen, omvatten.

Deze instellingen kunnen ook bijdragen aan de ontwikkeling van wetgeving en openbaar beleid door regeringen en parlementen te adviseren voordat AI-systemen in openbare diensten worden geïntroduceerd. Vroegtijdige controle, stelde ze voor, kan helpen om potentiële risico's te identificeren en waarborgen vast te stellen voordat schadelijke praktijken wijdverbreid worden.

De Marokkaanse rechtenleider benadrukte verder het belang van overleg en samenwerking tussen technologieontwikkelaars, organisaties van het maatschappelijk middenveld, openbare autoriteiten en gemeenschappen die waarschijnlijk door geautomatiseerde besluitvorming worden beïnvloed. Het betrekken van deze groepen bij beleidsdiscussies kan helpen ervoor te zorgen dat de zorgen en behoeften van burgers worden overwogen voordat nieuwe systemen worden aangenomen.

Bouayach onderstreepte ook de noodzaak om nationale mensenrechteninstellingen te voorzien van de expertise, middelen en praktische ondersteuning die nodig zijn om te reageren op de snelle digitale transformatie. Zonder adequate capaciteit kunnen deze organen moeite hebben om complexe technologieën te beoordelen of effectieve controle uit te oefenen.

Ze verwees naar initiatieven waarbij Marokko, Zuid-Korea en internationale organisaties betrokken zijn om de institutionele paraatheid te versterken. Deze inspanningen omvatten samenwerking met GANHRI, het Ontwikkelingsprogramma van de Verenigde Naties en het Bureau van de Hoge Commissaris voor de Mensenrechten van de Verenigde Naties, evenals gezamenlijke initiatieven met UNESCO.

Haar opmerkingen weerspiegelen een bredere internationale discussie over hoe innovatie kan worden aangemoedigd terwijl mensen worden beschermd tegen de mogelijke schade van kunstmatige intelligentie. Voor Bouayach is het essentieel om waarborgen voor mensenrechten in het beheer van AI te verankeren om ervoor te zorgen dat technologische vooruitgang de mensen dient, hun waardigheid beschermt en hun fundamentele vrijheden behoudt.