Henna Virkkunen Roept AI-bedrijven Op om Testen en Menselijk Toezicht te Versterken

Thursday 15 - 18:15

De Europese Unie heeft gewaarschuwd dat de toenemende wereldwijde concurrentie op het gebied van kunstmatige intelligentie de inspanningen om de veiligheid en betrouwbaarheid van geavanceerde AI-systemen te waarborgen, kan ondermijnen. Ze roept ontwikkelaars op om effectieve controle over hun technologieën te behouden, terwijl hun capaciteiten blijven groeien.

Henna Virkkunen, de uitvoerende vicevoorzitter van de Europese Commissie voor technologische soevereiniteit, veiligheid en democratie en verantwoordelijk voor digitaal beleid, uitte deze bezorgdheid woensdag tijdens een internationale AI-top in Dublin. Ze betoogde dat de druk om te concurreren ervoor kan zorgen dat bedrijven onvoldoende tijd en middelen hebben om hun modellen voor implementatie te testen.

De waarschuwing komt op een moment dat steeds geavanceerdere AI-systemen nieuwe uitdagingen voor ontwikkelaars en regelgevers introduceren, vooral wanneer autonome agenten acties kunnen uitvoeren die moeilijk te anticiperen of te monitoren zijn voor hun operators.

Groeiende capaciteiten brengen nieuwe veiligheidszorgen met zich mee

Virkkunen zei dat meldingen van incidenten met AI-agenten situaties hebben belicht waarin bedrijven zich niet volledig bewust waren van wat hun systemen deden. Ze benadrukte dat ontwikkelaars de mogelijkheid moeten behouden om het gedrag van hun technologieën te begrijpen en te controleren.

Naarmate AI-modellen krachtiger worden, wordt het ook ingewikkelder om hun prestaties te beoordelen en potentiële risico's te identificeren. Volgens de Europese Commissie is dit de reden waarom uitgebreide tests en onafhankelijke deskundige evaluatie essentiële onderdelen zijn van verantwoordelijke ontwikkeling.

Haar opmerkingen wijzen op een groeiende regelgevende zorg: de snelheid waarmee AI-producten worden ontwikkeld en geïntroduceerd, kan de tijd die nodig is om vast te stellen of ze veilig functioneren onder een breed scala aan omstandigheden, overstijgen.

Voor regelgevers is de uitdaging niet alleen om innovatie aan te moedigen, maar ook om ervoor te zorgen dat bedrijven een adequate kennis van hun systemen kunnen aantonen voordat die technologieën breed worden gebruikt.

Brussel Verhoogt Toezicht op AI-ontwikkelaars

De Europese Commissie is al begonnen met het opvragen van verdere informatie van grote AI-bedrijven over de waarborgen die ze hebben ingevoerd. Volgens Virkkunen omvatten de verzoeken veiligheidsmaatregelen, veiligheidsarrangementen en procedures voor externe evaluaties.

Dit initiatief maakt deel uit van de bredere inspanning van de EU om AI-ontwikkelaars verantwoordelijker te maken voor de systemen die ze bouwen en implementeren.

Onder de Europese Verordening inzake Kunstmatige Intelligentie heeft de EU een regelgevend kader opgezet dat is ontworpen om risico's in verband met AI-toepassingen aan te pakken. De wetgeving biedt ook een basis voor het toezicht op kwesties die verder gaan dan technische veiligheid, waaronder naleving van copyrightregels.

Virkkunen benadrukte dat het handhaven van controle over AI-systemen een expliciete vereiste is onder de wetgeving, waarmee de positie van de Commissie wordt versterkt dat technologische vooruitgang gepaard moet gaan met effectieve waarborgen.

Balanceren tussen innovatie en verantwoordelijkheid

De zorgen van de EU weerspiegelen een moeilijke balans waar beleidsmakers en de technologiesector voor staan. Bedrijven concurreren internationaal om steeds krachtigere modellen te ontwikkelen, terwijl overheden garanties zoeken dat deze systemen beheersbaar, betrouwbaar en compliant met de toepasselijke regels blijven.

Onvoldoende testen kan het moeilijker maken om kwetsbaarheden vóór implementatie te identificeren, vooral in systemen die zijn ontworpen om taken uit te voeren met beperkte directe menselijke tussenkomst. Onafhankelijke beoordelingen kunnen helpen om zwaktes te identificeren die interne tests mogelijk over het hoofd zien, hoewel de effectiviteit ervan afhangt van de toegang tot de systemen en de kwaliteit van het evaluatieproces.

De verzoeken van de Commissie om informatie signaleren een grotere focus op hoe AI-bedrijven deze risico's in de praktijk beoordelen en beheren, in plaats van alleen te vertrouwen op hun verklaarde toezeggingen aan veiligheid.

Naarmate AI-capaciteiten vorderen, is de centrale vraag voor Europese regelgevers of ontwikkelaars in staat zijn om betekenisvol menselijk toezicht te behouden terwijl ze blijven innoveren met de snelheid die door wereldwijde concurrentie wordt geëist.

Brussel maakt duidelijk dat, onder haar regelgevingsaanpak, concurrentievermogen de verantwoordelijkheid om steeds krachtigere AI-systemen te begrijpen, te testen en te controleren, niet kan vervangen.