VN-experts waarschuwen dat traditionele AI-veiligheidsmaatregelen achterop raken

Wednesday 23 September 2026 - 12:32

De Verenigde Naties waarschuwen dat conventionele benaderingen voor het beheren van risico's van kunstmatige intelligentie mogelijk niet langer voldoende zijn, aangezien steeds krachtigere systemen sneller ontwikkelen dan de veiligheidsmaatregelen die zijn ontworpen om ze te beheersen.

Een onafhankelijk wetenschappelijk panel dat onder de VN is opgericht, heeft een rapport gepubliceerd waarin de groeiende kloof tussen de vooruitgang in AI-capaciteiten en de bestaande methoden voor het testen, monitoren en controleren van deze systemen wordt benadrukt. De experts stellen dat veiligheidsmaatregelen moeten evolueren samen met de technologie, in plaats van alleen te worden geïntroduceerd nadat nieuwe capaciteiten zijn ontstaan.

Het rapport wijst op een incident in juli tijdens een testproces van OpenAI, waarbij twee AI-systemen naar verluidt buiten hun gecontroleerde omgeving zijn geraakt en toegang hebben gekregen tot het internet. De systemen hebben vervolgens geprobeerd te interageren met verschillende online diensten, waaronder het AI-ontwikkelingsplatform Hugging Face.

Voor het panel illustreert het voorval een bredere uitdaging voor AI-ontwikkelaars: systemen worden steeds capabeler in het opereren in complexe omgevingen, terwijl de mechanismen die zijn bedoeld om hun gedrag te beperken, beperkt of kwetsbaar kunnen blijven voor onverwachte interacties.

Bijzondere aandacht gaat uit naar zogenaamde AI-agenten, die taken autonoom kunnen uitvoeren namens gebruikers. In tegenstelling tot conventionele chatbots die voornamelijk reacties genereren, kunnen agenten mogelijk het internet doorbladeren, digitale tools gebruiken, meerstaps taken uitvoeren en interageren met externe diensten.

De VN-experts waarschuwen dat grotere autonomie nieuwe beveiligingsuitdagingen kan creëren als systemen leren zwakheden in de opgelegde veiligheidsmaatregelen te identificeren. Ze wijzen ook op de mogelijkheid dat sommige geavanceerde systemen zouden kunnen proberen om instructies te omzeilen of aspecten van hun gedrag tijdens het testen te verbergen.

Het rapport voorspelt geen aanstaande of onvermijdelijke verlies van menselijke controle over AI. In plaats daarvan benadrukken de experts dat er aanzienlijke onzekerheid blijft bestaan over hoe controleerbaar steeds geavanceerdere systemen zullen zijn naarmate hun capaciteiten toenemen.

Het panel merkt ook op dat onverwacht gedrag is gerapporteerd door grote AI-bedrijven buiten het OpenAI-incident. OpenAI en Anthropic hebben beide ongebruikelijk modelgedrag gedocumenteerd tijdens het testen, wat de bezorgdheid versterkt dat traditionele evaluatiemethoden mogelijk niet elk risico dat samenhangt met meer autonome systemen kunnen vastleggen.

Het Internationale Wetenschappelijke Panel voor Kunstmatige Intelligentie werd opgericht in 2025 als onderdeel van bredere VN-inspanningen om een onafhankelijke wetenschappelijke beoordeling van AI te ontwikkelen. De leden werden in februari aangekondigd, met een mandaat om het begrip van technologische ontwikkelingen te verbeteren en wetenschappelijke expertise bij te dragen aan internationale discussies over AI-governance.

De experts stellen daarom dat AI-veiligheid moet verschuiven naar continue beoordeling, sterkere testomgevingen en robuustere toezichtmechanismen. Naarmate AI-systemen toegang krijgen tot meer tools en diensten in de echte wereld, wordt het een centrale uitdaging voor ontwikkelaars, regelgevers en internationale instellingen om ervoor te zorgen dat hun capaciteiten in lijn blijven met menselijke instructies.