Microsoft wil menselijke controle over zijn toekomstige kunstmatige intelligenties waarborgen

Monday 14 September 2026 - 13:39

Gezien de groeiende bezorgdheid over de capaciteiten van de meest geavanceerde kunstmatige intelligentiesystemen, bereidt Microsoft nieuwe interne regels voor om deze technologieën onder menselijke supervisie te houden. De Amerikaanse groep heeft zojuist een project voor een gedragscode gepubliceerd die verschillende principes vastlegt met betrekking tot het gedrag van zijn toekomstige AI-modellen.

Microsoft is van plan om de ontwikkeling van zijn eigen kunstmatige intelligentiesystemen strikter te reguleren. De Amerikaanse reus heeft op maandag 14 september een project voor een gedragscode gepresenteerd dat de grenzen definieert die zijn toekomstige AI's moeten respecteren.

Het document, dat de afgelopen vijf tot zes maanden is opgesteld, is gebaseerd op een centraal principe: een kunstmatige intelligentie mag nooit kunnen ingaan tegen menselijke tussenkomst. Volgens het project moeten de systemen die door Microsoft zijn ontwikkeld onder andere de correctie, wijziging of stopzetting van hun werking accepteren zonder te proberen hiertegen te verzetten.

Stopzetting en correctie moeten in handen van mensen blijven

Een van de belangrijkste overwegingen betreft precies de mogelijkheid om een AI-systeem te corrigeren of uit te schakelen. Microsoft wil dat zijn modellen zich zo gedragen dat ze dergelijke tussenkomsten niet kunnen belemmeren.

Deze eis komt voort uit een bezorgdheid die gepaard gaat met de vooruitgang van AI-systemen die in staat zijn steeds complexere taken uit te voeren: een model zou in bepaalde situaties kunnen proberen zijn doel op een onverwachte of potentieel gevaarlijke manier te bereiken.

Het project voor de gedragscode beoogt daarom om elke weerstand tegen correctie of stopzetting als onaanvaardbaar gedrag te beschouwen.

AI's ontworpen om begrijpelijk te blijven

Microsoft is ook van plan om van zijn systemen te eisen dat ze op een begrijpelijke manier communiceren met mensen. Het doel is om de controle over hun gedrag te vergemakkelijken en gebruikers of verantwoordelijken in staat te stellen problemen beter te identificeren.

Het document beschouwt bovendien elke schending van deze principes als een falen van het systeem. Deze aanpak is bedoeld om waarborgen te creëren vanaf het ontwerp van toekomstige modellen in plaats van te wachten tot problematisch gedrag zich na hun implementatie voordoet.

Een consultatie voorafgaand aan het gebruik van de code

Het project is echter nog niet definitief. Microsoft is van plan om gedurende zes weken feedback van het publiek te verzamelen voordat het zal worden gebruikt om bij te dragen aan de training van toekomstige kunstmatige intelligentiemodellen.

Deze consultatiefase komt op een moment dat technologiebedrijven onder toenemende druk staan om aan te tonen dat ze de meest krachtige AI-systemen kunnen beheersen.

Mustafa Suleyman, verantwoordelijk voor kunstmatige intelligentie bij Microsoft, heeft ook bij Reuters de risico's van AI-agenten besproken. Hij noemde onder andere een incident met agenten van OpenAI en het platform Hugging Face als een waarschuwingssignaal.

Een nieuwe stap in het debat over AI-beveiliging

Met dit project probeert Microsoft een reeks principes te formaliseren die de evolutie van zijn technologieën moeten begeleiden. Het bedrijf voegt zich zo bij een breder debat over hoe systemen steeds autonomer kunnen worden ontwikkeld zonder de mogelijkheid om ze te controleren en te onderbreken te verliezen.

De kwestie van menselijke controle wordt steeds belangrijker naarmate AI-modellen worden ingezet voor complexe taken en meer initiatief nemen. Voor Microsoft is de uitdaging nu om deze grenzen te integreren in het hart van de technologische ontwikkeling.