Kan AI een bedreiging worden als machines leren zichzelf te verbeteren?

Kunstmatige intelligentie betreedt een nieuwe fase waarin de centrale vraag niet langer simpelweg is wat machines kunnen doen, maar wat er zou kunnen gebeuren als steeds geavanceerdere systemen in staat zijn hun eigen prestaties te verbeteren. Naarmate AI-modellen autonomer worden en beter worden in coderen, plannen en het gebruik van digitale tools, nemen de zorgen toe of menselijke controle gelijke tred kan houden met de snelheid van door machines aangedreven beslissingen.

De ernstigste risico's komen misschien niet van machines die “slimmer worden dan mensen” in de traditionele zin. In plaats daarvan richten experts zich steeds vaker op de combinatie van intelligentie, autonomie, snelheid en toegang tot krachtige digitale systemen. Een zeer capabel systeem dat opereert met brede bevoegdheden zou potentieel beslissingen kunnen nemen en complexe taken sneller kunnen uitvoeren dan mensen kunnen beoordelen, corrigeren of stoppen.

Volgens Mohamed Mohsen Ramadan, hoofd van de afdeling Kunstmatige Intelligentie en Cybersecurity van het Arabisch Centrum voor Onderzoek en Studies, zijn de zorgen over geavanceerde AI niet langer beperkt tot sciencefictionscenario's. Waarschuwingen komen steeds vaker van onderzoekers en professionals die direct binnen de technologiesector werken, wat de groeiende onzekerheid weerspiegelt over de gevolgen van de race om meer capabele en autonome systemen te bouwen.

Een concept dat centraal staat in dit debat is recursieve zelfverbetering. Het idee verwijst naar een AI-systeem dat helpt om zijn eigen software, mogelijkheden of architectuur te verbeteren, wat potentieel elke verbetering in staat stelt bij te dragen aan een nieuwe cyclus van ontwikkeling. In zijn meest extreme theoretische vorm zou een dergelijk proces de technologische vooruitgang kunnen versnellen, ver voorbij het tempo waarop mensen het kunnen begrijpen of toezicht houden.

Huidige AI-systemen hebben de volledig autonome, continu zelfverbeterende fase die in sommige scenario's met kunstmatige superintelligentie wordt afgebeeld, nog niet bereikt. Moderne AI-agenten worden echter steeds capabeler in het schrijven en analyseren van code, het plannen van meerstapsoperaties, het interactie hebben met externe tools en het uitvoeren van taken met beperkte menselijke tussenkomst. Deze ontwikkelingen hebben vragen over veiligheid en controle urgenter gemaakt.

Vanuit een cybersecurityperspectief houdt het gevaar niet noodzakelijk in dat een AI-systeem opzettelijk tegen de mensheid in opstand komt. Een realistischer zorg is dat een zeer capabel systeem een slecht gedefinieerd doel nastreeft terwijl het uitgebreide bevoegdheden en toegang heeft tot onderling verbonden digitale omgevingen.

Een geavanceerde AI-agent zou bijvoorbeeld een softwarekwetsbaarheid kunnen identificeren, deze kunnen analyseren, code genereren, verschillende benaderingen testen en zijn strategie kunnen aanpassen. Als een dergelijke cyclus grotendeels geautomatiseerd zou zijn, zou de snelheid van ontdekking en uitvoering de mogelijkheid van menselijke operators om in te grijpen kunnen overschrijden. De gevolgen zouden bijzonder ernstig kunnen zijn als het systeem verbonden is met gevoelige infrastructuur, financiële netwerken of andere kritieke diensten.

De voormalige Egyptische assistent-minister van Binnenlandse Zaken voor Media en Relaties, Abu Bakr Abdel Karim, stelt eveneens dat het niveau van risico niet alleen afhangt van intelligentie, maar van hoe intelligentie wordt gecombineerd met autonomie en autoriteit. Naarmate systemen capabeler worden in het nemen van beslissingen, zegt hij, moeten er sterkere mechanismen worden opgezet om hun gedrag te monitoren, hun acties te begrijpen en ze indien nodig af te sluiten.

Het probleem strekt zich verder uit dan cybersecurity. Meer autonome AI-systemen zouden implicaties kunnen hebben voor de nationale veiligheid, kritieke infrastructuur, financiële markten, werkgelegenheid, informatie-ecosystemen, media en besluitvorming. Het vermogen van AI om enorme hoeveelheden informatie te verwerken, content te genereren en geavanceerde operaties te automatiseren betekent dat technologische vooruitgang steeds vaker moet worden vergezeld door sterkere governance.

Voor Abdel Karim zal de belangrijkste uitdaging in de komende jaren niet een simpele confrontatie zijn tussen mensen en machines. In plaats daarvan zal het een vraag zijn of menselijke instellingen in staat zijn om de verantwoordelijkheid voor steeds krachtiger technologieën te beheren.

Experts en beleidsmakers hebben daarom gepleit voor strenge veiligheidsevaluaties voor geavanceerde AI-systemen voordat ze worden ingezet. Maatregelen kunnen onder meer vijandige tests, cybersecuritybeoordelingen, duidelijk gedefinieerde bevoegdheden, continue monitoring, isolatie van gevoelige omgevingen en betrouwbare mechanismen voor menselijke tussenkomst of noodafsluitingen omvatten.

Een andere zorg is de mogelijkheid dat commerciële en geopolitieke concurrentie bedrijven en overheden zou kunnen aanmoedigen om snelheid boven veiligheid te prioriteren. Een race om steeds krachtigere modellen vrij te geven zonder voldoende testing zou systemische risico's kunnen vergroten, vooral wanneer AI-agenten toegang krijgen tot externe systemen en in staat zijn om onafhankelijk te handelen.

Tegelijkertijd blijven voorspellingen dat AI onvermijdelijk de mensheid zal vernietigen speculatief. Er is geen vastgestelde wetenschappelijke bewijs dat aantoont dat menselijke uitsterving een vooraf bepaalde consequentie is van AI-ontwikkeling. De meer directe uitdaging is om geloofwaardige risico's te identificeren en waarborgen te bouwen voordat steeds autonomere systemen wijdverbreid worden geïntegreerd in kritieke gebieden van de samenleving.

Het debat over AI-veiligheid verschuift daarom van de vraag of machines op een dag de menselijke intelligentie zouden kunnen overtreffen naar een bredere vraag over hoeveel onafhankelijkheid ze zouden moeten krijgen. Een systeem hoeft niet noodzakelijkerwijs slimmer te zijn dan een mens om ernstige risico's te creëren als het sneller kan opereren, toegang heeft tot krachtige tools en kan handelen met beperkte supervisie.

Kunstmatige intelligentie zou uiteindelijk een van de meest waardevolle technologieën kunnen worden die ooit zijn ontwikkeld, met toepassingen variërend van wetenschappelijk onderzoek en geneeskunde tot onderwijs en industriële productiviteit. Maar het waarborgen van die voordelen vereist dat veiligheid wordt behandeld als onderdeel van het ontwerpproces in plaats van als een reactie op problemen na de inzet.

De toekomst van AI hangt daarom misschien minder af van hoe snel machines capabeler worden dan van hoe effectief mensen leren die groeiende capaciteit te beheren. Hoe groter de autonomie die aan intelligente systemen wordt gegeven, hoe sterker en sneller de mechanismen voor menselijke controle moeten worden.