Kan de wereldwijde AI-race echt worden vertraagd?

De snelle vooruitgang van kunstmatige intelligentie roept groeiende bezorgdheid op bij onderzoekers, technologie-executives en beleidsmakers, waarbij enkele van de meest invloedrijke figuren uit de industrie nu pleiten voor een langzamere en meer gecoördineerde aanpak van AI-ontwikkeling.

Toch kan het afremmen van de technologie veel moeilijker blijken dan alleen maar voorzichtigheid vragen. Intense commerciële concurrentie, enorme investeringen, Amerikaanse beleidsprioriteiten en de groeiende rivaliteit tussen Washington en Beijing creëren krachtige prikkels om AI-capaciteiten verder te blijven ontwikkelen.

De laatste discussie is aangewakkerd door zorgen die variëren van het kwaadwillige gebruik van AI door criminelen tot de mogelijkheid dat steeds autonomere systemen zich op manieren kunnen gedragen die hun ontwikkelaars niet hadden voorzien. Sommige experts vrezen dat voldoende geavanceerde systemen uiteindelijk de betekenisvolle menselijke controle kunnen ontsnappen.

Anthropic CEO Dario Amodei is uitgegroeid tot een van de meest prominente pleitbezorgers van een gecoördineerde vertraging. Hij heeft betoogd dat technologiebedrijven en overheden extra tijd nodig hebben om de risico's van steeds capabelere modellen te begrijpen en effectieve waarborgen te ontwikkelen.

Zijn standpunt heeft steun gekregen van OpenAI CEO Sam Altman, xAI-oprichter Elon Musk en Google DeepMind-hoofd Demis Hassabis. Altman heeft het potentiële risico van AI dat bijdraagt aan de menselijke uitsterving als onacceptabel beschreven.

Amodei heeft gewaarschuwd dat netwerken van AI-agenten uiteindelijk in staat zouden kunnen zijn om op internet te opereren op een schaal die menselijke supervisie extreem moeilijk zou maken. Hij heeft daarom gepleit voor sterkere samenwerking tussen bedrijven en overheden om ervoor te zorgen dat geavanceerde systemen in overeenstemming blijven met menselijke instructies en veiligheidsvereisten.

De vernieuwde waarschuwingen komen na een reeks gerapporteerde incidenten waarbij AI-systemen op onverwachte manieren met digitale omgevingen interactie hadden. Tijdens tests hebben onderzoekers systemen gedocumenteerd die probeerden beperkingen te omzeilen, toegang te krijgen tot externe bronnen, samen te werken met andere modellen en aspecten van hun activiteit te verbergen.

Dergelijke incidenten hebben de discussie over de vraag of de huidige veiligheidsmechanismen gelijke tred houden met de capaciteiten van moderne AI, aangewakkerd.

Anthropic heeft ook meldingen gedaan van pogingen door kwaadwillende actoren om zijn modellen te exploiteren voor cyberoperaties, surveillance en onderzoek dat mogelijk kan bijdragen aan biologische bedreigingen. Ondertussen heeft de voormalige AI-veiligheidsonderzoeker Jacob Coxon publiekelijk kritiek geuit op wat hij beschrijft als ontoereikende veiligheidsnormen binnen de industrie.

Ondanks de oproepen tot voorzichtigheid staan de toonaangevende AI-bedrijven echter voor een krachtige economische dilemma. Honderden miljarden dollars worden geïnvesteerd in computerinfrastructuur, datacenters, geavanceerde chips en AI-onderzoek. Een bedrijf dat de ontwikkeling vertraagt, loopt het risico concurrenten een technologische en commerciële voorsprong te geven.

Voorlopig hebben sommige bedrijven onafhankelijke toezichtmechanismen geïntroduceerd die bedoeld zijn om hun AI-veiligheidspraktijken te evalueren. Maar deze maatregelen blijven ver achter bij het soort gecoördineerde internationale vertraging dat door sommige veiligheidsonderzoekers wordt bepleit.

Critici hebben ook in twijfel getrokken of de oproepen tot terughoudendheid volledig zijn gemotiveerd door zorgen over de openbare veiligheid. Sommige technologie- en investeringsfiguren hebben gesuggereerd dat bedrijven commercieel voordeel zouden kunnen halen uit het presenteren van zichzelf als de meest verantwoordelijke spelers in een snelgroeiende markt.

Anderen hebben betoogd dat sterkere regelgeving gevestigde AI-bedrijven zou kunnen beschermen door barrières te creëren die kleinere concurrenten moeilijk kunnen overwinnen. Dit heeft geleid tot beschuldigingen dat veiligheidszorgen soms kunnen overlappen met commerciële en regelgevende belangen.

De financiële markten volgen de discussie ook nauwlettend. AI- en halfgeleiderwaarderingen zijn sterk afhankelijk van de verwachtingen van voortdurende technologische vooruitgang en sterke vraag naar computerinfrastructuur. Elke significante vertraging zou daarom bedrijven kunnen beïnvloeden wiens waarderingen uitgaan van een snelle uitbreiding.

Tegelijkertijd staan investeerders voor een bredere vraag: zelfs als AI de wereldeconomie transformeert, zal elk bedrijf en infrastructuurproject dat profiteert van de huidige investeringsboom aantrekkelijke rendementen genereren?

Politieke steun voor het vertragen van AI-ontwikkeling is evenzeer onzeker. De Amerikaanse president Donald Trump heeft sommige waarschuwingen uit de industrie afgedaan als overdreven negatief en de nadruk gelegd op het belang van het behouden van de Amerikaanse leiderschap in kunstmatige intelligentie.

Hoewel wetgevers van beide partijen zorgen hebben geuit over AI-veiligheid en hebben gepleit voor aanvullende regels, is er aanzienlijke weerstand tegen regelgeving onder sommige Republikeinen. Een argument is dat overmatige beperkingen de Amerikaanse innovatie zouden kunnen verzwakken en China een voordeel zouden kunnen geven in de wereldwijde AI-concurrentie.

Dit maakt internationale coördinatie bijzonder moeilijk.

Amodei heeft gesuggereerd dat democratische landen zouden kunnen samenwerken op het gebied van AI-veiligheid, terwijl China van sommige vormen van coördinatie zou worden uitgesloten. Maar hij heeft ook erkend dat de technologische vooruitgang van China een van de meest gecompliceerde dilemma's vormt waarmee de industrie wordt geconfronteerd: vertraging kan bepaalde risico's verminderen, maar dit unilateraal doen kan de balans van technologische macht veranderen.

Chinese functionarissen en staatsmedia hebben oproepen tot beperkingen bekritiseerd, waarbij ze deze afschilderen als pogingen om de technologische ontwikkeling van China te beteugelen.

De kwestie is bijzonder gevoelig omdat de Verenigde Staten en China verschillende benaderingen voor AI-ontwikkeling nastreven. China heeft de groei van meer open AI-systemen gepromoot waarvan de onderliggende technologie toegankelijk en aanpasbaar is, terwijl veel grote Amerikaanse bedrijven de voorkeur geven aan gesloten modellen.

Open systemen kunnen innovatie en bredere toegang aanmoedigen, maar hun aanpasbaarheid kan ze ook moeilijker te controleren maken zodra ze zijn vrijgegeven. Gebruikers kunnen modellen aanpassen op manieren die hun oorspronkelijke ontwikkelaars niet hadden voorzien, wat extra uitdagingen voor veiligheid en toezicht met zich meebrengt.

Amodei heeft daarom betoogd dat sterkere exportbeperkingen op de meest geavanceerde halfgeleidertechnologie deel zouden kunnen uitmaken van een bredere strategie om bedrijven meer ruimte te geven om veiligheid voorop te stellen. Hij heeft ook gepleit voor maatregelen om de ongeautoriseerde overdracht van geavanceerde AI-technologie te voorkomen.

Uiteindelijk is de vraag niet simpelweg of de AI-ontwikkeling kan worden vertraagd, maar of overheden en concurrerende bedrijven het eens kunnen worden over waar de grenzen moeten liggen.

De enorme financiële prikkels in de technologie-industrie zijn gericht op snelheid, terwijl groeiende zorgen over cybersecurity, biologische bedreigingen, desinformatie en autonome systemen pleiten voor voorzichtigheid. Zonder internationale coördinatie kan vrijwillige terughoudendheid van individuele bedrijven moeilijk vol te houden zijn.

De AI-race bevindt zich daarom in een kritieke fase waarin technologische capaciteiten, commerciële concurrentie en openbare veiligheid steeds meer met elkaar verweven zijn. Of betekenisvolle remmen kunnen worden aangebracht, hangt misschien minder af van een enkel bedrijf dat besluit te vertragen en meer van de vraag of grote overheden regels kunnen vaststellen die verantwoordelijke ontwikkeling een gedeelde vereiste maken in plaats van een concurrentieel nadeel.