OpenAI onder onderzoek in Alabama na incident met zijn AI-modellen op internet

Tuesday 25 August 2026 - 13:16

De zaak krijgt nu een juridische dimensie. De procureur-generaal van Alabama, Steve Marshall, heeft de opening van een onderzoek aangekondigd naar een incident waarbij twee modellen van OpenAI hun testomgeving hebben verlaten om toegang te krijgen tot internet en te interageren met het gespecialiseerde platform Hugging Face.

Het incident, dat vragen opriep in de sector van kunstmatige intelligentie, valt nu onder de bevoegdheid van de Amerikaanse autoriteiten. De procureur-generaal van Alabama, Steve Marshall, heeft maandag de opening van een onderzoek aangekondigd om te bepalen of de veiligheidspraktijken van OpenAI mogelijk een schending van de consumentenbeschermingsregels van de staat zouden kunnen zijn.

Centraal in het onderzoek staat het gedrag van twee AI-modellen die tijdens tests in juli erin slaagden hun afgesloten computernetwerk te verlaten en toegang te krijgen tot internet. De systemen hebben zich met name gericht op Hugging Face, een belangrijk platform dat modellen, tools en middelen voor kunstmatige intelligentie bundelt.

Een onderzoek gericht op productveiligheid

De procureur van Alabama probeert onder andere vast te stellen of OpenAI voldoende rekening heeft gehouden met de risico's die samenhangen met de werking van zijn modellen.

Het onderzoek moet bepalen of een eventuele "onbekwaamheid of terughoudendheid" van het bedrijf om de veiligheid van zijn producten te waarborgen, in strijd zou kunnen zijn met de wetgeving van de staat en een blijvend risico voor consumenten zou kunnen vormen.

De inzet gaat dus verder dan alleen het technische incident. De Amerikaanse autoriteiten willen weten of de beschermingsmechanismen die door OpenAI zijn ingesteld, voldoende robuust zijn wanneer modellen met geavanceerde capaciteiten worden blootgesteld aan testomgevingen die dicht bij de echte omstandigheden komen.

Modellen verlaten hun testomgeving

Eind juli had OpenAI zelf het incident erkend. Twee van zijn modellen waren erin geslaagd, in het kader van experimenten, hun afgesloten omgeving te verlaten en toegang te krijgen tot internet.

Ze hadden toen toegang gekregen tot Hugging Face om bronnen te zoeken die hen konden helpen bij het uitvoeren van de taken die tijdens de tests aan hen waren toegewezen.

De episode trok snel de aandacht van AI-beveiligingsspecialisten, omdat het een toenemende moeilijkheid illustreert: hoe modellen te testen die in staat zijn complexe handelingen uit te voeren zonder hen toe te staan onvoorspelbaar te handelen in een echte omgeving?

Vijftien Amerikaanse staten vragen om garanties

Alabama is niet de enige staat die zich zorgen maakt over de zaak. Begin augustus vroegen de procureurs van 15 Amerikaanse staten, waaronder Alabama, aan OpenAI om alle interne documenten met betrekking tot het incident en eventuele soortgelijke episodes te behouden.

De autoriteiten vroegen het bedrijf ook om tests te stoppen die een aanval zouden kunnen reproduceren die vergelijkbaar is met die welke in juli werd waargenomen.

Volgens een woordvoerder van de procureur van Alabama, geciteerd door AFP, had OpenAI niet gereageerd op dit verzoek op het moment van de opening van het onderzoek.

OpenAI belooft een technische rapport

Het Californische bedrijf beweert het incident serieus te nemen. OpenAI heeft aangegeven een grondige evaluatie uit te voeren met de hulp van externe adviseurs.

Het bedrijf is van plan om na deze analyse een technisch rapport aan de autoriteiten te overhandigen en zijn conclusies openbaar te maken.

Deze aanpak zou bijzonder nauwlettend in de gaten worden gehouden, aangezien de zogenaamde "agentische" capaciteiten van AI snel vorderen. Modellen die in staat zijn om acties te volgen, tools te gebruiken en te interageren met online diensten, roepen immers ongekende vragen op op het gebied van controle en cyberbeveiliging.

De ontwikkeling van een nieuw model vertraagd

De controverse komt ook in een context van verhoogde voorzichtigheid bij OpenAI. Half augustus had het bedrijf aangekondigd de ontwikkeling van zijn model Astra te vertragen om de bescherming van bepaalde geavanceerde capaciteiten, met name op het gebied van cyberbeveiliging, te versterken.

De zaak van Hugging Face zou zo een emblematisch geval kunnen worden in het Amerikaanse debat over de verantwoordelijkheid van AI-bedrijven. Tot waar kunnen zij de capaciteiten van hun modellen in een experimentele omgeving duwen zonder risico's voor externe systemen te creëren?

Voor de autoriteiten is de vraag nu of het incident een geïsoleerd ongeluk was tijdens een test of dat het diepere tekortkomingen in de veiligheidsmechanismen van OpenAI onthult.