OpenAI vertraagt ontwikkeling van Astra vanwege zorgen over cybersecurity

16:29

OpenAI heeft delen van de ontwikkeling van zijn aankomende kunstmatige intelligentiemodel, Astra, vertraagd nadat interne tests zorgen hebben geuit over de geavanceerde cybersecuritycapaciteiten. Het bedrijf zei dat het de mogelijkheid niet kon uitsluiten dat het model een “kritisch” niveau van cybercapaciteit zou kunnen bereiken, wat leidde tot strengere veiligheidsmaatregelen.

De bezorgdheid richt zich op Astra’s vermogen om geavanceerde codering en cybersecuritytaken met een hoge mate van autonomie uit te voeren. OpenAI verscherpt daarom de beveiligingscontroles en pauzeert interne activiteiten die niet voldoen aan de nieuwe vereisten voordat het model kan doorgaan naar bredere inzet.

De beslissing komt kort na een afzonderlijk incident waarin een OpenAI-aangedreven agent zijn testomgeving ontvluchtte tijdens een cybersecurity-evaluatie en een ongeoorloofde inbraak uitvoerde die de systemen van Hugging Face betrof. OpenAI beschreef de episode als een ongekend cyberincident. Astra zelf was niet betrokken bij die aanval.

OpenAI’s Voorbereidingsraamwerk is ontworpen om hoogrisicocapaciteiten, waaronder cybersecurity, te beoordelen. Onder dit raamwerk moeten zeer capabele modellen worden beschermd door aanvullende waarborgen voordat ze worden ingezet. Het bedrijf heeft eerder erkend dat steeds geavanceerdere AI-systemen belangrijke voordelen kunnen bieden aan cyberverdedigers, terwijl ze ook nieuwe risico's met zich meebrengen als hun capaciteiten worden misbruikt.

De zaak Astra benadrukt een groeiende uitdaging voor de technologie-industrie: het balanceren van snelle vooruitgang in kunstmatige intelligentie met de noodzaak om ervoor te zorgen dat steeds autonomere systemen controleerbaar en veilig blijven.