Google waarschuwt voor toenemende cyberaanvallen met behulp van AI

Friday 15 - 17:30

Google waarschuwt voor een versnelling van cyberaanvallen met behulp van AI, nadat een poging tot misbruik van een voorheen onbekende beveiligingskwetsbaarheid werd ontdekt. Deze kwetsbaarheid is mogelijk ontwikkeld met behulp van geavanceerde AI-technologieën.

Volgens het Amerikaanse bedrijf probeerden kwaadwillenden een kwetsbaarheid te misbruiken waarmee tweefactorauthenticatiesystemen in een veelgebruikte tool voor het beheren van online diensten konden worden omzeild. Dankzij de samenwerking tussen Google en de getroffen aanbieder werd de kwetsbaarheid echter snel geïdentificeerd en verholpen, waardoor een potentiële grootschalige cyberaanval werd voorkomen.

Deze waarschuwing is gebaseerd op een rapport van de Google Threat Intelligence Group, waarin een toenemend gebruik van generatieve kunstmatige intelligentie door cybercriminelen en door door de staat gesponsorde groeperingen wordt geconstateerd. AI-tools worden nu naar verluidt gebruikt op diverse gevoelige gebieden, waaronder malware-ontwikkeling, het identificeren van beveiligingslekken, geautomatiseerde phishingcampagnes en geavanceerde cyberaanvallen.

Het rapport benadrukt dat de kwetsbaarheid niet voortkwam uit een typische programmeerfout, maar uit een "semantische logicafout" die inherent is aan het ontwerp van het systeem. Dit type kwetsbaarheid is bijzonder moeilijk te detecteren met traditionele methoden. Google is van mening dat moderne kunstmatige intelligentiemodellen steeds beter in staat zijn om deze complexe kwetsbaarheden te identificeren dankzij hun contextuele begrip van hoe software functioneert.

Onderzoekers van GTIG geven ook aan dat ze verschillende aanwijzingen hebben gevonden die suggereren dat de exploitcode mogelijk is gegenereerd met behulp van een kunstmatige intelligentiesysteem. Deze aanwijzingen omvatten ongebruikelijke instructiedocumentatie, anomalieën in de risicobeoordeling en een zeer georganiseerde codestructuur die doet denken aan datasets die worden gebruikt om machine learning-modellen te trainen.

Volgens het rapport waren de aanvallers van plan deze kwetsbaarheid te misbruiken in een grotere operatie om sterke authenticatie te omzeilen en ongeautoriseerde toegang te krijgen tot verschillende gebruikersaccounts na het stelen van inloggegevens.

Het document vermeldt ook de opkomst van meer autonome malware die direct kan interageren met digitale apparaten. Een programma genaamd PROMPTSPY, geïdentificeerd op Android, zou in staat zijn om met behulp van kunstmatige intelligentie-interfaces een smartphonescherm te analyseren en automatisch acties uit te voeren zoals scrollen, klikken of authenticatiecodes invoeren.

Geconfronteerd met dit veranderende dreigingslandschap, stelt Google dat het de ontwikkeling van AI-gestuurde verdedigingstools versnelt. Het bedrijf werkt aan systemen zoals Big Sleep en CodeMender, die zijn ontworpen om automatisch beveiligingslekken te detecteren en patches aan te bieden voordat ze door kwaadwillenden kunnen worden misbruikt.

Deze recente waarschuwing illustreert de snelle transformatie van het wereldwijde cybersecuritylandschap, waar kunstmatige intelligentie een strategisch instrument wordt voor zowel verdedigers als cybercriminelen.