OpenAI stopt met het gebruik van zijn systemen voor cybercriminaliteit

Monday 14 October 2024 - 14:15

OpenAI, bekend van de ontwikkeling van generatieve AI-oplossingen zoals ChatGPT, kondigde aan dat het onlangs een aantal kwaadaardige campagnes had stopgezet die zijn diensten misbruikten om cyberaanvallen te lanceren.

In een rapport meldde OpenAI dat het tot nu toe in 2024 wereldwijd meer dan twintig frauduleuze campagnes heeft tegengehouden, en dat deze campagnes uiteenlopend waren qua aard, omvang en doelstellingen.

Sommige fraudeurs hebben de producten van het bedrijf gebruikt om malware te debuggen, terwijl ze in andere gevallen zijn gebruikt om nep-inhoud te creëren, zoals artikelen, nep-bios voor sociale-media-accounts en nep-profielfoto's.

Bij zijn pogingen om deze operaties stop te zetten, merkte OpenAI op dat de bedreigingen geen noemenswaardige vooruitgang hebben geboekt.

“Kwaadwillige actoren onderzoeken nog steeds de mogelijkheden van onze modellen, maar we hebben geen enkel bewijs gezien dat ze aanzienlijke vooruitgang hebben geboekt in hun vermogen om nieuwe malware te creëren”, aldus het bedrijf.

Opgemerkt moet worden dat 2024 een verkiezingsjaar is, niet alleen in de Verenigde Staten, maar ook in andere delen van de wereld, en OpenAI heeft de uitbuiting van ChatGPT waargenomen door verschillende partijen die verkiezingscampagnes probeerden te beïnvloeden.

Onder deze partijen bevindt zich een groep die bekend staat als ‘Zero Zeno’, een Israëlisch bedrijf dat op sociale media commentaar plaatste over de Indiase verkiezingen, een campagne die OpenAI in minder dan 24 uur stopte. Deze groep was ook actief in het beïnvloeden van kwesties die verband hielden met verkiezingen in India. oorlog in Gaza en Oekraïne.

Het bedrijf voegde eraan toe dat het in juni van dit jaar, voorafgaand aan de verkiezingen voor het Europees Parlement, een nieuwe campagne heeft opgeschort en dat de campagne ook commentaar bevatte op de verkiezingen in Frankrijk en andere politieke kwesties in Italië, Polen, Duitsland en de Verenigde Staten.

Geen van deze campagnes was erg succesvol en ze werden volledig stopgezet nadat OpenAI ze naar verluidt had verboden.