OpenAI verstoort twee invloedoperaties verbonden aan Rusland en Iran

Wednesday 14 - 13:33

OpenAI zegt dat het twee invloedoperaties heeft geïdentificeerd en verstoord die naar verluidt ChatGPT gebruikten om misleidende inhoud over geopolitieke conflicten te produceren en te verspreiden. De campagnes, bekend als “Dark Clark” en “Bogus Bylines,” waren respectievelijk verbonden aan Russische en Iraanse actoren, volgens het laatste rapport van het bedrijf over het misbruik van kunstmatige intelligentie.

De bevindingen benadrukken de groeiende bezorgdheid over hoe generatieve AI-tools kunnen worden geïntegreerd in gecoördineerde informatiecampagnes. Hoewel dergelijke systemen kunnen helpen bij schrijven, vertalen en onderzoek, kunnen ze ook worden misbruikt om misleidende verhalen voor te bereiden, identiteiten te vervalsen en inhoud aan te passen voor verschillende doelgroepen.

Volgens OpenAI richtte de Dark Clark-operatie zich op publieken in verschillende Latijns-Amerikaanse landen met inhoud die bedoeld was om Oekraïne te ondermijnen en bepaalde regionale politieke leiders te bekritiseren. Onder de geïdentificeerde activiteiten was de circulatie op TikTok van een naar verluidt vervalste audio-opname die zou zijn toegeschreven aan de consul van Oekraïne in Ecuador. De operators zouden ook een valse e-mailadres hebben gebruikt om scholen in Peru aan te moedigen evenementen te organiseren die verband hielden met Oekraïne.

OpenAI zei dat het de campagne beoordeelde als niveau vijf op zijn zespuntenschaal voor het meten van de impact van invloedoperaties. Het bedrijf waarschuwde echter dat sommige claims van de betrokken personen niet onafhankelijk konden worden geverifieerd, wat de moeilijkheid onderstreept om de volledige reikwijdte en effectiviteit van covert online activiteiten te bepalen.

De tweede operatie, genaamd Bogus Bylines, richtte zich naar verluidt op het produceren van misleidende artikelen over het conflict tussen de Verenigde Staten en Iran. OpenAI zei dat ChatGPT werd gebruikt om concepten te verfijnen, artikelen aan te passen aan de redactionele vereisten van online publicaties en indienings-e-mails voor te bereiden die bedoeld waren om publicatie te waarborgen.

De campagne zou hebben vertrouwd op zeven fictieve auteurs die zich presenteerden als westerse journalisten. OpenAI zei dat het bijna 100 artikelen had geïdentificeerd die sinds juli 2025 over meer dan een dozijn media-outlets waren gepubliceerd. De gerapporteerde activiteit illustreert hoe vervalste identiteiten en AI-ondersteund schrijven kunnen worden gecombineerd in een poging om misleidend materiaal geloofwaardig te laten lijken.

Het gebruik van gevestigde mediaplatforms kan misleidende inhoud toegang geven tot publieken buiten die bereikt worden via nieuw aangemaakte sociale media-accounts. Artikelen die op erkende websites zijn gepubliceerd, kunnen ook elders worden gedeeld, geciteerd door andere gebruikers of opgenomen in bredere online discussies, waardoor het moeilijker wordt om de oorspronkelijke bron en het doel van de inhoud te identificeren.

Echter, de publicatie van een artikel stelt op zich niet vast hoeveel mensen het tegenkwamen, of lezers de claims geloofden of of het de publieke opinie veranderde. Het beoordelen van de werkelijke invloed van dergelijke campagnes vereist bewijs over distributie, betrokkenheid van het publiek en de bredere informatieomgeving.

De gevallen roepen ook vragen op over de rol van bedrijven in kunstmatige intelligentie bij het identificeren en beperken van gecoördineerd misbruik. OpenAI zegt dat het verdachte activiteiten monitort en actie onderneemt tegen accounts die zijn beleid schenden. Dergelijke maatregelen maken deel uit van een bredere inspanning in de technologiesector om geautomatiseerde manipulatie, impersonatie en de opzettelijke verspreiding van valse informatie te detecteren.

Tegelijkertijd bemoeilijkt de groeiende beschikbaarheid van AI-schrijfhulpmiddelen de inspanningen om legitieme politieke commentaren te onderscheiden van georganiseerde misleiding. Onderzoekers en platforms moeten niet alleen de inhoud zelf overwegen, maar ook gedragingen, coördinatie tussen accounts, vervalste identiteiten en pogingen om te verbergen wie er achter een boodschap zit.

De bevindingen van OpenAI wijzen op een evoluerende vorm van digitale propaganda waarin AI kan helpen bij de productie en aanpassing van misleidend materiaal, terwijl bestaande sociale netwerken en online publicaties potentiële kanalen voor distributie bieden. Het rapport benadrukt het belang van transparante bronnen, onafhankelijke verificatie en sterkere samenwerking tussen technologiebedrijven, mediaorganisaties en onderzoekers die invloedcampagnes onderzoeken.