Kunstmatige intelligentie gegenereerde beelden van seksueel misbruik van kinderen bereiken ‘omslagpunt’, zegt toezichthouder

Beelden van seksueel misbruik van kinderen gegenereerd door kunstmatige intelligentietools komen steeds vaker voor op het open web en bereiken een ‘omslagpunt’, aldus een veiligheidswaakhond.

De Internet Watch Foundation zei dat de hoeveelheid
door kunstmatige intelligentie gemaakte illegale content die het de afgelopen zes maanden online had gezien, het totaal van het voorgaande jaar al had overtroffen.

De organisatie, die een Britse hotline beheert maar ook een wereldwijde opdracht heeft, zei dat bijna alle content werd gevonden op openbaar toegankelijke delen van het internet en niet op het dark web, dat alleen toegankelijk is via gespecialiseerde browsers.

De interim-directeur van de IWF, Derek Ray-Hill, zei dat het niveau van verfijning in de afbeeldingen aangaf dat de gebruikte kunstmatige intelligentietools waren getraind op afbeeldingen en video's van echte slachtoffers. “De afgelopen maanden laten zien dat dit probleem niet verdwijnt en zelfs erger wordt”, zei hij.

Volgens een IWF-analist bereikte de situatie met door kunstmatige intelligentie gegenereerde content een "omslagpunt" waarbij veiligheidstoezichthouders en autoriteiten niet wisten of een afbeelding een echt kind betrof dat hulp nodig had.

De IWF ondernam actie tegen 74 meldingen van
door kunstmatige intelligentie gegenereerd kindermisbruikmateriaal (CSAM) - dat realistisch genoeg was om de Britse wet te overtreden - in de zes maanden tot september van dit jaar, vergeleken met 70 in de 12 maanden tot maart. Eén enkel rapport kon verwijzen naar een webpagina met meerdere afbeeldingen.

Naast afbeeldingen van kunstmatige intelligentie met echte slachtoffers van misbruik, omvatten de soorten materiaal die de IWF zag "deepfake"-video's waarin porno voor volwassenen was gemanipuleerd om op CSAM te lijken. In eerdere rapporten zei de IWF dat kunstmatige intelligentie werd gebruikt om afbeeldingen te maken van beroemdheden die "verouderd" waren en vervolgens als kinderen werden afgebeeld in scenario's van seksueel misbruik. Andere voorbeelden van CSAM die werden gezien, omvatten materiaal waarvoor kunstmatige intelligentietools zijn gebruikt om online gevonden foto's van geklede kinderen "naakt te maken".

Meer dan de helft van de door kunstmatige intelligentie gegenereerde content die de afgelopen zes maanden door de IWF is gemarkeerd, wordt gehost op servers in Rusland en de VS, terwijl Japan en Nederland ook aanzienlijke hoeveelheden hosten. Adressen van de webpagina's met de beelden worden geüpload naar een IWF-lijst met URL's die wordt gedeeld met de tech-industrie, zodat ze kunnen worden geblokkeerd en ontoegankelijk kunnen worden gemaakt.

De IWF zei dat acht van de tien meldingen van illegale door kunstmatige intelligentie gemaakte afbeeldingen afkomstig waren van leden van het publiek die ze hadden gevonden op openbare sites zoals forums of galerijen met kunstmatige intelligentie.

Ondertussen heeft Instagram nieuwe maatregelen aangekondigd om sextortion tegen te gaan, waarbij gebruikers worden misleid om intieme afbeeldingen naar criminelen te sturen, meestal als jonge vrouwen, en vervolgens worden onderworpen aan chantagebedreigingen.
Het platform zal een functie uitrollen die alle naaktfoto's vervaagt die gebruikers in directe berichten worden gestuurd, en dringt er bij hen op aan voorzichtig te zijn met het verzenden van directe berichten (DM's) die een naaktfoto bevatten. Zodra een wazig beeld is ontvangen, kan de gebruiker kiezen of hij/zij het wil bekijken of niet. Ook ontvangt hij/zij een bericht waarin hij/zij eraan wordt herinnerd dat hij/zij de optie heeft om de afzender te blokkeren en de chat te melden bij Instagram.

De functie wordt vanaf deze week standaard ingeschakeld voor accounts van tieners wereldwijd en kan worden gebruikt voor versleutelde berichten, hoewel afbeeldingen die zijn gemarkeerd door de functie 'detectie op apparaat' niet automatisch worden gemeld aan het platform zelf of de autoriteiten.

Het wordt een opt-in-functie voor volwassenen. Instagram verbergt ook volgers en lijsten met volgers voor potentiële sextortion-oplichters die erom bekendstaan ​​intieme afbeeldingen naar die accounts te sturen.