Nederlandse privacywaakhond waarschuwt bedrijven die AI-chatbots gebruiken

Wednesday 07 August 2024 - 23:00

De Nederlandse privacytoezichthouder Autoriteit Persoonsgegevens waarschuwt voor het gebruik van AI-gestuurde chatbots door bedrijven, naar aanleiding van verschillende lekken van privégegevens, waaronder medische gegevens.

Werknemers die digitale assistenten zoals ChatGPT gebruiken om vragen van klanten te beantwoorden of grote bestanden samen te vatten, besparen misschien tijd, maar vormen ook een risico voor de gegevensbescherming, aldus de AP.

In één geval voerde een assistent van een huisarts privé-informatie over patiënten in een op ChatGPT gebaseerd programma in. Deze informatie werd vervolgens opgeslagen op de servers van het technologiebedrijf en mogelijk gebruikt om de software te trainen, aldus AP.

Mensen moeten erop kunnen vertrouwen dat hun medische gegevens veilig zijn, zegt woordvoerster Karin tegen omroep NOS . “Maar zodra die gegevens in het systeem staan, heb je er geen controle meer over.”

Een ander incident betrof een datalek bij een telecombedrijf, waarbij een medewerker een database met adressen in een chatbot had ingevoerd.

Als een bedrijf het gebruik van AI-gestuurde chatbots toestaat, moet het duidelijke afspraken maken met het personeel over het gebruik van chatbots die worden aangestuurd door kunstmatige intelligentie, aldus de AP.