Nederlandse rechter gebruikt ChatGPT om tot een uitspraak te komen

Tuesday 06 August 2024 - 09:00

Een Nederlandse rechter in Nijmegen heeft voor ophef gezorgd door te erkennen dat hij ChatGPT heeft gebruikt om informatie te verzamelen bij het beslissen in een zaak, zo meldt het AD .

De rechter stelde de AI-chatbot vragen over zonnepanelen en gebruikte het antwoord dat de chatbot gaf in zijn uitspraak. Dit tot grote bezorgdheid van technische en juridische experts die twijfelen of dit wel verantwoord was.

De zaak ging over twee huiseigenaren die in een geschil zaten over zonnepanelen. De een had een extra verdieping aan zijn huis toegevoegd en de ander beweerde dat dit invloed had op de efficiëntie van zijn zonnepanelen.

De rechter vroeg ChatGPT om de gemiddelde levensduur van een zonnepaneel vast te stellen als onderdeel van zijn redenering. “De rechter schat, mede op basis van ChatGPT, dat de gemiddelde levensduur van een zonnepaneel vanaf 2009 tussen de 25 en 30 jaar ligt, dus voor deze zaak hebben we het op 27,5 jaar gesteld,” aldus de uitspraak .

De rechter stelde ChatGPT ook vragen over de gemiddelde prijs voor elektriciteit.

Internetexperts hebben de rechter bekritiseerd omdat hij de AI-bot in aanmerking nam. “Het is belachelijk”, zei Henk van Ess tegen het AD. “Je moet elke AI-bot met een korreltje zout nemen.” In dit specifieke geval is er een extra complicatie, omdat experts verdeeld zijn over de levensduur van zonnepanelen. Sommigen zeggen dat ze wel 40 jaar meegaan.

“ChatGPT heeft geen kennis. Het is geen database”, aldus A1-expert Jarno Duursma. “Het is een computersysteem dat het volgende woord in een zin raadt, niets meer.”

Een woordvoerder van de rechtbank zei dat de rechter ChatGPT slechts als een van de verschillende bronnen had gebruikt en dat de resultaten niet doorslaggevend waren.

Het gebruik van AI in de rechtspraak is niet nieuw en een aantal Amsterdamse advocatenkantoren gebruikt hun eigen juridische chatbot Harvey uitsluitend voor intern gebruik, aldus het AD.

Volgens Dave Maasland van cybersecuritybedrijf Eset kan AI van groot nut zijn voor het rechtssysteem. Het kan namelijk wachttijden verkorten, de taal vereenvoudigen en goedkopere juridische hulp bieden .

Maar het is cruciaal dat het gebruik en de antwoorden grondig worden gecontroleerd, zei hij. "We weten dat generatieve AI nog in de beginfase zit en niet zonder zijn eigen hallucinaties is", zei hij.