Canada waarschuwt OpenAI om de veiligheid te verbeteren, anders volgt overheidsingrijpen
Canadese ministers hebben OpenAI gewaarschuwd dat de overheid, als het bedrijf zijn veiligheidsprotocollen niet snel aanscherpt na een recente schietpartij op een school, de veranderingen via wetgeving zal afdwingen, aldus een hoge ambtenaar woensdag.
Ottawa riep dinsdag het veiligheidsteam van OpenAI op het matje nadat de maker van ChatGPT had gezegd dat het geen contact had opgenomen met de politie over een account dat het had geblokkeerd en dat toebehoorde aan een vermeende massamoordenaar. Jesse Van Rootselaar, 18 jaar, wordt ervan verdacht op 10 februari acht mensen te hebben gedood voordat ze zelfmoord pleegde in een klein stadje in Brits-Columbia.
OpenAI zei dat het haar account vorig jaar op ChatGPT had geblokkeerd vanwege schendingen van het beleid, die volgens het bedrijf niet voldeden aan interne criteria voor melding aan de politie.
"De boodschap die we ondubbelzinnig hebben overgebracht, was dat we verwachten dat er veranderingen zullen worden doorgevoerd, en als die niet zeer snel komen, zal de overheid veranderingen afdwingen", vertelde minister van Justitie Sean Fraser aan journalisten.
OpenAI was niet direct beschikbaar voor commentaar.
In 2024 introduceerde de Canadese liberale regering een wetsvoorstel om online haat te bestrijden, maar dit initiatief liep vast door kritiek dat het te breed was. Ministers zeggen dat ze het dit jaar opnieuw zullen proberen met meer gerichte maatregelen.
"Alles wat gedaan had kunnen worden om deze tragedie of toekomstige tragedies te voorkomen, moet gedaan worden. We zullen de wet tot in de puntjes onderzoeken," vertelde premier Mark Carney aan journalisten.
Van Rootselaar, die volgens de politie als man geboren is maar zich als vrouw identificeerde en zes jaar geleden met haar transitie begon, had een geschiedenis van psychische problemen. De moorden vonden plaats in Tumbler Ridge, British Columbia, een plaats met ongeveer 2400 inwoners.
"We waren zeer verontrust door de berichten dat er mogelijk een kans was geweest om dit bij de politie in te schakelen... en we willen ervoor zorgen dat als een bedrijf die mogelijkheid krijgt, het die ook daadwerkelijk verder zal escaleren," aldus Evan Solomon, de federale minister verantwoordelijk voor kunstmatige intelligentie.
Dinsdag liet OpenAI weten dat het Ottawa binnenkort op de hoogte zou stellen van de verdere stappen die het onderneemt.
OpenAI zegt dat het het account van Van Rootselaar in 2025 heeft geblokkeerd nadat het was gemarkeerd door systemen die "misbruik van onze modellen ter bevordering van gewelddadige activiteiten" identificeren.
Het bedrijf overwoog contact op te nemen met de politie, maar concludeerde dat het account niet voldeed aan de criteria voor een onmiddellijk en geloofwaardig risico op ernstig lichamelijk letsel voor anderen. Misdaaddeskundigen merkten op dat hoewel meer toezicht op AI-platforms en sociale media noodzakelijk is, de politie of andere autoriteiten mogelijk kansen hebben gemist om de tragedie in British Columbia te voorkomen. De politie had eerder wapens in beslag genomen bij Van Rootselaar thuis, maar deze werden later teruggebracht.
-
22:39
-
17:27
-
16:44
-
15:52
-
15:19
-
14:41
-
14:26
-
13:58
-
11:18
-
09:48
