Meta stelt lancering van Muse AI-modellen uit vanwege veiligheidszorgen

15:27

Meta heeft de release van zijn nieuwe Muse kunstmatige intelligentie modellen met enkele maanden uitgesteld, waarbij CEO Mark Zuckerberg zegt dat de extra tijd zal worden gebruikt om veiligheids- en beveiligingszorgen rondom geavanceerde AI-systemen aan te pakken.

In een bericht op X op woensdag zei Zuckerberg dat AI-bedrijven en onderzoekslaboratoria de verantwoordelijkheid hebben om het tempo van ontwikkeling en implementatie van hun modellen te bepalen op een manier die voldoende tijd voor testen en risico-evaluatie mogelijk maakt voordat ze breder publiek beschikbaar worden gesteld.

De Meta-chef zei dat de beslissing om Muse uit te stellen onafhankelijk door het bedrijf is genomen en niet als reactie op druk van concurrenten of externe organisaties. Hij benadrukte dat veiligheidsmaatregelen vanaf het begin in het ontwikkelingsproces moeten worden opgenomen in plaats van als een laatste stap voordat een model gebruikers bereikt.

Zuckerberg benadrukte ook de rol van onafhankelijke evaluaties bij het beoordelen van geavanceerde AI-systemen. Externe tests, betoogde hij, kunnen helpen bij het identificeren van potentiële risico's die mogelijk niet worden opgemerkt via de interne evaluatieprocedures van een bedrijf.

Hij pleitte voor bredere en diversere onafhankelijke beoordelingsinspanningen, waarbij een breder scala aan experts en organisaties betrokken is. Dergelijke evaluaties zouden extra controle kunnen bieden over steeds krachtigere AI-modellen voordat ze op grote schaal worden ingezet.

De beslissing komt terwijl grote technologiebedrijven blijven concurreren in de snel evoluerende AI-markt, met steeds geavanceerdere systemen die worden ontwikkeld voor een groeiend aantal toepassingen. Naast de vooruitgang in prestaties zijn de zorgen over mogelijke misbruik, kwetsbaarheden in de cyberbeveiliging en de moeilijkheid om bepaalde uitkomsten van geavanceerde modellen te voorspellen toegenomen.

Het besluit van Meta om Muse uit te stellen benadrukt de groeiende nadruk op het beheersen van AI-risico's binnen technologiebedrijven zelf, terwijl ook de rol van externe controle en onafhankelijke tests wordt versterkt.

De stap weerspiegelt ook een bredere uitdaging waarmee de industrie wordt geconfronteerd: het balanceren van de druk om steeds krachtigere AI-systemen vrij te geven met de noodzaak om ontwikkelaars voldoende tijd te geven om hun mogelijkheden, beperkingen en potentiële risico's te evalueren voordat ze breed beschikbaar komen.