Elon Musk roept rivaliserende AI-bedrijven op om elkaars modellen te testen

16:00

Elon Musk heeft een nieuwe benadering van de veiligheid van kunstmatige intelligentie voorgesteld, waarbij grote AI-ontwikkelaars elkaar’s modellen moeten testen voordat ze deze breed beschikbaar stellen voor het publiek. Het idee komt voort uit de groeiende bezorgdheid over de risico’s die gepaard gaan met steeds krachtigere AI-systemen en de moeilijkheid om potentiële kwetsbaarheden alleen via interne tests te identificeren.

Tijdens de All-In Summit in Los Angeles stelde Musk voor dat toonaangevende Amerikaanse en Chinese AI-bedrijven hun concurrenten toegang zouden moeten geven tot hun modellen voor onafhankelijke veiligheidsbeoordelingen. Onder een dergelijk systeem zouden rivaliserende ontwikkelaars in staat zijn om modellen van andere bedrijven te onderzoeken, zwaktes te identificeren en potentiële risico’s te rapporteren voordat de technologie een breder gebruikerspubliek bereikt.

De bedrijven die in Musks voorstel worden genoemd, zijn onder andere OpenAI, Anthropic, Google, Meta en zijn eigen AI-bedrijf, xAI, samen met verschillende grote Chinese ontwikkelaars. Het initiatief zou in feite een vorm van peer review in de veiligheidstests van AI introduceren, waarbij concurrerende laboratoria systemen onderzoeken die buiten hun eigen organisaties zijn ontwikkeld.

Musk betoogde dat het uitsluitend vertrouwen op de interne veiligheidsteams van een bedrijf bepaalde kwetsbaarheden onontdekt kan laten. Externe tests door concurrenten, stelde hij voor, zouden een ander perspectief kunnen bieden en zwaktes blootleggen die ontwikkelaars mogelijk over het hoofd zien tijdens hun eigen evaluaties.

Het voorstel weerspiegelt een bredere discussie binnen de technologie-industrie over hoe geavanceerde AI-systemen moeten worden beoordeeld voordat ze worden ingezet. Naarmate modellen krachtiger worden en steeds meer worden geïntegreerd in bedrijven, software, onderwijs en andere gebieden, hebben onderzoekers en beleidsmakers manieren onderzocht om veiligheidstests te verbeteren en duidelijkere normen vast te stellen voor het evalueren van potentiële risico’s.

AI-ontwikkelaars gebruiken al een reeks technieken om hun systemen te beoordelen, waaronder red-team oefeningen, adversariële tests en evaluaties uitgevoerd door externe onderzoekers. De reikwijdte en methodologie van deze beoordelingen varieert echter aanzienlijk tussen bedrijven. Musks voorstel zou verder gaan door directe tests tussen grote concurrenten een meer systematisch onderdeel van het ontwikkelingsproces te maken.

Een dergelijke regeling zou een extra laag van controle kunnen bieden, vooral voor modellen met geavanceerde mogelijkheden. Concurrenten kunnen prikkels hebben om agressief naar fouten te zoeken omdat ze bekend zijn met de technische uitdagingen van het ontwikkelen van soortgelijke systemen en de tests vanuit een ander perspectief kunnen benaderen dan het bedrijf dat het model heeft gemaakt.

Tegelijkertijd zou de implementatie van het idee aanzienlijke praktische uitdagingen met zich meebrengen. AI-bedrijven concurreren intensief om marktaandeel, talent en technologische voordelen, waardoor ze terughoudend zijn om concurrenten toegang te geven tot hun eigen modellen. Bezorgdheid over intellectuele eigendom, cybersecurity, vertrouwelijke trainingsmethoden en de potentiële openbaarmaking van commercieel gevoelige informatie zou ook moeten worden aangepakt.

Een andere uitdaging zou zijn om gemeenschappelijke regels voor dergelijke tests vast te stellen. Bedrijven zouden het eens moeten worden over welke informatie kan worden gedeeld, hoe de toegang wordt beheerd, welke veiligheidscriteria worden toegepast en hoe kwetsbaarheden worden gerapporteerd. Onafhankelijke toezicht kan ook noodzakelijk worden als rivaliserende tests een formele rol moeten spelen in beslissingen over de vraag of een AI-model klaar is voor publieke inzet.

Het voorstel benadrukt ook het groeiende belang van samenwerking tussen AI-bedrijven, ondanks hun intense commerciële rivaliteit. Grote ontwikkelaars concurreren om steeds krachtigere modellen te bouwen, terwijl ze tegelijkertijd onder druk staan van overheden, onderzoekers en de samenleving om aan te tonen dat hun systemen verantwoordelijk kunnen worden ingezet.

Cross-company testing zou de noodzaak voor interne veiligheidsteams of onafhankelijk onderzoek niet elimineren. In plaats daarvan zou het bestaande evaluatiemethoden kunnen aanvullen door een extra laag van controle toe te voegen voordat geavanceerde modellen breed beschikbaar worden gesteld.

Musks voorstel voegt daarom iets toe aan een groeiende discussie over hoe de AI-industrie de risico’s die gepaard gaan met snelle technologische ontwikkeling moet beheren. Of grote Amerikaanse en Chinese bedrijven bereid zouden zijn deel te nemen aan een systeem dat is gebaseerd op wederzijdse toegang en competitieve tests, blijft een open vraag, maar het idee benadrukt de groeiende nadruk op bredere en onafhankelijkere veiligheidsbeoordelingen.