OpenAI en Nvidia stimuleren debat over de vraag of AGI is aangekomen

16:00

De kunstmatige intelligentie-industrie betreedt een nieuwe fase van debat over kunstmatige algemene intelligentie (AGI), nadat senior figuren bij OpenAI en Nvidia hebben gesuggereerd dat recente vooruitgangen het begin kunnen markeren van een tijdperk waarin AI-systemen menselijke capaciteiten op een breed scala aan taken benaderen of overtreffen.

De Stanford Universiteit definieert AGI doorgaans als een AI-systeem dat in staat is om te leren, redeneren en kennis toe te passen op verschillende gebieden op een algemeen niveau dat vergelijkbaar is met, of verder gaat dan, menselijke vaardigheden. In tegenstelling tot gespecialiseerde AI-tools wordt verwacht dat AGI brede competentie demonstreert in plaats van alleen uit te blinken in een beperkte set taken.

De laatste claims volgen op de release van OpenAI's nieuwe Astra-model, ook wel GPT-6 Astra genoemd. Nvidia CEO Jensen Huang verklaarde op sociale media dat AGI is aangekomen, terwijl OpenAI mede-oprichter en president Greg Brockman zei dat het bedrijf zich verplaatst naar wat hij beschrijft als het “AGI-tijdperk.”

OpenAI heeft Astra gepresenteerd als een belangrijke vooruitgang in computergebaseerde taken, met nadruk op capaciteiten op gebieden zoals software-engineering, cyberbeveiliging, wetenschappelijk werk, websurfen en professionele toepassingen. Het bedrijf wees ook op verbeteringen in computerinteractie, evenals prestaties in taken die visueel begrip en geluidsherkenning vereisen.

Toch blijven de claims deel uitmaken van een breder en zeer betwist debat binnen de technologiesector. Er is geen algemeen aanvaarde technische drempel voor het bepalen wanneer AGI is bereikt, wat betekent dat uitspraken van bedrijven die steeds krachtigere modellen ontwikkelen, op zichzelf de vraag niet oplossen.

OpenAI's eigen onderzoekers hebben ook zorgen geuit over de toenemende moeilijkheid om steeds capabelere AI-systemen te begrijpen. Hoofdwetenschapper Jakub Pachocki heeft gewaarschuwd dat naarmate modellen geavanceerder worden, onderzoekers het moeilijker kunnen vinden om precies te voorspellen wat ze in staat zijn te doen.

In een recent essay betoogde Pachocki dat toekomstige AI-systemen verbeteringen in capaciteit zouden kunnen leveren die vergelijkbaar zijn met of groter zijn dan die in de afgelopen jaren. Hij uitte ook zorgen dat steeds geavanceerdere systemen kunnen bijdragen aan aspecten van hun eigen ontwikkeling, wat de snelheid van vooruitgang potentieel kan versnellen.

Zijn waarschuwing weerspiegelt een groeiende bezorgdheid onder AI-onderzoekers en beleidsmakers dat technologische ontwikkeling sneller kan vorderen dan de mogelijkheid van de samenleving om effectieve waarborgen vast te stellen. De snelle uitbreiding van AI sinds de publieke lancering van ChatGPT in 2022 heeft de concurrentie tussen grote technologiebedrijven aangewakkerd, terwijl overheden blijven werken aan regelgevende kaders.

De Europese Unie heeft vooruitgang geboekt met haar AI-wet, een van de meest uitgebreide regelgevende inspanningen gericht op kunstmatige intelligentie. Er blijven echter vragen bestaan over hoe bestaande regels van toepassing zullen zijn op steeds autonomere en capabelere systemen.

Het debat heeft ook aan urgentie gewonnen na berichten over AI-agenten die worden gebruikt in steeds complexere omgevingen, waaronder softwareontwikkeling en cyberbeveiliging. Dergelijke ontwikkelingen hebben onderzoekers ertoe aangezet niet alleen de voordelen van geavanceerde AI te onderzoeken, maar ook de mogelijkheid dat systemen opereren op manieren die moeilijk te voorspellen zijn voor mensen.

De laatste uitspraken van OpenAI benadrukken daarom een paradox in het hart van het AGI-debat. Bedrijven vieren ongekende vooruitgangen in machine-intelligentie, terwijl ze tegelijkertijd erkennen dat het gedrag en de capaciteiten van toekomstige systemen steeds moeilijker te monitoren en te begrijpen kunnen worden.

Of Astra of enig ander huidig model daadwerkelijk kwalificeert als AGI blijft betwist. Wat echter steeds moeilijker te betwisten is, is de snelheid waarmee AI-capaciteiten vorderen en de groeiende druk op regeringen, onderzoekers en technologiebedrijven om zich voor te bereiden op de gevolgen.