-
16:26
-
15:48
-
15:03
-
14:14
-
13:39
-
12:48
-
11:56
-
11:03
-
10:20
-
09:19
-
08:45
OpenAI zoekt hoofd paraatheid om AI-risico's aan te pakken
OpenAI zoekt een hoofd paraatheid. Oftewel, iemand wiens belangrijkste taak het is om na te denken over alle manieren waarop AI vreselijk mis kan gaan. In een bericht op X kondigde Sam Altman de functie aan en erkende dat de snelle verbetering van AI-modellen "enkele serieuze uitdagingen" met zich meebrengt. Het bericht benadrukt specifiek de mogelijke impact op de geestelijke gezondheid van mensen en de gevaren van door AI aangedreven cyberwapens.
Altman zegt ook dat deze persoon in de toekomst verantwoordelijk zal zijn voor de uitvoering van het "paraatheidsraamwerk" van het bedrijf, het beveiligen van AI-modellen voor de vrijgave van "biologische mogelijkheden" en zelfs het vaststellen van vangrails voor zelfverbeterende systemen. Hij stelt ook dat het een "stressvolle baan" zal zijn, wat een understatement lijkt.
Naar aanleiding van diverse spraakmakende gevallen waarin chatbots een rol speelden bij de zelfmoord van tieners, lijkt het wat laat dat er nu pas aandacht wordt besteed aan de potentiële gevaren voor de geestelijke gezondheid die deze modellen met zich meebrengen. AI-psychose is een groeiende zorg, omdat chatbots waanideeën voeden, complottheorieën aanwakkeren en mensen helpen hun eetstoornissen te verbergen.
