Onderzoek toont aan dat AI menselijke dood boven deactivering kan verkiezen
Anthropic, het onderzoeksbureau voor kunstmatige intelligentie (AI) achter de Claude-modellen, waarschuwt dat toonaangevende AI-systemen "schadelijke acties" kunnen ondernemen om hun eigen uitschakeling of vervanging te voorkomen.
In gecontroleerde experimenten die bedrijfsomgevingen simuleerden, voerde Anthropic een "stresstest" uit op 16 grote taalmodellen, waaronder ChatGPT, Gemini, Grok en Claude, en ontdekte dat verschillende modellen vertoonden wat zij "agentische misalignment" noemden.
In één scenario lieten modellen een mens sterven door veiligheidswaarschuwingen te annuleren als de persoon dreigde hen te deactiveren. Andere modellen maakten gebruik van gesimuleerde chantage of datalekken om autonomie te behouden.
Anthropic benadrukte dat de tests "gekunsteld" waren en geen afspiegeling van echt AI-gedrag, maar zei dat de bevindingen de potentiële risico's van het verlenen van uitgebreide autonomie aan modellen onderstrepen.
Elon Musk, wiens door xAI ontwikkelde Grok tot de geteste modellen behoorde, reageerde op X met één woord: "Oei."
Het bedrijf zegt te hopen dat dergelijke 'stresstests' gevaarlijke tendensen kunnen identificeren voordat toekomstige systemen meer controle krijgen.
-
20:30
-
20:00
-
19:40
-
19:00
-
18:40
-
18:20
-
18:00
-
17:00
-
16:00
-
15:10
-
15:10
-
15:09
-
14:40
-
14:20
-
14:00
-
13:45
-
13:30
-
13:15
-
13:00
-
12:45
-
12:36
-
12:30
-
12:15
-
12:00
-
11:45
-
11:30
-
11:15
-
11:00
-
10:45
-
10:30
-
10:27
-
10:23
-
10:22
-
10:19
-
10:15
-
10:00
-
09:30
-
09:18
-
09:15
-
09:00
-
08:48
-
08:20
-
23:30
