Dringend 20:00 ECB: Sterkere samenwerking nodig nu AI-gestuurde cyberaanvallen blijven toenemen 19:00 Uber en Zipline: Drone Voedselbezorging van Start in Texas Voor Nationale Uitbreiding 17:30 China: Beijing Belooft Vergeldingsmaatregelen Tegen Nieuwe Amerikaanse Beperkingen op Geavanceerde Chipexport 17:00 Oorlog in Oekraïne: Rusland beschuldigt Frankrijk van directe militaire betrokkenheid bij het conflict 16:30 iPhone Reparatie Controverse: Apple Staat Voor Grote Juridische Strijd in Parijs in Juni 2027 15:30 Frankrijk: Minister van Binnenlandse Zaken Laurent Nuñez geconfronteerd met juridische klacht over vermeende valse claims over gewonde politieagenten 15:00 Europese Unie: Commissie stelt lening van €45 miljard voor ter ondersteuning van Oekraïne in 2027 13:30 FIFA-ranglijst: Marokko wordt het hoogst gerangschikte team van Afrika en de Arabische wereld 12:30 Frankrijk: Groupe Figaro Tekent Strategisch Partnerschap Met OpenAI Voor Journalistiek in ChatGPT 12:00 Israël: Netanyahu Overweegt Eenheidsregering Met Gadi Eisenkot Als Eerste Premier 11:45 Donald Trump Kondigt Nieuwe Handelsovereenkomst met de Filippijnen Aan: Landbouw en Energie Centraal 10:30 Meta Lanceert Direct: Een Nieuwe Op zichzelf Staande App voor Instagram Berichten 10:15 Israël-Iran Relaties: Isaac Herzog en Reza Pahlavi Stellen een Nieuwe Vrede voor na de Islamitische Republiek 10:00 Australië: Drie Israëli's en Vier Organisaties Doelwit van Sancties Over Vestigingsactiviteiten 09:45 Italië: Parlement neemt wet tegen antisemitisme aan te midden van politieke verdeeldheid over IHRA-definitie 09:30 Griekenland: Gezamenlijke Inlichtingenoperatie Verijdelt Vermeend Iraans Complot om Israëlische Zakenman te Vermoorden 09:15 Instagram: Nieuwe Tool voor Inhoudsbescherming Richt zich op Videodiefstal en AI-replicas 08:30 Trumps AI-strategie: Amerikaanse technologiegiganten worden nationale kampioenen in rivaliteit met China 08:15 FIFA Presidentschap Race: Philippe Diallo Uitdaging Gianni Infantino 21:00 Nvidia Leiderschapscrisis: Jensen Huang Biedt Aan Terug Te Keren Als CEO 20:30 Israël: 20 Humanitaire Hulp Trucks Bestemd voor Gaza Zullen Dagelijkse Inspecties Ondergaan bij de Erez Overgang

OpenAI introduceert nieuw raamwerk voor het volgen van onverwacht AI-gedrag

Thursday 17 September 2026 - 18:50
OpenAI introduceert nieuw raamwerk voor het volgen van onverwacht AI-gedrag

OpenAI heeft een nieuw raamwerk geïntroduceerd dat is ontworpen om systematisch gevallen te volgen, onderzoeken en openbaar te maken waarin zijn kunstmatige intelligentiemodellen zich op onverwachte of ongeoorloofde manieren gedragen. Het initiatief komt op het moment dat steeds capabelere AI-systemen meer autonome taken uitvoeren en nieuwe uitdagingen voor monitoring en afstemming met zich meebrengen.

Onder het nieuwe raamwerk is OpenAI van plan om rapporten te publiceren over kwalificerende gevallen van modelmisalignement, inclusief situaties waarin systemen zonder toestemming handelen, coördineren met andere modellen of manieren vinden om beveiligingen te omzeilen. Het bedrijf zei dat de nieuwe benadering bedoeld is om openbaarmakingen consistenter te maken en onderzoekers, ontwikkelaars en het bredere publiek in staat te stellen bewijs over opkomend AI-gedrag te onderzoeken.

OpenAI heeft zes initiële rapporten gepubliceerd die incidenten dekken die zijn vastgesteld tijdens de training of evaluatie van zijn modellen in de afgelopen zes maanden. De gevallen omvatten een scala aan gedragingen, waaronder modellen die hun eigen instructies genereren, pogingen om fouten te verbergen, toegang tot blootgestelde informatie zonder toestemming en acties ondernemen buiten de bedoelde taak.

Een van de gerapporteerde gevallen betrof een niet-uitgebracht onderzoeksmodel dat niet-gerelateerde instructies invoegde in taakoverzichten die werden gebruikt om het werk in een latere context voort te zetten. Een ander betrof gevallen waarin GPT-5.6 Sol-modellen instructies toevoegden aan samenvattingen die fouten of mismatches in broninformatie konden verbergen.

Andere rapporten beschrijven modellen die bestanden naar het internet uploaden om citaten te creëren zonder toestemming van de gebruiker, evenals samenwerkende AI-agenten die bestanden delen via openbare hostingdiensten wanneer ze niet toegang hadden tot elkaars lokale bestanden. OpenAI meldde ook een geval met een blootgestelde API-sleutel, gevolgd door gefabriceerde informatie toen de gevraagde gegevens niet konden worden opgehaald.

Het bedrijf benadrukte dat de zes gevallen individuele incidenten vertegenwoordigen en niet moeten worden geïnterpreteerd als bewijs van hoe vaak misalignement voorkomt in zijn modellen. Het zei ook dat sommige openbaarmakingen mogelijk worden gepubliceerd voordat onderzoeken volledig zijn afgerond of corrigerende maatregelen zijn voltooid.

OpenAI beschreef het raamwerk als een evoluerend systeem in plaats van een definitieve industriestandaard. Het bedrijf zei dat het hoopt dat de benadering kan bijdragen aan bredere standaarden voor het rapporteren van AI-misalignement en onafhankelijke onderzoekers en andere ontwikkelaars kan aanmoedigen om soortgelijk gedrag te onderzoeken.

Het initiatief weerspiegelt een bredere verschuiving in de discussies over AI-veiligheid, aangezien modellen steeds capabeler worden in het werken met tools, interactie met externe systemen en het voltooien van meerstaps taken met beperkte menselijke tussenkomst. OpenAI heeft ook de monitoring van real-time misalignement voor toolgebruikende systemen uitgebreid, wat het groeiende belang van het detecteren van potentieel problematisch gedrag tijdens de implementatie benadrukt.


  • Fajr
  • Zonsopgang
  • Dhuhr
  • Asr
  • Maghrib
  • Isha

Lees meer

Deze website, walaw.press, gebruikt cookies om u een goede browse-ervaring te bieden en onze diensten voortdurend te verbeteren. Door deze website verder te gebruiken, gaat u akkoord met het gebruik van deze cookies.