OpenAI verstoort grootschalige poging om ChatGPT-vaardigheden te repliceren

Friday 02 - 19:10

OpenAI zegt dat het een grootschalige operatie heeft verstoord die gericht was op het extraheren van outputs van zijn kunstmatige intelligentiemodellen om enkele van hun mogelijkheden te reproduceren via een techniek die bekend staat als modeldistillatie. Het bedrijf zei dat de activiteit duizenden accounts omvatte en werd gedetecteerd en gestopt nadat onderzoekers gecoördineerde gebruikspatronen hadden geïdentificeerd.

Modeldistillatie is een legitieme techniek die veel wordt gebruikt in het onderzoek naar kunstmatige intelligentie. Het stelt ontwikkelaars in staat om kleinere of efficiëntere modellen te trainen met behulp van informatie die door grotere systemen is gegenereerd. OpenAI zegt echter dat dezelfde aanpak zonder toestemming kan worden gebruikt om mogelijkheden te reproduceren die zijn ontwikkeld door aanzienlijke investeringen in computerbronnen, trainingsdata en onderzoek.

Volgens OpenAI begon de activiteit op beperkte schaal in juli voordat deze zich uitbreidde via een gecoördineerd netwerk van accounts. Het bedrijf zei dat het meer dan 15.000 accounts had geïdentificeerd die aan de operatie waren verbonden en vervolgens de accounts heeft opgeschort die het beschouwde als betrokken bij pogingen om modelcapaciteiten te extraheren en opnieuw te gebruiken.

OpenAI heeft een deel van de activiteit gekoppeld aan Moonshot AI, de Chinese ontwikkelaar achter de Kimi AI-assistent, terwijl het benadrukt dat het niet heeft vastgesteld of het bedrijf verantwoordelijk was voor de gehele operatie. De beschuldigingen komen te midden van toenemende controle in de Verenigde Staten over het gebruik van modeldistillatie door Chinese AI-bedrijven. Amerikaanse functionarissen hebben verschillende Chinese bedrijven, waaronder Moonshot AI, beschuldigd van het gebruik van distillatie om mogelijkheden te reproduceren die door Amerikaanse AI-bedrijven zijn ontwikkeld. China heeft dergelijke beschuldigingen verworpen en betoogd dat distillatie een standaardtechniek is in AI-ontwikkeling.

Het probleem gaat verder dan commerciële concurrentie. OpenAI stelt dat ongeautoriseerde extractie van geavanceerde modelcapaciteiten ook beveiligingsproblemen kan veroorzaken als systemen krachtige mogelijkheden reproduceren zonder de waarborgen en afstemmingmaatregelen die samen met de oorspronkelijke modellen zijn ontwikkeld. Het bedrijf heeft eerder vijandige distillatie beschreven als een potentieel commercieel, veiligheids- en strategisch risico.

OpenAI zei dat het reageerde door verdachte accounts te sluiten, zijn monitoringsystemen te versterken en kwetsbaarheden aan te pakken die de activiteit hadden kunnen vergemakkelijken. Het bedrijf zei ook dat het samenwerkte met externe dienstverleners om accounts en infrastructuur die aan de operatie waren verbonden te verstoren en relevante bevindingen met andere technologiebedrijven en overheden te delen.

Het voorval benadrukt de toenemende moeilijkheid om grensverleggende AI-modellen te beschermen, aangezien ontwikkelaars steeds meer afhankelijk zijn van geautomatiseerde systemen, grootschalige API-toegang en synthetische data. OpenAI heeft gezegd dat zijn detectie-inspanningen nu geautomatiseerde classifiers, gedragsanalyse, technische monitoring en menselijke onderzoeken combineren om pogingen te identificeren om systematisch modelcapaciteiten te reproduceren.

Het bedrijf verwacht dat dergelijke pogingen steeds geavanceerder zullen worden naarmate AI-systemen verbeteren. Het geschil weerspiegelt ook een bredere uitdaging voor de industrie: het balanceren van legitiem onderzoek en de bredere verspreiding van AI-mogelijkheden met de bescherming van eigendomstechnologie en waarborgen rond steeds krachtigere modellen.

OpenAI heeft gezegd dat het zijn monitoring- en beveiligingsmaatregelen zal blijven versterken terwijl het een grotere informatie-uitwisseling tussen AI-bedrijven en overheidsinstanties aanmoedigt naarmate de technologie zich ontwikkelt.