Substack introduceert nieuwe tool om AI-geproduceerde inhoud te identificeren

Thursday 23 - 07:32

Substack heeft een nieuwe functie geïntroduceerd die is ontworpen om lezers te helpen bepalen of online artikelen en berichten zijn geschreven door mensen of zijn gegenereerd met de hulp van kunstmatige intelligentie.

Het publicatieplatform heeft het nieuwe systeem ontwikkeld in samenwerking met Pangram, een bedrijf dat gespecialiseerd is in de detectie van AI-geproduceerde teksten. De tool stelt gebruikers in staat om artikelen, berichten, opmerkingen en antwoorden te analyseren om de waarschijnlijkheid te beoordelen dat de inhoud is geproduceerd door een AI-systeem.

Volgens Substack is het initiatief onderdeel van bredere inspanningen om de transparantie te vergroten en het groeiende aantal geautomatiseerde inhoud op internet aan te pakken. De CEO van het platform gaf aan dat het bedrijf zich bijzonder zorgen maakt over inhoud die met AI is gemaakt maar aan lezers wordt gepresenteerd als volledig door mensen geproduceerd.

Het detectiesysteem kan momenteel worden gebruikt op teksten van meer dan 100 woorden die zijn gepubliceerd vanaf 21 juli. De resultaten worden alleen weergegeven aan de persoon die de analyse aanvraagt, in plaats van automatisch aan andere lezers te worden getoond.

Het bedrijf heeft erkend dat AI-detectietechnologie niet perfect is en soms onnauwkeurige resultaten kan opleveren. Echter, het zei dat het systeem van Pangram een hoog niveau van nauwkeurigheid heeft aangetoond in onafhankelijke tests.

De functie is momenteel beschikbaar via het webplatform van Substack en de iOS-app, met ondersteuning voor Android-apparaten die later zal worden geïntroduceerd.

De nieuwe tools zijn ook gericht op schrijvers. Auteurs kunnen het detectiesysteem gebruiken voordat ze hun werk publiceren om te zien hoe hun inhoud wordt geclassificeerd. Substack heeft ook een sectie geïntroduceerd genaamd "Hoe ik dit maak", waarmee schrijvers kunnen uitleggen hoe ze hun werk hebben gemaakt en of ze AI-tools tijdens het proces hebben gebruikt.

Als een schrijver gelooft dat een AI-detectieresultaat onjuist is, biedt het platform een optie om het resultaat te rapporteren en te verzoeken om de classificatie te herzien.

Substack overweegt ook aanvullende maatregelen die schrijvers meer controle zouden geven over hoe AI wordt gebruikt in opmerkingen en antwoorden. Het bedrijf heeft aangegeven dat het ook lezers mogelijk meer controle kan geven over het type inhoud dat aan hen wordt aanbevolen.

Deze stap komt terwijl AI-geproduceerd materiaal steeds gebruikelijker wordt op digitale platforms. Schattingen in de industrie suggereren dat een aanzienlijk aandeel van online berichten nu volledig of gedeeltelijk is gemaakt met de hulp van generatieve AI.

Substack is niet de enige die probeert het probleem aan te pakken. Andere grote technologie- en sociale mediabedrijven verkennen ook manieren om laagwaardige geautomatiseerde inhoud te identificeren en te beperken, terwijl ze werken aan systemen die het mogelijk maken om onderscheid te maken tussen menselijke en machine-geproduceerde materialen.

Echter, de effectiviteit van AI-detectie blijft een onderwerp van debat. Naarmate generatieve AI-modellen steeds geavanceerder worden en in staat zijn om natuurlijk klinkende teksten te produceren, zullen detectiesystemen de uitdaging hebben om gelijke tred te houden met de snel evoluerende technologie.