Nieuwsbrieflezers en techauteurs in het Nederlandse taalgebied zien dat kunstmatige intelligentie een steeds grotere rol speelt op digitale platforms. Het populaire platform Substack speelt in op die ontwikkeling door een nieuwe functie uit te rollen die lezers helpt te bepalen of een artikel of reactie door AI is gegenereerd. In samenwerking met het gespecialiseerde bedrijf Pangram biedt het platform een scanoptie aan waarmee wordt ingeschat hoeveel tekst afkomstig is van een AI-systeem. De stap is bedoeld om lezers meer transparantie te bieden over de herkomst van de inhoud die zij consumptueren.
- Substack gebruikt de technologie van Pangram om artikelen, notities en reacties te scannen op AI-gebruik.
- De functie is direct beschikbaar op het web en via iOS voor teksten van meer dan 100 woorden die vanaf heden gepubliceerd zijn.
- Auteurs krijgen een speciale verklaring op hun profiel om hun schrijfproces toe te lichten.
Zo werkt de nieuwe scanfunctie voor lezers
Lezers kunnen de nieuwe detectietool gebruiken bij inhoud op het platform die langer is dan 100 woorden. Via het menu met drie puntjes in de bovenhoek van een bericht kan de optie ‘Scan for AI text’ worden geselecteerd. De scan werkt niet alleen op nieuwsbrieven zelf, maar ook op kortere notities en reacties onder artikelen. De functionaliteit is per direct toegankelijk via de webbrowser en de iOS-app, terwijl een uitrol voor Android-gebruikers binnenkort volgt. De analyse geldt voor berichten die vanaf vandaag op het platform verschijnen.
Naast het scannen door lezers krijgen ook de auteurs op Substack extra middelen. Schrijvers kunnen hun eigen concepten vooraf laten analyseren via Pangram en hebben de mogelijkheid om foutieve resultaten te melden. Daarnaast voegt Substack het veld ‘How I make this’ toe. Daarmee kunnen makers expliciet aan hun volgers uitleggen of en op welke manier zij AI-hulpmiddelen inzetten bij het maken van hun werk.
Strijd tegen misleidende ‘Claudefishing’
Volgens Substack-topman Chris Best is het probleem niet dat mensen AI gebruiken, maar dat er een misvatting ontstaat wanneer lezers hun aandacht schenken aan inhoud waar geen menselijke gedachte achter zit.
Substack noemt het fenomeen waarbij lezers worden misleid door computergestuurde teksten ‘Claudefishing’. Het platform stelt dat wanneer lezers moeten twijfelen aan de echtheid van een tekst, dit het vertrouwen in auteurschap aantast en de broodwinning van zelfstandige schrijvers bedreigt. In het bericht waarin de functie werd aangekondigd, deelde Substack tevens een steek uit naar netwerksite LinkedIn vanwege de hoeveelheid automatisch gegenereerde inhoud op dat netwerk.
De technische beperkingen van AI-detectie
Hoewel de integratie lezers houvast moet bieden, erkent de leiding van Substack dat de detectiesoftware van Pangram duidelijke grenzen kent. De software herkent weliswaar of er AI is gebruikt bij de productie van de tekst, maar kan niet vaststellen hoeveel menselijke zorg er in de publicatie is gestoken of dat de software slechts als hulpmiddel of bron is gebruikt.
In de praktijk blijft de betrouwbaarheid van AI-detectiesoftware een bekende uitdaging. AI-detectoren zijn over het algemeen verre van feilloos en kunnen teksten verkeerd beoordelen. Voor lezers betekent dit dat de uitkomst van de scan vooral moet worden gezien als een indicatieve schatting, eerder dan als een definitief bewijs van menselijk of machinaal auteurschap.
Maakt een AI-detector jou voorzichtiger of juist gerustgestelder bij het lezen van online nieuwsbrieven? Laat het ons weten in de reacties.
