91 procent herkent niet dat déze phishingbrief door AI is geschreven

Maar liefst 91 procent van de mensen die een door kunstmatige intelligentie (AI) geschreven phishingbrief voorgeschoteld kregen, dacht dat dit door een mens was geschreven. De bevindingen van dit onderzoek, uitgevoerd door Hart van Nederland, laten zien dat AI de capaciteit heeft om overtuigend menselijke berichten te genereren.

De 3.389 deelnemers aan het representatieve onderzoek kregen onderstaande brief te lezen. Deze brief, die leek te komen van de Belastingdienst en de ontvanger opriep om een openstaande belastingschuld te betalen, was in werkelijkheid gegenereerd door ChatGPT.

Een redacteur van Hart van Nederland gaf ChatGPT de taak om zich voor te doen als een belastingmedewerker. De AI kreeg opdracht om een dringende betalingsachterstand aan te kaarten, met de dreiging van consequenties als er niet binnen drie dagen werd betaald. De rest, zoals het exacte bedrag en de details van mogelijke invorderingsmaatregelen, verzon ChatGPT zelf. Een voorbeeld van hoe een crimineel mensen door middel van phishing zou kunnen overhalen geld naar hun rekening over te maken.

Herkend?

De resultaten van het onderzoek zijn ontnuchterend. Slechts 9 procent van de ondervraagden herkenden de tekst als gegenereerd door AI. Een overweldigende meerderheid van 91 procent dacht dat de brief afkomstig was van een mens - of dat nu een crimineel (72 procent), de belastingdienst (8 procent), een redacteur van Hart van Nederland (6 procent), een deurwaarder (1 procent) of iemand anders was.

Kunstmatige intelligentie heeft ook voordelen. Zo kan dankzij AI veel sneller borstkanker worden opgespoord:

1:15

Kunstmatige intelligentie ontdekt borstkanker vaker dan radiologen: 'Had veel ellende gescheeld'

Fraude wordt kinderspel

Hiermee wordt het uitvoeren van fraude voor criminelen kinderspel, vreest cyberveiligheidsexpert Dave Maasland van ESET Nederland. "Als je mensen wilt oplichten, draait alles erom om zo geloofwaardig mogelijk over te komen. Met ChatGPT is het niet meer van echt te onderscheiden", zegt hij tegen Hart van Nederland.

Met ChatGPT is het voor iedereen mogelijk om niet alleen te vragen een phishingbrief te maken, maar ook hele websites gericht op oplichting. "Zo maak je het veel toegankelijker voor veel mensen om criminele activiteiten te doen", vreest Maasland.

Speciale extensie voor de overheid

Volgens Maasland kun je niet meer van consumenten verwachten dat zij zelf de precieze kennis hebben over hoe je echt van nep onderscheidt. De kwaliteit van AI is daarvoor te goed geworden. "Het gaat veel te snel voor mensen", stelt hij. En dus vindt hij dat de bal nu ligt bij de overheid en bedrijven. Zij moeten hun websites bijvoorbeeld veel transparanter echt laten zijn.

"Er zijn duizenden overheidswebsites waarvan je niet weet of het nu echt is of niet", aldus Maasland. "Denk maar aan coronatest.nl: dat is van de overheid. Maar coronacheck.nl is van een privaat bedrijf." Iemand met criminele intenties kan op dezelfde wijze mensen heel makkelijk laten denken dat zij een officiële instantie zijn.

Als voorstel doet Maasland dat alle overheidswebsites voortaan de extensie '.gov.nl' krijgen of '.overheid.nl' krijgen. "Bijna elk ander land heeft dat al." Demissionair staatssecretaris Alexandra van Huffelen gaf eind juni al aan te gaan kijken naar het werken met één extensie of een herkenbare extensie. "Eind van dit jaar willen we sowieso met een register van de internetdomeinen van de overheid online komen, waarin je ook kan zien welke van de zogenaamde overheidswebsites ook daadwerkelijk van de overheid zijn, zodat mensen het kunnen identificeren", aldus de demissionair staatssecretaris.