Dit moet je weten over medische deepfakes
De opkomst van medische deepfakes, door AI gemaakte video’s waarin artsen misleidende gezondheidsclaims doen, is een zorgelijke ontwikkeling. Het zet de geloofwaardigheid en het vertrouwen in artsen onder druk. Wat moet jij weten over deze nepvideo’s die rondgaan op sociale media? Hoe worden ze gemaakt en hoe kun je een betrouwbaar filmpje van een arts onderscheiden van een nepvideo? We gaan hierover in gesprek met Sander Duivestein.
Wie is Sander Duivestein?
Sander is sinds 2005 onderzoeker, auteur en spreker over de impact van nieuwe technologie op mensen, bedrijven en de maatschappij. Hij werkt voor het VerkenningsInstituut Nieuwe Technologie van Sogeti. In oktober 2021 schreef Sander het boek Echt Nep – spelen met de realiteit in tijden van AI. Ook is hij regelmatig te vinden op de opiniepagina’s van journalistieke media en is hij gastcolumnist bij De Volkskrant.
Wat is een medische deepfake?
Met een medische deepfake wordt een door AI gemaakte video bedoeld waarin artsen misleidende gezondheidsclaims doen of bepaalde medicijnen of supplementen aanprijzen. De beelden van pratende artsen of specialisten lijken echt, maar zijn niet authentiek. Op sociale media gaan deze medische deepfakes steeds vaker rond. In een uitzending van Pointer Checkt wordt deze trend uitgebreid besproken.
Bekende (huis)artsen en specialisten zoals Diederik Gommers, Erik Scherder en Dokter Tamara zijn online geconfronteerd met video’s van zichzelf die nooit gemaakt zijn. Ze verkondigen daarin gezondheidsadvies dat niet klopt of zelfs schadelijk kan zijn. Medische deepfakes zetten de geloofwaardigheid en het vertrouwen in (huis)artsen en medische specialisten onder druk.
Waarom zijn medische deepfakes gevaarlijk?
Medische deepfakes ondermijnen het vertrouwen in zorgverleners. De gezichten en stemmen van echte artsen wordt misbruikt om misleidende medische informatie te verspreiden. Sander: ‘Doordat de video’s er authentiek uitziet, kunnen mensen verkeerde gezondheidskeuzes maken. Maar eigenlijk weet je dat een arts nooit supplementen of geneesmiddelen gaat promoten. Dat is niet ethisch en mag niet.’
Medische deepfakes worden meestal ingezet om iets te verkopen en hebben niet gezondheid voorop staan maar een commercieel belang.
Hoe herken je een medische deepfake?
Sander: ‘De belangrijkste les is heel simpel: gebruik je boerenverstand. Vertrouw niet alleen op je ogen. Deepfakes zijn zó goed geworden dat je ze bijna niet meer kunt herkennen. Ga dus niet alleen af op wat je zíet, maar op wat je wéét.’
‘Vraag jezelf af of een arts iets echt op een bepaalde manier zou zeggen of iets zou aanprijzen. Artsen doen geen productaanbevelingen. Punt. Als ze dat wel doen in een filmpje, dan weet je eigenlijk genoeg.’
Waarom is een deepfake zo moeilijk te herkennen?
‘De mimiek en kleine, subtiele bewegingen in iemands gezicht zijn nu zo realistisch dat het bijna niet meer van echt te onderscheiden is. De tijd van zes vingers aan een hand is echt voorbij. Soms zie je een bepaalde glans, waardoor iemand té perfect lijkt. Maar beelden verschijnen in je feed, het duurt 20 à 30 seconden en voor je het weet is het alweer weg. Het is bijna niet meer te herkennen.’
Daar komt nog bij dat mensen graag horen wat ze willen horen. Als je zoekt naar medisch advies en iets vindt dat past bij waar je op hoopt, dan ben je makkelijk te verleiden.
Hoe worden (medische) deepfakes gemaakt?
Sander: ‘Vroeger moest je echt een IT-nerd zijn om zelf een deepfake video te maken. Maar er zijn nu zoveel deepfake-apps en softwaretools te vinden. Met de opkomst van AI-bots als Grok op X (voorheen Twitter) of een AI-model als Sora van OpenAI kan eigenlijk iedereen het. Voor een klein bedrag kun je deze tools activeren om animaties te maken van foto’s die je uploadt.’
‘Bij deepfakes geldt: hoe meer beeldmateriaal en stemgeluid er beschikbaar is, hoe makkelijker het is om iemand na te maken. Artsen die online actief zijn om medische desinformatie te weerleggen, worden zo makkelijk slachtoffer. Sander: ‘Het is ideaal trainingsmateriaal. Hoe meer beeldmaterialen je hebt, des te perfecter is het na te maken.’
Wat moet er gebeuren om (medische) deepfakes tegen te gaan?
Volgens Sander zijn twee dingen cruciaal: wetgeving en bewustwording. ‘De overheid moet echt aan de slag met wet- en regelgeving voor het verspreiden van deepfakes, zeker ook in Europees verband. Dit soort praktijken moet eigenlijk verboden worden.’ Grote geldstraffen voor de technologiebedrijven kunnen helpen, denkt Sander. ‘En dan heb ik het over miljardenboetes, geldstraffen die de big tech partijen écht pijn doen, anders draaien ze hun hand er niet voor om.’
Daarnaast is bewustwording belangrijk. Overheidscampagnes moeten mensen bewuster te maken van de impact van deepfakes, stelt hij. Sander is sceptisch over technische oplossingen zoals watermerken. ‘Er wordt een watermerk uitgevonden en vervolgens verzinnen de boefjes weer een manier om het te omzeilen of om het na te maken. Dat blijft een kat- en muisspel.’
Alertheid medische deepfakes
Mensen zien graag informatie die past bij wat ze al geloven of waar ze op hopen. Medische deepfakes spelen daar op in. Zo creëert iedereen zijn eigen waarheid. Dit kan gevaarlijk zijn voor je gezondheid. Het is daarom belangrijk om voor gezondheidsadvies ook altijd betrouwbare bronnen te checken zoals thuisarts.nl of de website van Gezondheid en Wetenschap. Op het TikTok-kanaal en Instagram-kanaal van Dokters Vandaag geven artsen betrouwbare antwoorden op veelgestelde vragen. Ook huisarts Jojanneke Kant deelt waardevolle informatie over gezondheid op haar Instagram De Vragendokter en in haar podcast.
