Et helt almindeligt billede er nok: På få minutter kan det blive til et falsk nøgenbillede

Det kræver ikke længere avancerede tekniske evner at fremstille et falsk nøgenbillede af et andet menneske. Et almindeligt billede, eksempelvis hentet fra en profil på sociale medier, kan være nok.

Det viser en ny undersøgelse fra Digitalt Ansvar, der har kortlagt såkaldte nudify-bots på beskedtjenesten Telegram.

På bare ti dage i august fandt organisationen 36 forskellige bots, som kunne bruges til at manipulere billeder. Alle blev testet med det samme AI-genererede billede af en tydeligt voksen kvinde.

Resultatet var ifølge undersøgelsen markant: Samtlige 36 bots kunne på få minutter fremstille et virkelighedstro falsk nøgenbillede.

Over en million bruger de undersøgte tjenester

Undersøgelsen peger samtidig på, at værktøjerne bliver brugt i stort omfang.

25 af de 36 bots havde offentligt tilgængelige brugertal. Tilsammen havde de 1.063.701 månedlige brugere.

Det reelle omfang kan være større, da Digitalt Ansvar beskriver kortlægningen som et øjebliksbillede. Bots kan blive lukket, skifte navn og dukke op igen.

• Kunstig intelligens er blevet så avanceret og lettilgængelig, at man nu kan udsætte hvem som helst for en digital seksuel krænkelse på få minutter. Det er som at være med i et afsnit af Black Mirror, siger direktør i Digitalt Ansvar, Ask Hesby Holm.

Ingen krævede dokumentation for samtykke

Digitalt Ansvar undersøgte også, om tjenesterne sikrede sig, at personen på det oprindelige billede havde givet tilladelse.

Ingen af de 36 undersøgte bots krævede dokumentation for samtykke.

Flere af værktøjerne gik samtidig længere end at fremstille falske nøgenbilleder og tilbød muligheden for at placere den afbildede person i forskellige seksualiserede og nedværdigende scenarier.

I det mest omfattende tilfælde kunne brugerne ifølge undersøgelsen vælge mellem 165 forskellige videoscenarier. Langt størstedelen var målrettet kvinder.

I Danmark er det strafbart at fremstille manipuleret seksuelt materiale af en virkelig person uden vedkommendes samtykke – også selv om materialet ikke efterfølgende bliver delt.

Kan ramme helt almindelige mennesker

Den teknologiske udvikling betyder ifølge Digitalt Ansvar, at problemet ikke er begrænset til kendte personer eller mennesker med mange billeder liggende offentligt.

Når værktøjerne er så lettilgængelige, kan helt almindelige mennesker også risikere at blive udsat.

• Det nye er, hvor nemt og tilgængeligt det er blevet at udsætte andre for det her. Med nudify-bots kan man på få minutter og uden tekniske forudsætninger fremstille seksuelt materiale af hvem som helst. Det betyder, at langt flere, også helt almindelige mennesker, risikerer at blive udsat, siger Mikkel Bo Jensen, analytiker hos Digitalt Ansvar.

Selvom materialet er falsk, kan konsekvenserne være reelle. Manipulerede billeder og videoer kan blandt andet bruges til chikane, ydmygelse, afpresning og social kontrol.

36 bots blev anmeldt – seks blev fjernet

Digitalt Ansvar anmeldte alle 36 undersøgte bots til Telegram. 18 blev anmeldt for brud på platformens egne servicevilkår, mens yderligere 18 blev anmeldt som ulovligt indhold med henvisning til dansk lovgivning. I perioden fra den 20. til 31. august blev seks af de 36 bots fjernet. Det får organisationen til at kritisere Telegrams håndtering.

• En ting er, at Telegram vender det blinde øje til, at de her bots florerer i hobetal på platformen, men at de ligefrem afviser at fjerne størstedelen af dem, når vi anmelder dem direkte til dem, det dokumenterer sort på hvidt, at det her kun handler om en ting, og det er manglende vilje, siger Ask Hesby Holm.

Undersøgelsen peger også på betalingssystemerne

Digitalt Ansvar har desuden undersøgt, hvordan der kan betales for nogle af tjenesterne.

Her kan Telegrams digitale valuta, Telegram Stars, blandt andet bruges. Organisationen testede betalingsvejen på både iPhone og Android og kunne købe Stars gennem Apples og Googles betalingssystemer og efterfølgende bruge dem på de undersøgte tjenester.

Digitalt Ansvar efterlyser på baggrund af undersøgelsen blandt andet en mere aktiv indsats mod de pågældende værktøjer og ændringer, der kan forhindre, at betalingssystemer bliver brugt i forbindelse med fremstilling af ulovligt manipuleret seksuelt materiale.