Instagram kritiseres for at svigte i kampen mod selvskadeindhold

Digitalt Ansvars undersøgelse har afsløret, at Instagram ikke har fjernet nogen af de 85 selvskadeopslag, der blev oprettet af det falske netværk af profiler, som undersøgelsen etablerede. Selvom nogle af opslagene tydeligt viste blod, barberblade eller direkte opfordring til selvskade, blev ingen af dem modereret eller fjernet af Instagram. Dette sker på trods af platformens egne påstande om at bruge kunstig intelligens til at håndtere sådanne situationer. Ingen advarsler blev sendt til de ti profiler, der deltog i undersøgelsen, og der blev heller ikke givet vejledning eller opfordringer til at søge hjælp.

Algoritmenes destabiliserende rolle

Ikke kun er den automatiske moderation utilstrækkelig, men Instagrams algoritme kan aktivt bidrage til spredningen af selvskadenetværk. Undersøgelsen fandt, at hvis en 13-årig profil fulgte én selvskadenetværksprofil, foreslog algoritmen, at profilen også kunne følge de øvrige i netværket. Dette potentielt farlige mønster kan gøre det nemmere for unge at falde ind i destruktive miljøer, hvor selvskadeindhold deles og forstærkes.

Overtrædelse af EU-regler

Der er også juridiske implikationer. Hvis Instagram ikke aktivt begrænser skadeligt indhold, som kan påvirke brugernes fysiske og mentale sundhed negativt, bryder de muligvis EU’s forordning om digitale tjenester. Dette stiller spørgsmålstegn ved platformens engagement i at beskytte sine brugere og leve op til de juridiske standarder, der er blevet fastsat for store sociale medieplatforme.

Denne undersøgelse sætter fokus på behovet for en mere effektiv tilgang til moderering af skadeligt indhold og understreger vigtigheden af at beskytte yngre brugere mod potentielt farlige online fællesskaber. Det er en påmindelse om det store ansvar, sociale medieplatforme har i at sikre et sikkert online miljø.