Ekstremister bruger i stigende grad populære onlineplatforme til at radikalisere og rekruttere

Ny analyse: AI og mainstream-platforme styrker ekstremistisk rekruttering

Teknologisk udvikling og udbredelsen af kunstig intelligens har gjort det markant lettere for ekstremistiske miljøer at producere og sprede propaganda. En ny analyse fra Center for Terroranalyse (CTA) viser, at radikalisering i stigende grad rykker ind på populære sociale medier og spilplatforme, hvilket øger eksponeringen af børn og unge for ekstremistisk indhold.

Digitale redskaber ændrer rekrutteringsmønstre

Anvendelsen af kunstig intelligens (AI) gør det muligt for ekstremister at generere visuelt materiale og oversætte propaganda med hidtil uset hastighed. Ved at benytte automatiserede brugerkonti, såkaldte bots, kan ekstremistiske narrativer massespredes anonymt og effektivt. Udviklingen betyder, at rekrutteringsprocessen er blevet mindre ressourcekrævende og sværere for myndighederne at overvåge.

Analysen peger på, at algoritmer på mainstream-platforme utilsigtet kan føre brugere mod mere ekstremt indhold ved at foreslå materiale, der minder om tidligere søgninger. Dette skaber digitale ekkokamre, som kan rykke ved de etiske grænser for, hvad brugerne opfatter som normal adfærd.

Platforme og deres anvendelse

Ekstremistiske miljøer benytter forskellige typer af digitale tjenester alt efter formålet. Store, åbne platforme bruges til bred formidling, mens lukkede tjenester anvendes til direkte koordination.

Rekruttering via "tragt-modellen"

CTA beskriver rekrutteringsprocessen som en tragt, hvor potentielle emner gradvist ledes fra offentlige fora til lukkede, krypterede miljøer:

1. Niveau 1: Første kontakt sker på store platforme via memes, kodesprog eller subtile referencer, der vækker interesse uden at bryde sidens retningslinjer.
2. Niveau 2: Brugere, der viser interesse, introduceres for mere eksplicit materiale som manifester eller voldelige videoer.
3. Niveau 3: Den endelige radikalisering og interne organisering foregår i lukkede, krypterede grupper uden adgang for uvedkommende.

Michael Hamann, chef for Center for Kommunikation og Strategi i PET, udtaler:

"Ekstremistisk materiale findes ikke kun i et mørkt hjørne af internettet. I dag findes det i stigende grad også på populære kanaler som YouTube, Instagram, TikTok og Roblox. Det betyder, at helt almindelige unge og mindreårige risikerer at blive udsat for ekstremistisk materiale. I sidste ende kan det radikalisere sårbare unge, der ikke nødvendigvis forstår konsekvensen af at tilgå og dele propaganda."

Nye taktikker til at omgå moderation

Ekstremister benytter i stigende grad teknikker som tactical crossposting, hvor de opretter adskillige profiler på tværs af platforme for at gøre deres netværk modstandsdygtige over for nedlukninger. Derudover anvendes gamification, hvor ekstremistiske scenarier indbygges i computerspil for at engagere et yngre publikum gennem leg og belønningssystemer.

Brugen af kodesprog, emojis og såkaldt dogwhistling gør det muligt at kommunikere hadsk tale, som er svær for både moderatorer og algoritmer at opsnappe, da betydningen kun kendes af de indviede i miljøet.

Konsekvenser for trusselsbilledet

Selvom den teknologiske udvikling gør ekstremistiske miljøer mere modstandsdygtige over for myndighedernes indsats, ændrer analysen ikke på den overordnede vurdering af terrortruslen mod Danmark. PET fortsætter deres målrettede indsats, der kombinerer operative tiltag med forebyggelse og fjernelse af ulovligt materiale fra internettet i samarbejde med civile organisationer og andre myndigheder.