Danmarks kompromissforslag om CSAM-forordningen under heftig debatt
Danmark fremla i juli et kompromissforslag til forordningen om forebygging og bekjempelse av seksuelle overgrep mot barn på nettet (Child Sexual Abuse Regulation – CSAM-forordningen). Forordningsforslaget ble fremmet av Kommisjonen i 2022, men har vært svært kontroversielt, da det reiser vanskelige avveiningsspørsmål mellom retten til fortrolig kommunikasjon og beskyttelse av barn mot nettbaserte overgrep. Et særlig kontroversielt punkt har vært bruken av skanning av meldinger uten individuell mistanke, også på ende-til-ende-krypterte tjenester. Det danske forslaget beholder forslaget om slik kontroll også på krypterte tjenester, men legger inn noen flere sikkerhetsmekanismer. Det er foreløpig uklart om dette er nok til å få nødvendig flertall i Rådet. Kompromissforslaget må dessuten også vedtas av Europaparlamentet, som tidligere har gått mot skanning på ende-til-ende-krypterte tjenester.
Det danske formannskapet i EU fremla i juli et kompromissforslag til forordningen om forebygging og bekjempelse av seksuelle overgrep mot barn på nettet (Child Sexual Abuse Regulation – CSAM-forordningen). Forslaget innebærer blant annet at forhåndskontroll av fortrolig kommunikasjon på for eksempel meldingstjenester bare skal kunne rettes mot overgrepsmateriale (CSAM) og ikke mot «grooming», og kun omfatte visuelt innhold og URLer (ikke tekst eller lyd). Det legges også inn flere risikovurderinger og flere tiltak for å skjule brukeres identitet før materiale flagget som «mulig» CSAM gjennom maskinell behandling, gjennomgås av mennesker. Forslaget innebærer at det fortsatt er mulighet for forhåndskontroll med krypterte tjenester, men forutsetter at brukere gjøres oppmerksom på dette i brukervilkårene, og uttrykkelig godtar det. Hvis de ikke godtar vilkåret, kan de likevel bruke tjenesten, men URL-lenker og visuelt innhold vil da blokkeres. Forslaget innebærer at kontrollen (skanningen) skal skje før innholdet lastes opp.
Forslaget til CSAM-forordningen har helt siden fremleggelsen i mai 2022 vært kontroversielt, grunnet vanskelige avveiinger mellom effektiv bekjempelse av overgrep mot barn og personvern. Det opprinnelige forordningsforslaget, fremsatt i mai 2022, åpnet for at tilbydere av hostingtjenester og kommunikasjonstjenester, som for eksempel meldingstjenester (WhatsApp, Messenger etc.), kunne bli pålagt såkalt «sporingsordre», dvs. bli pålagt å installere tekniske løsninger for å avdekke CSAM eller såkalt «grooming» av mindreårige ved hjelp av deres tjenester. Mulig overgrepsmateriale skal deretter innrapporteres til et nytt EU-senter. Forslaget er tidligere omtalt i EU/EØS-nytt 25. mai 2022. Bruken av sporingsordre har helt siden fremleggelsen av forslaget vært svært omstridt, da det kan innebære omfattende inngrep i privat kommunikasjon hos brukere som ikke har gjort noe galt. Særlig omstridt var det at bruken av sporingsordre, i det opprinnelige forslaget, også ville innebære konfidensialitetsbrudd også for ikke ende-til-ende-krypterte meldingstjenester, som for eksempel WhatsApp eller Signal. Selv om det ikke er riktig, slik det ofte fremstilles i mediene, at forslaget la opp til at alle meldinger automatisk skulle skannes, har blant annet EUs egne personvernmyndigheter uttrykt stor bekymring for at kriteriene for utstedelse av sporingsordrene er uklare, og at slike ordre mangler klar avgrensning, og dermed i praksis kan omfatte all bruk av en tjeneste i en periode på opptil 24 måneder.
På bakgrunn av denne kritikken vedtok LIBE-komiteen i Europaparlamentet i november 2023 betydelige innstramninger i forslaget. Endringene innebar blant annet at sporingsordre måtte rettes mot bestemte grupper (for eksempel abonnenter på en bestemt kanal) hvor det var rimelig grunn til mistanke om at CSAM forekom, og at sporingsordre ikke kunne rettes mot ende-til-ende-krypterte tjenester. EU/EØS-nytt omtalte debatten og vedtaket i Europaparlamentet 30. oktober og 21. november 2023. 21. november 2023 ga Europaparlamentet i plenum klarsignal for å innlede trilogforhandlinger.
Rådet har derimot til nå ikke klart å komme til noen felles posisjon, og dermed har ikke trilogforhandlingene kommet i gang. EU-landene er delt i synet på hvordan retten til privat kommunikasjon skal avveies mot hensynet til beskyttelse av barn på nett: Ifølge Politico er det særlig Tyskland, Nederland og Polen som har vært klare motstandere av forhåndsskanning av krypterte meldinger. Det polske formannskapet første halvår 2025 klarte ikke å få flertall for et mer «personvernvennlig» forslag, der skanning av meldingstjenester skulle være frivillig. Den danske kompromissteksten skal ha støtte fra 15 land i EU, men uten Tysklands støtte representerer de ikke 65 % av befolkningen i EU, som er nødvendig for å sikre flertall.
At sporingsordre, også mot krypterte tjenester, nå er tatt inn igjen i det danske kompromissforslaget, har på nytt satt fyr på debatten rundt forordningen, og møtt sterk kritikk fra personvernforkjempere og teknologimiljøer. Mange frykter at forslaget, som motstanderne gjerne omtaler som «EU chat control», vil føre til masseovervåkning, utglidning der man i neste runde tillater tilsvarende skanning for andre typer kriminalitet, samt at sikkerheten mot hackerangrep etc. svekkes. Den europeiske personvernmyndighetens innvendinger var blant annet knyttet til at teknologien som benyttes, har lav treffsikkerhet for såkalt «nytt overgrepsmateriale», dvs. materiale som ikke tidligere er flagget og merket («hashed») som overgrepsmateriale. Bekymringen gjaldt i enda større grad tekstbasert kommunikasjon og «grooming», hvor slike verktøy har særlig lav presisjon. Både personvernmyndigheten og flere andre har vist til at generell forhåndskontroll av meldinger kan være ulovlig, dvs. i strid med EUs Charter om grunnleggende rettigheter. Videre har det vært pekt på, blant annet fra personvernorganisasjonen EDRi (se brev i Documents annexed to contributions), at vurderingen av om noe er «overgrepsmateriale», kan være kontekstavhengig, og at man derfor risikerer at mye uskyldig materiale flagges og deretter underlegges manuell vurdering. I høringen av forslaget pekte dessuten to teknologirettsspesialister fra Universitetet i Leiden på at «it is very likely that providers who are forced to deploy such technology through a detection order will flag all consensual sexual exploration amongst adolescents as possible illegal content», med mulig straffeforfølgelse og spredning av sensitiv personlig informasjon om ungdommene som resultat, og at dette ville være særlig skadelig for LGBTIQ+-ungdom. Samme sted ble det også pekt på risiko for datalekkasje når flagget materiale skal gjennomgås manuelt, og fravær av sikkerhetsmekanismer for slik gjennomgang i forslaget.
Organisasjoner som jobber for barns rettigheter, har på den annen side i stor grad støttet forslaget, jf. bl.a. omtale i EU/EØS-nytt 22. november 2024, da 77 NGOer i anledning verdensdagen for forebygging av vold, overgrep og seksuell utnyttelse av barn sendte et åpent brev til EUs beslutningstakere om forordningen. I brevet de viste til at «the scale, severity, and violence of [nettbasert] child sexual abuse are spiraling out of control, with over half of young people having experienced some form of sexual harm online in their childhood», og ba om at CSAM-forordningen måtte vedtas umiddelbart. Flere organisasjoner har også etterlyst sterkere virkemidler på noen områder, for eksempel justeringer for å sikre at livestreamet overgrepsmateriale omfattes og klarere bestemmelser om hurtig fjerning av overgrepsmateriale og bedre beskyttelse av fornærmedes rettigheter. Samtidig understreker flere, blant annet UNICEF, at dette må balanseres mot «other rights such as the rights to privacy, freedom of expression and access to information».
Det danske kompromissforslaget tar tilsynelatende sikte på å imøtekomme noen av innvendingene, blant annet ved at sporingsordre ikke lenger skal kunne rettes mot «grooming» eller ren tekstbasert kommunikasjon. Det gjenstår likevel å se om dette er nok til å overbevise land som ennå ikke har tatt stilling, særlig Tyskland. Dersom det danske forslaget skulle få støtte i Rådet, må det uansett også ha tilslutning fra Europaparlamentet, som altså tidligere har ønsket å unnta ende-til-ende-krypterte tjenester fra sporingsordre. Det endelige utfallet er derfor usikkert. Parlamentsmedlemmet Emmanouil Fragkos (ECR) stilte 18. august flere spørsmål til Kommisjonen om forslaget, blant annet om «mandatory scanning of all private communications», ville være «compatible with Article 7 of the Charter of Fundamental Rights».
Kontaktinfo
Stortingsbiblioteket: bibl@stortinget.no
Ansvarlig: Vilde Høvik Røberg