Spørsmål

Mirell Høyer-Berntsen (SV): Hvorfor vil ikke statsråden forby teknologiselskaper å generere og spre seksualiserte bilder av personer?

Begrunnelse

Studier fra Center for Countering Digital Hate viser at Elon Musks KI‑modell Grok på 11 dager genererte tre millioner seksualiserte bilder etter brukerbestillinger, hvorav rundt 23 000 gjaldt barn. EU‑kommisjonen har åpnet en formell sak mot Grok, og irske myndigheter har nylig igangsatt en EU‑granskning. Dette illustrerer hvor alvorlige konsekvensene kan være når teknologiselskaper ikke etablerer tilstrekkelige sikkerhetsmekanismer for å hindre produksjon og spredning av skadelig innhold.
Justis- og beredskapsministeren har i et skriftlig svar til Stortinget pekt på behovet for forebyggende tiltak og økt ansvar hos teknologiselskapene. Erfaring viser imidlertid at slike selskaper i begrenset grad tar tilstrekkelig ansvar uten tydelige regulatoriske forpliktelser. Teknologiutviklingen går raskere enn lovverket, og saken om Grok demonstrerer at dagens reguleringer ikke hindrer omfattende produksjon og distribusjon av seksualiserte KI‑bilder, inkludert materiale som rammes av straffeloven.
Digitaliseringsministeren har uttalt at hun «ikke har tro på å blokkere tjenester fordi de potensielt kan misbrukes». I dette tilfellet dreier det seg imidlertid ikke om teoretisk misbruksfare, men om dokumentert og massiv generering av seksualiserte KI‑bilder. Samtidig har Norge et lovverk som strafflegger enkeltpersoners deling av slikt materiale etter §§ 267 a og 311. Det fremstår som en klar svakhet at det ikke stilles tilsvarende krav til selskapene som muliggjør og tilrettelegger for produksjonen i et omfang enkeltpersoner ikke kan matche.
SV vil derfor i behandlingen av stortingsmeldingen Trygg oppvekst i et digitalt samfunn foreslå et forbud mot at teknologiselskaper genererer eller sprer seksualiserte KI‑bilder av personer.
Digitaliserings- og forvaltningsministeren deltar 18. februar i et internasjonalt KI‑møte i New Delhi, hvor barns digitale sikkerhet skal tas opp. Det er derfor naturlig å løfte problemstillingen også i Stortinget, særlig i lys av regjeringens signaler om at den ikke ønsker å innføre et forbud mot teknologiselskapers generering eller distribusjon av seksualiserte KI‑bilder.

Svar

Karianne O. Tung: Jeg viser innledningsvis til mitt svar på spørsmål til skriftlig besvarelse nr. 1060 (2025–2026) om hva regjeringen gjør for å løse utfordringen med bruk av KI til å generere ulovlig seksualisert innhold. Regjeringen er, som tidligere nevnt, tydelig på at slikt innhold er uakseptabelt. I tillegg viser jeg til justis- og beredskapsministerens svar på spørsmål til skriftlig besvarelse nr. 1323 (2025–2026) om blant annet straffbarhet i slike tilfeller, også når det gjelder teknologiselskapenes rolle.
Regjeringen jobber med å gjennomføre forordningen om digitale tjenester (DSA) i norsk rett så raskt som mulig. Dette regelverket er relevant for utfordringene som beskrives i spørsmålet. EU-kommisjonen har startet en ny formell undersøkelse av X etter DSA. Granskningen skal vurdere om selskapet i tilstrekkelig grad har kartlagt og redusert risikoer knyttet til tilgjengeliggjøring av Groks funksjoner på X. Dette gjelder blant annet risiko for spredning av ulovlig innhold, som for eksempel KI-genererte bilder med ulovlig seksualisert innhold. Dette omfatter bilder som viser seksuelle overgrep mot barn. Hvis undersøkelsen bekrefter at slikt innhold har blitt generert og spredt på X, vil det kunne innebære brudd på forpliktelser i DSA. Hvis bruddet er alvorlig eller vedvarende, kan EU-kommisjonen ilegge overtredelsesgebyr på opptil 6 prosent av selskapets globale årsomsetning. I ekstraordinære tilfeller kan tilgangen til tjenesten i EU begrenses midlertidig.
DSA er fullt harmoniserende innenfor denne forordningens område. Dette betyr at landene ikke kan fastsette mer omfattende eller strengere regler på nasjonalt nivå, med mindre DSA eller andre EU-rettsakter åpner for det. Et eventuelt lovforslag som regulerer teknologiselskaper, må derfor ses i sammenheng med DSA. Jeg mener derfor det er riktig å prioritere gjennomføring av DSA i norsk rett nå fremfor å sette i gang nasjonalt regelverksarbeid. Samtidig vil et nasjonalt lovforslag som pålegger forpliktelser for teknologiselskaper etablert i et annet EØS-land, for eksempel X, trolig være i strid med våre forpliktelser etter e-handelsdirektivet.