Spørsmål

Mirell Høyer-Berntsen (SV): Hvorfor vil ikke statsråden forby teknologiselskaper å generere og spre seksualiserte bilder av personer?

Begrunnelse

Studier fra Center for Countering Digital Hate viser at Elon Musks KI‑modell Grok på 11 dager genererte tre millioner seksualiserte bilder etter brukerbestillinger, hvorav rundt 23 000 gjaldt barn. EU‑kommisjonen har åpnet en formell sak mot Grok, og irske myndigheter har nylig igangsatt en EU‑granskning. Dette illustrerer hvor alvorlige konsekvensene kan være når teknologiselskaper ikke etablerer tilstrekkelige sikkerhetsmekanismer for å hindre produksjon og spredning av skadelig innhold.
Justis- og beredskapsministeren har i et skriftlig svar til Stortinget pekt på behovet for forebyggende tiltak og økt ansvar hos teknologiselskapene. Erfaring viser imidlertid at slike selskaper i begrenset grad tar tilstrekkelig ansvar uten tydelige regulatoriske forpliktelser. Teknologiutviklingen går raskere enn lovverket, og saken om Grok demonstrerer at dagens reguleringer ikke hindrer omfattende produksjon og distribusjon av seksualiserte KI‑bilder, inkludert materiale som rammes av straffeloven.
Digitaliseringsministeren har uttalt at hun «ikke har tro på å blokkere tjenester fordi de potensielt kan misbrukes». I dette tilfellet dreier det seg imidlertid ikke om teoretisk misbruksfare, men om dokumentert og massiv generering av seksualiserte KI‑bilder. Samtidig har Norge et lovverk som strafflegger enkeltpersoners deling av slikt materiale etter §§ 267 a og 311. Det fremstår som en klar svakhet at det ikke stilles tilsvarende krav til selskapene som muliggjør og tilrettelegger for produksjonen i et omfang enkeltpersoner ikke kan matche.
SV vil derfor i behandlingen av stortingsmeldingen Trygg oppvekst i et digitalt samfunn foreslå et forbud mot at teknologiselskaper genererer eller sprer seksualiserte KI‑bilder av personer.
Digitaliserings- og forvaltningsministeren deltar 18. februar i et internasjonalt KI‑møte i New Delhi, hvor barns digitale sikkerhet skal tas opp. Det er derfor naturlig å løfte problemstillingen også i Stortinget, særlig i lys av regjeringens signaler om at den ikke ønsker å innføre et forbud mot teknologiselskapers generering eller distribusjon av seksualiserte KI‑bilder.

Svar

Svaret er ennå ikke tilgjengelig