Innstilling fra justiskomiteen om representantforslag om demokratisk kunstig intelligens

Dette dokument

Til Stortinget

Bakgrunn

I dokumentet fremmes følgende forslag:

  1. Stortinget ber regjeringen umiddelbart innføre et moratorium i offentlig sektor på å ta i bruk nye kommersielle verktøy som bygger på kunstig intelligens. Moratoriet må vare fram til et regelverk for innføring og bruk av kunstig intelligens for ulike bruksområder er utviklet.

  2. Stortinget ber regjeringen utvikle en konsesjonsordning for innsamling, bruk og lagring av både offentlige data og persondata for kommersielle aktører. En slik konsesjonsordning må fastsette krav til hvilke data som kan brukes, til hvilke typer formål, hvor og hvordan de lagres, og om og hvordan de kan deles med ulike tredjeparter.

  3. Stortinget ber regjeringen legge fram en stortingsmelding om kunstig intelligens som redegjør for hvordan det arbeides med kunstig intelligens på alle nivå i alle sektorer.»

Det vises til dokumentet for nærmere redegjørelse for forslagene.

Komiteens merknader

Komiteen, medlemmene fra Arbeiderpartiet, Odd Harald Hovland, Hadia Tajik og Maria Aasen-Svensrud, fra Høyre, Ingunn Foss og Sveinung Stensland, fra Senterpartiet, Ivar B. Prestbakmo og Else Marie Rødby, fra Fremskrittspartiet, lederen Per-Willy Amundsen og Tor André Johnsen, fra Sosialistisk Venstreparti, Andreas Sjalg Unneland, og fra Venstre, Ingvild Wetrhus Thorsvik, viser til forslaget og til Kommunal- og distriktsdepartementets vurdering i brev av 6. oktober 2023. Brevet følger vedlagt denne innstillingen.

Komiteen viser til at digitale plattformer og «tingenes internett» i stor grad bygger på kunstig intelligens.

Komiteen understreker betydningen av at premissene for den digitale utviklingen ikke bare legges av kommersielle interesser, men av demokratisk valgte organer.

Komiteen påpeker at det er utviklet en rekke regelverk for KI innenfor ulike bruksområder i Norge, samtidig som det er positivt at det nå kommer en egen EU-forordning for KI, som vil kunne sette noen overordna standarder. Det vil være et nyttig supplement til den reguleringen landet allerede har og som vil være under utvikling fremover.

Komiteen viser til at regjeringen Støre har startet arbeidet med en ny, helhetlig digitaliseringsstrategi for Norge. Målet vil være en sterkere samordning og utvikling av en helhetlig politikk som går på tvers av offentlig og privat sektor. Som en del av dette arbeidet vil de også se på hvordan man skal regulere, utvikle og bruke kunstig intelligens. Strategien skal etter planen være klar i 2024.

Komiteens medlemmer fra Arbeiderpartiet og Senterpartiet viser til sine merknader i Innst. 151 S (2023–2024).

Komiteens medlemmer fra Høyre, Fremskrittspartiet og Venstre viser til at kunstig intelligens er et område som spenner bredt, både i teknologier og anvendelsesområder. Generativ kunstig intelligens, som ble allment tilgjengelig gjennom den store språkmodellen ChatGPT høsten 2022, er en type kunstig intelligens. Det finnes allerede en rekke produkter og programvare som bygger på kunstig intelligens og brukes i offentlig sektor. Digitaliseringsdirektoratets oversikt over bruk av kunstig intelligens i offentlig sektor inneholder 135 prosjekter.

Disse medlemmer viser videre til at kunstig intelligens i ulike former allerede bidrar til stor verdiskaping i offentlig sektor, i form av bedre og mer effektive tjenester. På for eksempel Drammen sykehus, brukes teknologien til bruddeteksjon og gir svar på minutter, slik at pasientene slipper å vente på sykehuset i mange timer. I Midt-Telemark brukes kunstig intelligens til planlegging i hjemmetjenesten, som gir kortere reisevei, bedre tid og oftere samme pleier som kommer på besøk hos hjemmebrukerne. Resultatet er mindre stress i arbeidshverdagen for pleierne og bedre tjenester for brukerne. Disse medlemmer mener et umiddelbart moratorium på å bruke kommersiell kunstig intelligens i offentlig sektor vil være uforsvarlig og påføre stor skade på det offentlige tjenestetilbudet.

Disse medlemmer mener personvern er og forblir viktig i samfunnet, også i møte med kunstig intelligens og andre digitale teknologier. Disse medlemmer viser videre til personvernforordningen, også kalt GDPR, som er implementert i norsk rett gjennom personopplysningsloven. Forordningen stiller blant annet krav til innhenting av samtykke til spesifikke formål ved behandling av personopplysninger, og gir et grundig vern for norske og europeiske borgeres persondata. Disse medlemmer mener beskyttelsen av personvernet er sterkt og ikke anses styrket med en egen konsesjonsordning.

Disse medlemmer mener utviklingen i kunstig intelligens bringer med seg et enormt verdiskapingspotensial, som kan gi bedre tjenester i offentlig sektor og et mer effektivt næringsliv. Teknologien byr også på utfordringer, som at man må bli mer kritiske til det man ser, hører og leser. Disse medlemmer mener utfordringene som oppstår må adresseres, men at det samtidig må presiseres hvor det haster mest med løsninger. Disse medlemmer mener en generell stortingsmelding ikke løser utfordringene en står overfor, og at hvis forslagsstillerne etterspør utredninger av konkrete problemstillinger, så bør problemstillingene tydeligere presiseres.

Komiteens medlemmer fra Fremskrittspartiet viser til at kunstig intelligens er et tema med økende aktualitet, og som reiser flere problemstillinger. Disse medlemmer mener på den bakgrunn det er ønskelig at regjeringen redegjør for Stortinget om regjeringens arbeid med problemstillinger knyttet til kunstig intelligens.

Disse medlemmer fremmer derfor følgende forslag:

«Stortinget ber regjeringen redegjøre for Stortinget om regjeringens arbeid med problemstillinger knyttet til kunstig intelligens.»

Komiteens medlem fra Sosialistisk Venstreparti understreker at digitaliseringen av samfunnet og utviklingen av kunstig intelligens går fort, hvor stadig nye prosesser automatiseres. Dette medlem peker på at det gir store muligheter for å effektivisere og bedre en rekke tilbud og tjenester i samfunnet. På den andre siden byr dette også på en rekke utfordringer som samfunnet må løse.

Dette medlem viser videre til at trenden i utviklingen av KI er stadig større og mer komplekse modeller. Da må man sikre at de er rettferdige, og at reguleringen får bukt med de negative konsekvensene av KI og gir grobunn for de positive. I følge Europol kan alt innhold på internett innen 2026 være 90 pst. syntetisk – altså skapt av KI. Det betyr at offentligheten fylles opp av kunstig intelligens, som dermed må spille på lag med behovene og ønskene for samfunnet og befolkningen.

Dette medlem ønsker å vise til det siste årets debatt om utviklingen av generativ kunstig intelligens, og spesielt såkalte språkmodeller, som ChatGPT. Dette er modeller som er trent på enorme mengder tekstdata gjennom algoritmer, og kan tolke og generere tekst, basert på statistiske mønstre i treningsdataene. Dette medlem deler bekymringen for hvordan slik generativ kunstig intelligens kan komme til å endre samfunnet betydelig i framtiden, dersom det forblir uregulert. Likevel vil dette medlem fraråde å løpe etter enkelte språkmodeller og forby dem, da nye kun vil oppstå et annet sted, noe man har sett skje det siste året. Dette medlem vil her understreke at hovedelementet i disse språkmodellene er data, og at å regulere hvilke data som modellene kan trenes på, og for hvilke formål, vil kunne sikre en demokratisk utvikling av generativ kunstig intelligens som vil hindre flere av de negative konsekvensene før modellene settes ut i markedet.

Dette medlem peker også på at utviklingen av KI er og har vært dyr og energikrevende. KI bruker store mengder ferskvann, mye kraft og må ha svært kraftig maskinvare. Det å prioritere både kraft og areal er helt nødvendig for å sikre at man har strøm nok til alle, og at Norge når sine internasjonale forpliktelser, blant annet i FNs naturavtale. I lys av det mener dette medlem at en må ta grep for å begrense energibruken og plassbruken til KI, uten at det går på bekostningen av en digitalisering som kommer hele samfunnet til gode. Da trengs et godt regelverk rundt hvordan dataene som den kunstige intelligensen henter inn og trener på, forvaltes på en bærekraftig måte. Dette medlem mener det i langt større grad må pålegges privat næringsliv å dele datasett med hverandre, heller enn at hvert selskap skal hente inn nærmest identiske data for forskjellige formål. Det resulterer i en unødvendig energibruk, som kun de store, private selskapene tjener på, da mindre selskap ikke har samme kapasitet til å hente inn slike store datasett. Dette medlem mener dagens manglende regelverk om deling av data gjør at mindre selskap blir skadelidende.

Dette medlem understreker at for å sikre en demokratisk og positiv utvikling av KI er man nødt til å sikre et regelverk som svarer på blant annet: Hva skal kunstig intelligens brukes til? Hvem sin kunstige intelligens skal brukes hvor? Hva og hvordan skal man prioritere innenfor kunstig intelligens? Hvem skal få eie dataene en mater kunstig intelligens med? Hvordan ser rettferdighet ut i en kodet verden? Hvem har ansvaret for at algoritmene ikke er rasistiske, sexistiske og undertrykkende for andre grupper i samfunnet? Dette er politiske spørsmål som krever politisk regulering. Dette medlem mener det er behov for en ny stortingsmelding for kunstig intelligens som går nærmere inn på disse spørsmålene, som vil være et godt arbeid opp mot en eventuell implementering av EUs AIAct, som er på vei. Det vil i et slikt arbeid også være særlig viktig å kartlegge om gjeldende regelverk knyttet til opphavsrett er tilstrekkelig. Dette medlem ser med bekymring på at kunstig intelligens trenes på åndsverk fra bl.a. forfattere uten at de blir kompensert eller at deres åndsverk blir respektert, og at globale selskap som både har eierinteresser i slike språkmodeller også har eierinteresser i videresalg av åndsverkene som kommer fra KI.

Dette medlem mener det er gode grunner for å opprette en konsesjonsordning for å sikre demokratisk innsyn og strengere kontroll over innsamling, bruk og lagring av data. Dette medlem ser det som hensiktsmessig at en slik konsesjonsordning utvikles med utgangspunktet i eksisterende regelverk som ivaretar enkeltindivider sin rett til personlige data, men også skaper et nytt regelverk for data som en fellesskapsressurs. Fellesskapsressurser som fiske og vannkraft følger regelverk som en kan hente inspirasjon fra i utviklingen av en slik ordning. Dette medlem ønsker også å vise til at et tydeligere regelverk som en konsesjonsordning av fellesskapets ressurser også vil kunne resultere i økte skatteinntekter til fellesskapet, dersom en for eksempel innfører en grunnrenteskatt på data i Norge. Dette medlem vil påpeke at de store, globale teknologiselskapene skatter svært lite til Norge, på grunn av dagens regelverk.

Dette medlem mener at på nåværende tidspunkt vil det være hensiktsmessig å opprette et offentlig KI-register for å dokumentere hvordan algoritmer benyttes til å levere tjenester til innbyggerne basert på kunnskap og erfaringer fra sammenliknbare land. Dette medlem viser til høringsnotatet fra Juristforbundet som foreslår et slikt system. Dette medlem viser til at byer som Amsterdam og Helsinki har opprettet offentlige KI-registre for å dokumentere hvordan de bruker algoritmer til å levere tjenester til innbyggere. Slike registre er viktig for å sikre tillit mellom det offentlige og borgerne, samt for å være med på å stille strengere krav til leverandørene av de digitale tjenestene, fordi de kan ettergås i offentlighet.

Dette medlem vil i likhet med høringssvaret til Likestillings- og diskrimineringsforbudet understreke at det er en reell risiko for at bruken av kunstig intelligens løper fra demokratiets og rettsstatens evne til å sikre folks rettigheter. Det finnes flere eksempler på at KI bidrar til å forsterke og reprodusere eksisterende ulikhet og diskriminering av allerede utsatte grupper i samfunnet. Dette medlem mener derfor det er viktig å understreke at offentlig sektor har en særskilt plikt i likestillings- og diskrimineringslovens § 24 til å fremme likestilling og hindre diskriminering i all sin virksomhet. Denne plikten gjelder også når forvaltningen bruker kunstig intelligens til å ta avgjørelser om enkeltmennesker, og når digitale verktøy brukes i helse, skole og utdanning.

Dette medlem vil poengtere viktigheten av at KI utvikles med utgangspunkt i den norske befolkningens behov og ressurser. Det betyr at det er viktig å sikre at dataen trenes slik at den blir best mulig tilpasset de folkene som skal bruke den, spesielt i offentlig sektor. Dette medlem mener derfor det er viktig at man ikke blindt kjøper programvarer utviklet på et annet publikum enn det norske, men at man bygger opp om et system som er tilpasset befolkningens behov. Dette medlem mener derfor det er riktig å sette ned et utvalg med oppdrag om å foreslå endringer i lovverket slik at norskutviklet KI bruker norske data under sikre og etiske forhold.

På denne bakgrunn fremmer dette medlem følgende forslag:

«Stortinget ber regjeringen etablere regelverk for innføring og bruk av kunstig intelligens for ulike bruksområder før en storstilt utrulling av kommersielt utviklet kunstig intelligens i offentlig sektor finner sted.»

«Stortinget ber regjeringen legge frem en stortingsmelding om kunstig intelligens som redegjør for hvordan det arbeides med kunstig intelligens på alle nivå i alle sektorer.»

«Stortinget ber regjeringen opprette offentlige KI-registre for å dokumentere hvordan algoritmer benyttes til å levere tjenester til innbyggerne basert på kunnskap og erfaringer fra sammenliknbare land.»

«Stortinget ber regjeringen utvikle en konsesjonsordning for innsamling, bruk og lagring av både offentlige data og persondata for kommersielle aktører. En slik konsesjonsordning må fastsette krav til hvilke data som kan brukes, til hvilke typer formål, hvor og hvordan de lagres, og om og hvordan de kan deles med ulike tredjeparter.»

Komiteens medlem fra Venstre viser til sine merknader i Innst. 151 S (2023–2024).

Forslag fra mindretall

Forslag fra Fremskrittspartiet:
Forslag 1

Stortinget ber regjeringen redegjøre for Stortinget om regjeringens arbeid med problemstillinger knyttet til kunstig intelligens.

Forslag fra Sosialistisk Venstreparti:
Forslag 2

Stortinget ber regjeringen etablere regelverk for innføring og bruk av kunstig intelligens for ulike bruksområder før en storstilt utrulling av kommersielt utviklet kunstig intelligens i offentlig sektor finner sted.

Forslag 3

Stortinget ber regjeringen legge frem en stortingsmelding om kunstig intelligens som redegjør for hvordan det arbeides med kunstig intelligens på alle nivå i alle sektorer.

Forslag 4

Stortinget ber regjeringen opprette offentlige KI-registre for å dokumentere hvordan algoritmer benyttes til å levere tjenester til innbyggerne basert på kunnskap og erfaringer fra sammenliknbare land.

Forslag 5

Stortinget ber regjeringen utvikle en konsesjonsordning for innsamling, bruk og lagring av både offentlige data og persondata for kommersielle aktører. En slik konsesjonsordning må fastsette krav til hvilke data som kan brukes, til hvilke typer formål, hvor og hvordan de lagres, og om og hvordan de kan deles med ulike tredjeparter.

Komiteens tilråding

Komiteens tilråding fremmes av medlemmene i komiteen fra Arbeiderpartiet, Høyre, Senterpartiet, Fremskrittspartiet og Venstre.

Komiteen har for øvrig ingen merknader, viser til representantforslaget og rår Stortinget til å gjøre følgende

vedtak:

Dokument 8:232 S (2022–2023) – Representantforslag fra stortingsrepresentantene Torgeir Knag Fylkesnes og Marian Hussein om demokratisk kunstig intelligens – vedtas ikke.

Vedlegg

Vedlegg finnes kun i PDF, se merknadsfelt.

Oslo, i justiskomiteen, den 12. desember 2023

Per-Willy Amundsen

Hadia Tajik

leder

ordfører