Spørsmål

Guri Melby (V): Vil statsråden ta initiativ til å etablere et norsk KI-sikkerhetsorgan som gir Norge plass i NAAIMES og i det internasjonale KI-sikkerhetssamarbeidet?

Begrunnelse

Sikkerhet knyttet til KI er et tema som opptar svært mange, og av gode grunner. Fordi sikkerhet både er viktig, og krever internasjonalt samarbeid for å få til, har land etter land de siste to årene bygd opp egne organer for evaluering og sikkerhet i kunstig intelligens. Storbritannia, USA, Japan, Canada, Singapore, Frankrike og Australia har etter hva undertegnede kjenner til alle etablert slike institutter. Disse organisasjonene samarbeider gjennom International Network for Advanced AI Measurement, Evaluation and Science (NAAIMES), der metodikk, testresultater og vurderinger av de mest kapable modellene deles mellom land. Norge er etter hva undertegnede kjenner til ikke med.
Regjeringen har slått fast at den skal fremme ansvarlig og etisk KI-utvikling internasjonalt. Når statsministeren drar til FNs høynivåuke, har han sagt at KI er noe av det han ønsker å ta opp. Undertegnede er av den klare oppfatning at Norge ville vært bedre stilt til å være mer å påvirke den internasjonale sikkerhetsdiskusjonen rundt KI, dersom vi hadde de nasjonale institusjonene som gjør at vi kan delta i de mer operative samarbeidene. Langsikt er blant de aktørene i Norge som argumenterer for at det er på tide at det etableres et norsk KI-sikkerhetsorgan som gir Norge plass i NAAIMES og i det internasjonale KI-sikkerhetssamarbeidet. Et slikt organ kan nødvendigvis enten være bygget på eksisterende miljøer eller være en nyopprettelse.

Svar

Torgeir Micaelsen: I lys av siste tids hendelser knyttet til avanserte KI-modeller (frontier models) og advarsler fra ledere av KI-selskaper og uavhengige forskere og eksperter, ser regjeringen behov for forsterket innsats.
Tempoet i utviklingen av avansert KI-modeller er en utfordring, og det er nettopp derfor vi må samarbeide internasjonalt for å få kontroll på utviklingen. Det er Norge en pådriver for. Statsministeren har, sammen med Finlands president Stubb, tatt initiativ til et opprop fra statsledere i over tjue land om å få kontroll på utviklingen av avansert KI.
I oppfølgingen av dette oppropet jobber regjeringen langs flere spor: vi mener at KI-selskapene må ansvarliggjøres, vi vil ha et aktivt internasjonalt samarbeid for å få til dette, og vi vil jobbe for felles regler gjennom å ha tettere dialog med andre lands myndigheter, selskaper og forskningsmiljøer.
Vi har etablert KI Norge. KI Norge bygger nå opp kompetanse på sikker og ansvarlig bruk av KI for å kunne veilede om trygg innføring og bruk av KI i offentlig sektor.
Medlemskap i NAAIMES er, så vidt jeg er kjent med, mulig på flere nivåer – både som hovedmedlem, assosiert medlem og observatør. Vi vil jobbe for å knytte oss til dette nettverket. Jeg vil vurdere nærmere hvilket av disse nivåene som er relevant for oss, gitt at et lite land som Norge ikke vil ha den type testkapabiliteter som de store land, som UK, med en AISI med over 250 ansatte, vil ha. Resultater fra evalueringer som medlemmene i NAAIMES gjennomfører, skal være åpent tilgjengelig. Dette betyr at vi uansett vil benytte oss av nødvendig informasjon for å vurdere sikkerheten ved de mest avanserte KI-modellene.