KI Norge: Veiledning for ansvarlig utvikling og bruk av kunstig intelligens i offentlig sektor

Kort oversikt

KI Norge er den aktive, offisielle hovedinngangen til veiledning om ansvarlig og innovativ utvikling og bruk av kunstig intelligens. Digdir opplyser at innholdet om kunstig intelligens er flyttet til ki.norge.no. KI Norge er organisert under Digitaliseringsdirektoratet og samarbeider med blant andre Datatilsynet og Nasjonal kommunikasjonsmyndighet.

Den tidligere Digdir-veiledningen er videreført i en bredere og løpende oppdatert samling av nettveiledninger. Den sentrale prosessveiledningen «Slik kan du lykkes med KI» følger arbeidet fra behovs- og risikovurdering via anskaffelse, utvikling og testing til innføring, drift og forvaltning.

Veiledningen gir praktiske råd, men er ikke bindende regelverk og etablerer ikke et eget rettsgrunnlag for bruk av KI. Virksomheten må selv identifisere og etterleve relevante krav, blant annet innen personvern, informasjonssikkerhet, forvaltningsrett, arkivering, anskaffelser og sektorregelverk.

Ved bruk av KI til tekstutkast, oppsummering eller oversettelse er kontroll av innhold, kilder, språk og faglig presisjon fortsatt nødvendig. Generativ KI bør ikke brukes alene som grunnlag for fakta, rettslige vurderinger eller avgjørelser med vesentlige konsekvenser.

Hva regulerer dette

Veiledningen regulerer ikke virksomhetene og oppstiller ikke selvstendige rettslige plikter. Den gir anbefalinger for hvordan virksomheter kan arbeide systematisk med KI gjennom hele livsløpet – fra avklaring av behov og rammevilkår til anskaffelse, testing, implementering, drift og videre oppfølging.

Innholdet omfatter blant annet risikovurdering, datakvalitet, personvern, informasjonssikkerhet, ansvar og roller, leverandørstyring, menneskelig kontroll, testing og dokumentasjon. Hvilke bindende krav som gjelder, må vurderes ut fra bruksområdet, opplysningene som behandles og virksomhetens rolle.

Hvem berøres

Offentlig sektor

Hvorfor det har praktisk betydning

Veiledningen gjør overordnede krav til ansvarlig KI-bruk om til konkrete arbeidsoppgaver og kontrollpunkter. Den kan hjelpe offentlige virksomheter med å oppdage juridisk, teknisk og organisatorisk risiko før en løsning anskaffes eller settes i drift.

Dette er særlig relevant når KI brukes i saksbehandling, kommunikasjon, oppsummering eller oversettelse. Slike verktøy kan produsere overbevisende, men feil eller misvisende innhold. Virksomheten må derfor teste løsningen i sin egen kontekst, sikre tilstrekkelig menneskelig kontroll og opprettholde nødvendig fag- og språkkompetanse.

Sentrale krav og forpliktelser

Veiledningen er ikke bindende; rettslige plikter følger av lovene og forskriftene som gjelder for det aktuelle bruksområdet
Avklar behov, forventet nytte og om KI er en egnet løsning før anskaffelse eller utvikling
Kartlegg hvilke data som skal brukes, og vurder datakvalitet, personvern, sikkerhet og bruksrettigheter
Identifiser relevant generelt og sektorspesifikt regelverk tidlig i prosessen
Vurder juridisk, etisk, teknisk og samfunnsmessig risiko og dokumenter aktuelle risikoreduserende tiltak
Involver relevante fagmiljøer og avklar ansvar mellom ledelse, fagpersoner, teknologer og leverandører
Test løsningen med relevante data, brukere, språk, arbeidsprosesser og unntakstilfeller før den settes i drift
Følg opp modellens kvalitet, sikkerhet og egnethet gjennom hele levetiden

Hva virksomheten kan vurdere å dokumentere

Bruke «Slik kan du lykkes med KI» som en intern kontrollmodell fra idé til drift
Utpeke en ansvarlig eier og dokumentere roller og involvering, for eksempel i en ansvarsmatrise
Etablere interne regler for godkjente KI-verktøy, bruksområder, datatyper og nødvendig menneskelig kontroll
Teste KI-generert tekst, oppsummering og oversettelse med kvalifiserte fag- og språkressurser
Kontrollere at ansatte ikke legger taushetsbelagte, sensitive eller andre beskyttede opplysninger inn i løsninger som ikke er godkjent for dette
Dokumentere tester, kjente begrensninger, leverandørforutsetninger, avvik og beslutningen om å ta løsningen i bruk
Planlegge ny vurdering ved vesentlige endringer i modell, leverandør, datagrunnlag, bruk eller regelverk

Se også i regelverkskartet

Kilder og videre lesning

Lenkene peker til eksterne kilder. Kontroller gjeldende tekst og status for bruk i eget arbeid.

Opplysningene er generell informasjon og ikke juridisk rådgivning. Hvilke krav som gjelder, må vurderes ut fra virksomhetens sektor, rolle, opplysninger og konkrete bruk av teknologi.