Formål og hovedinnhold

KI-forordningen bygger på prinsippene i det rettslige rammeverket kalt «New Legislative Framework» (NLF) som danner grunnlaget for de harmoniserte produktsikkerhetsregelverkene i EU. Samtidig går KI-forordningen lenger enn de tradisjonelle produktsikkerhetsregelverkene som er knyttet til fysiske produkter ved at KI-forordningen også regulerer risikoen knyttet til samfunnspåvirkning, demokrati og individers grunnleggende rettigheter.

Det overordnede målet er å legge til rette for innovasjon og teknologisk utvikling, samtidig som våre grunnleggende samfunnsverdier ivaretas. Artikkel 1 nr. 1 fastsetter de fire hovedmålene med KI-forordningen:

  1. Forbedre det indre markedet
  2. Fremme menneskesentrert og pålitelig kunstig intelligens
  3. Sikre et høyt beskyttelsesnivå mot skadelige effekter av KI-systemer for sikkerhet, helse og grunnleggende rettigheter
  4. Støtte innovasjon

Forordningen kategoriserer ulike former for KI-praksis og KI-systemer basert på deres risikonivå. Jo høyere risikoen er, desto strengere er reglene:

Uakseptabel risiko: Kapittel 2 forbyr KI-praksiser som anses å utgjøre en uakseptabel risiko.

Høy risiko: Kapittel 3 fastsetter strenge regler for KI-systemer som faller inn under kategorien høyrisiko.

Begrenset risiko: Kapittel 4 stiller krav til merking og åpenhet for visse KI-systemer. «Begrenset risiko» er ingen offisiell kategori, men fordi kravene kan gjelde både for høyrisiko KI-systemer og de som ikke er høyrisiko, er det vanlig å omtale dette som KI-systemer med begrenset risiko.

Les mer om den risikobaserte tilnærmingen i KI-forordningen her: Risikokategoriene - hvilken risiko har ditt KI-system?

En betydelig del av KI-systemer innebærer ingen eller minimal risiko. KI-forordningen stiller ikke særskilte krav til slike systemer, men KI-kontoret (AI Office) skal sammen med medlemsstatene utarbeide frivillig adferdsregler som gir uttrykk for god bransjepraksis.

Les mer om harmoniserte standarder, retningslinjer og frivillige adferdsregler her: Harmoniserte standarder, retningslinjer og adferdsregler

KI-forordningen inneholder også regler som gjelder for de store KI-modellene som kan brukes til mer generelle formål.

Les mer om disse kravene her: De kraftigste KI-modellene – hvilke regler gjelder?

Oppsummert inneholder KI-forordningen følgende:

  • forbud mot visse KI-praksiser
  • strenge krav til høyrisiko KI-systemer
  • forpliktelser for aktører som utvikler og bruker høyrisiko KI-systemer
  • krav om merking og åpenhet for visse KI-systemer (f.eks. som genererer innhold)
  • regler for KI-modeller for generelle formål
  • regler om samsvarsvurdering
  • regler om markedsovervåking og tilsynsmyndigheter
  • tiltak for å støtte innovasjon, herunder regulatorisk sandkasse for KI
  • regler om sanksjoner

Lovprosessen på EU-nivå

  • 19. februar 2020: Europakommisjonen presenterte de første konseptene for utvikling og regulering av KI i EU i en såkalt «White Paper».
     
  • 21. april 2021: Europakommisjonen la frem sitt første formelle forslag til KI-forordning.
     
  • 9. desember 2023: Trilogforhandlinger mellom Europaparlamentet, Rådet og Europakommisjonen resulterte i politisk enighet om regelverket.
     
  • 13. mars 2024: Europaparlamentet vedtok KI-forordningen.
     
  • 21. mai 2024: Rådet for Den europeiske union vedtok KI-forordningen formelt.
     
  • 12. juli 2024: KI-forordningen ble publisert i Official Journal.
     

Implementering i norsk rett gjennom KI-loven

KI-forordningen er en EU-forordning som fastsetter bindende regler i EUs medlemsland. For at dette regelverket skal få virkning i Norge, må det tas inn i EØS-avtalen gjennom den nye norske loven om kunstig intelligens (KI-loven).

KI-loven skal også fastsette nødvendige nasjonale bestemmelser der KI-forordningen åpner for nasjonalt handlingsrom. Den norske KI-loven vil derfor i hovedsak vise til og utfylle KI-forordningen, blant annet ved å regulere nasjonale myndigheters ansvar knyttet til tilsyn og håndhevelse.

Les mer om KI-loven og den nasjonale forvaltningsstrukturen her: Hvem skal håndheve KI-forordningen i Norge?