Innledning om strukturen på EU-nivå

Årsaken til at så mye forvaltning er løftet opp fra nasjonalt nivå til EU-nivå er at KI-forordningen skal gjelde likt i hele EU/EØS. Mange KI-systemer og generelle KI-modeller tilbys på tvers av landegrensene, og det er derfor ikke tilstrekkelig at hvert land utvikler sin egen tilsynspraksis på egen hånd.

Noen av de mest avanserte KI-modellene utvikles og tilbys av svært store, globale aktører som gjerne kalles «Big Tech». Erfaringer fra andre regelverk, særlig personvernregelverket (GDPR), har vist at det kan være krevende for nasjonale myndigheter å føre effektivt tilsyn med de største aktørene hver for seg. Dette har bidratt til et behov for sterkere koordinering og kompetanse på EU-nivå.

Flere sentrale oppgaver i KI-forordningen legges til organene på EU-nivået for å sikre en mest mulig enhetlig håndheving, og for å samle ekspertise i saker som særlig gjelder de kraftigste og mest avanserte KI-modellene.

Et tredelt system

Det etableres et tredelt styringssystem på EU‑nivå:

  • et utøvende KI-kontor (AI Office) i Kommisjonen
  • en koordinerende arena i KI-rådet (AI Board) for EU/EØS-statene
  • to faglig rådgivende organer i form at vitenskapspanelet og rådgivende forum

Både KI-kontoret og nasjonale markedstilsynsmyndigheter har ansvar for å implementere, overvåke og håndheve KI‑forordningen. KI-kontoret (AI Office) i Kommisjonen har på sin side ansvar for gjennomføring og håndheving av reglene for KI-modeller for allmenne formål. KI-rådet (AI Board) skal bidra til koordinering og entydig anvendelse av regelverket mellom medlemsstatene.

Samtidig er det fortsatt nasjonale markedstilsynsmyndigheter og meldermyndigheter som er bærebjelken i det nasjonale tilsynet med KI‑systemene.

Les mer om håndheving av KI-forordningen i Norge her: Hvem skal håndheve KI-forordningen i Norge?

KI-kontoret (AI Office) i Kommisjonen

KI‑kontoret (AI Office) skal bygge opp EUs ekspertise på KI‑området. KI-kontoret kan beskrives som motoren som får EU‑systemet til å henge sammen på tvers av medlemsstater og ulike sektorer.

I tillegg til å bygge kompetanse, utvikle metoder og drive veiledning har Kommisjonen «enekompetanse» for til å føre tilsyn og håndheve reglene som gjelder for KI-modeller for allmenne formål. Etter KI-forordningen skal Kommisjonen legge den praktiske gjennomføringen av disse oppgavene til KI-kontoret. Dette betyr at EU‑nivået får en mer sentralisert håndheving for de KI-modellene som virker på tvers av landegrenser, og som kan integreres i mange ulike KI‑systemer.

Les mer om disse kraftigste KI-modellene her: De kraftigste KI-modellene – hvilke regler gjelder?

KI-kontoret skal også bidra til konsistent anvendelse av KI-forordningen på tvers av medlemsstatene, lage regler for god praksis (codes of practice), og utarbeide både delegerte rettsakter og gjennomføringsrettsakter.

Det europeiske KI-rådet (AI Board)

Det europeiske KI‑råd (AI Board) skal koordinere mellom EU/EØS-statene og Kommisjonen, med èn representant fra hver medlemsstat. Det europeiske datatilsynet (European Data Protection Supervisor – EDPS) deltar som observatør. Representanter fra KI-kontoret i Kommisjonen deltar også i møtene i KI-rådet, men uten stemmerett.

KI-rådet er designet for å «binde sammen» den nasjonale forvaltningen og EU‑nivået. Medlemsstatene skal sikre at representantene i KI-rådet har nødvendig kompetanse og fullmakter til aktivt å bidra til KI-rådets oppgaver.

KI-rådets oppgaver

KI-rådets overordnede oppgave er å gi råd og bistå Kommisjonen og medlemsstatene i å lette en konsistent og effektiv anvendelse av KI-forordningen, jf. artikkel 66. For å oppnå dette er det listet opp en rekke oppgaver, som kan sammenfattes i fem hovedpunkter:

  • Fremme samarbeid mellom nasjonale tilsynsmyndigheter og markedstilsyn, samt bidra til koordinert håndheving av KI-forordningen
  • Samle og dele teknisk og regulatorisk ekspertise, beste praksis og erfaringer, samt bidra til opplæring og kompetansebygging hos myndigheter
  • Gi anbefalinger og uttalelser til Kommisjonen om anvendelsen av KI-forordningen, inkludert standarder, retningslinjer, revisjon av regelverket og utviklingstrekk innen KI
  • Bidra til enhetlig administrativ praksis, felles begrepsforståelse, referanseverdier og koordinert bruk av virkemidler som regulatoriske sandkasser og standarder
  • Samarbeide med EU-organer og internasjonale aktører, bidra til veiledningsarbeid og støtte tiltak som styrker KI-kompetanse og offentlig forståelse av KI

Undergruppe for markedstilsyn (ADCO) og meldermyndigheter

KI-rådet skal opprette to faste undergrupper (subgroups). Den ene skal være plattform for samarbeidet mellom markedstilsynsmyndigheter om spørsmål knyttet til markedstilsyn med KI-systemer. Undergruppen for markedstilsyn fungerer som den administrative samarbeidsgruppen (administrative cooperation groups – ADCO) etter artikkel 30 i markedstilsynsforordningen (forordning (EU) 2019/1020).

For virksomheter og myndigheter betyr dette at KI‑tilsynet i EU i stor grad bygger på det samme rammeverket som annet markedstilsyn, og skal koordinere felles problemløsning på tvers av landegrensene.

Den andre faste undergruppen til KI-rådet er for samarbeid mellom såkalte meldermyndigheter (notifying authorities) om spørsmål knyttet til meldte organer/tekniske kontrollorganer (notified bodies).

Begge disse faste undergruppene til KI-rådet er allerede opprettet, og Nkom deltar med fageksperter i begge undergruppene.

Øvrige undergrupper til KI-rådet (AI Board subgroups)

Artikkel 65 åpner for at KI-rådet kan opprette andre faste eller midlertidige undergrupper ved behov. Det er allerede opprettet elleve slike undergrupper, og Norge er representert med fageksperter i alle undergruppene:

  • Prohibitions
  • High Risk Annex III
  • Transparent AI Systems art. 50
  • Steering group on general-purpose AI (GPAI)
  • AI Innovation Ecosystem
  • AI Sandboxes
  • Standards
  • AI Interplay
  • AI Act and MDR/IVDR (medical devices)
  • Financial Services
  • Law enforcement and security 

 

Rådgivende forum (advisory forum)

Det skal også opprettes et rådgivende forum som skal yte teknisk ekspertise og gi råd til KI-rådet og Kommisjonen. Medlemmene i det rådgivende forumet skal representere et balansert utvalg av berørte parter, herunder industri, oppstartsbedrifter, små og mellomstore bedrifter, sivilsamfunnet og akademia. Det skal være balanse mellom kommersielle og ikke-kommersielle interesser. Det er Kommisjonen som utnevner medlemmene. Enkelte aktører er gjort til faste medlemmer, herunder EUs byrå for grunnleggende rettigheter (Fundamental Rights Agency), ENISA (EUs cybersikkerhetsbyrå), og de europeiske standardiseringsorganene CEN, CENELEC og ETSI.

Det rådgivende forumet skal møtes minst to ganger i året og kan invitere eksperter og andre berørte parter til møtene. Forumet kan utarbeide uttalelser, anbefalinger og skriftlige bidrag på anmodning fra KI-rådet eller Kommisjonen. Ved behov kan det også opprette faste eller midlertidige undergrupper for å behandle særskilte spørsmål knyttet til gjennomføringen av KI-forordningen.

Vitenskapspanelet (scientific panel)

Et vitenskapspanel er opprettet for å gi uavhengig vitenskapelig og teknisk støtte ved håndhevingen av KI-forordningen, særlig når det gjelder KI-modeller for allmenne formål (GPAI) og risikoer som kan oppstå på tvers av landegrensene i EU/EØS.

Oppgaven med å gi råd og faglig støtte til KI-kontoret innebærer blant annet å bidra til å utvikle metoder og verktøy for å vurdere hva KI-modeller faktisk kan gjøre. Panelet kan også gi faglige vurderinger av hvordan ulike KI-modeller bør klassifiseres, særlig om en KI-modell for allmenne formål skal anses å utgjøre «systemisk risiko» etter artikkel 51.

Vitenskapspanelet kan også bistå nasjonale markedstilsynsmyndigheter dersom de ber om det, og støtte samarbeidet mellom tilsynsmyndigheter i flere land. Panelet har også en viktig rolle i å oppdage og varsle om risiko. Dersom ekspertene mener at en KI-modell kan utgjøre en alvorlig risiko i EU, eller bør klassifiseres som en KI-modell med systemisk risiko, kan de sende et såkalt «qualified alert» til KI-kontoret (AI Office). Formålet er å sikre at myndighetene blir oppmerksomme på potensielle problemer så tidlig som mulig, slik at de kan undersøke saken nærmere.

Når et slikt varsel mottas, er det KI-kontoret som følger opp saken. Kontoret kan bruke sine håndhevingsfullmakter til å undersøke KI-modellen og eventuelt iverksette tiltak. I denne prosessen skal KI-rådet (AI Board) holdes informert, slik at medlemsstatene kan bidra til koordinering.