Har jeg rett til å vite når KI brukes på meg?

Ja, i visse tilfeller. Hvis et KI-system (for eksempel en chatbot eller en digital assistent) er laget for å snakke direkte med mennesker, skal leverandøren sørge for at du får vite at du snakker med en maskin – med mindre det er helt åpenbart at du interagerer med et KI-system.

Unntaket er hvis KI brukes av politiet eller andre myndigheter til å oppdage eller etterforske kriminalitet, og loven gir dem lov til å bruke slike systemer i skjul. Hvis et KI-system lager kunstige bilder, lyd, video eller tekst, skal det tydelig merkes slik at både mennesker og maskiner kan se at innholdet er kunstig laget eller endret. Leverandørene må sørge for at merkingen fungerer godt, er pålitelig og følger gjeldende teknisk standard.

Er all bruk av KI tillatt ifølge forordningen?

Nei. Utgangspunktet er at KI er lov å bruke, men ikke uten grenser. Noen KI-systemer er helt forbudt, og jo mer KI kan påvirke livet ditt, jo strengere regler gjelder. KI-forordningen forbyr visse typer KI-bruk som anses som så risikofylte at de anses som uakseptable, f.eks. manipulerende teknikker, sosial poengsetting av borgere (slik vi ser i Kina), eller bruk av biometrisk overvåkning i sanntid i det offentlige rom (med noen unntak). Dette skal beskytte deg som forbruker mot skadelig bruk av KI.

Hvordan beskytter forordningen meg mot KI-beslutninger som påvirker meg negativt?

KI-forordningen innfører strenge krav til høyrisikosystemer, f.eks. KI brukt innen arbeidsliv, utdanning, bank, og offentlig forvaltning. Disse systemene må være trygge, transparente og rettferdige, og det stilles krav om menneskelig tilsyn med systemene.

Hvis en viktig beslutning som påvirker deg – for eksempel om du får en jobb, et lån eller en plass på skole – blir tatt med hjelp av et høyrisiko KI-system, har du rett til å få en forklaring. Det betyr at du skal kunne få vite:

  • Hvordan KI-en ble brukt i beslutningen.
  • Hva som var de viktigste grunnene til at beslutningen ble tatt.

Målet er at du ikke bare møter et "datamaskinsvar" uten forklaring, men faktisk får en forståelig og meningsfull forklaring på hvorfor avgjørelsen ble som den ble.

Kan jeg klage hvis jeg blir behandlet urettferdig av en KI?

Ja. Forordningen krever at det finnes mekanismer for tilsyn og klage. Det betyr at du kan kontakte relevante tilsynsmyndigheter (f.eks. Nasjonal kommunikasjonsmyndighet) hvis du opplever at reglene i KI-forordningen ikke er fulgt. Myndighetene er forpliktet til å:

  • Ta klagen på alvor
  • Bruke den som grunnlag for å vurdere om de skal følge opp med tilsyn eller kontroll
  • Behandle klagen etter de prosedyrene de har for slike saker

Hva skjer med KI-systemer som ikke følger reglene?

Virksomheter som bryter KI-forordningen, kan få store bøter – opptil 35 millioner euro eller 7 % av global omsetning. Dette skal bidra til å sikre ansvarlig utvikling og bruk av KI-systemer, og beskytte oss somborgere. Kort forklart kan myndighetene bruke disse verktøyene:

  • Forbud mot bruk: Myndighetene kan kreve at systemet trekkes tilbake fra markedet eller at bruken stanses.
  • Pålegg om endringer: Virksomheten kan bli pålagt å rette opp systemet slik at det følger reglene.
  • Bøter: Ved alvorlige brudd kan det ilegges store økonomiske sanksjoner

 

Siden oppdateres fortløpende med nye spørsmål og svar.