Kort om AI-forordningen
I december 2023 blev der opnået politisk enighed om EU's kommende regler for kunstig intelligens: AI-forordningen. Forordningen opdeler AI-brug i fire lag: Forbudt brug, højrisiko brug, krav til generelle AI-modeller og transparenskrav.
Forsikring er sat på listen over høj risikobrug. Resultatet vil være, at visse forsikrings-scenarier (forventeligt risk assessment og pricing i relation til health and life insurance) underlægges højrisiko-kravene.
Man arbejder i disse dage på at færdiggøre forordningens endelige tekst, som formelt skal vedtages, inden forordningen kan træde i kraft.
Det forventes, at vi står med en endelig tekst i starten af februar. Herefter går der 2 år, før størstedelen af kravene i forordningen træder i kraft.
Det er dermed lige om lidt, at forordningens regler skal implementeres i forhold til drift og udvikling af AI.
Om AI-forordningen
AI-forordningen fastlægger forpligtelser for udviklere og brugere (deployers) af kunstig intelligens afhængigt af risikoen forbundet med anvendelsen af systemet. Størstedelen af kravene lægges på udviklerne.
Forordningen inddeler AI-brug i fem lag:
- Uacceptabel risiko (forbud)
- Høj risiko (strenge krav forud for markedsføring)
- Generelle AI-modeller (transparens krav)
- Begrænset risiko (transparens krav).
- Øvrig AI-brug (ingen krav)
Da det er en forordning, gælder den fra anvendelsesdatoen i alle EU-lande.
Uacceptabel risiko:
AI-systemer med uacceptabel risiko anses for at udgøre en trussel mod mennesker og vil blive forbudt. Dette inkluderer:
- Direkte adfærdsmanipulation af personer eller specifikke sårbare grupper.
- Social scoring: Klassificering af mennesker baseret på adfærd, socioøkonomisk status eller personlige karakteristika
- Biometrisk identifikation og kategorisering af personer på baggrund af særligt følsomme karakteristika.
- Realtids- og fjernbiometriske identifikationssystemer, såsom ansigtsgenkendelse, med henblik på retshåndhævelse.
Nogle undtagelser kan tillades af hensyn til borgernes sikkerhed.
Høj risiko:
AI-systemer på områder, der udpeges som højrisiko, skal leve op til specifikke krav og CE-mærkes. Der er - efter selvvurdering - mulighed for undtagelse af konkrete brugsscenarier, som reelt ikke er højrisiko.
Høj risiko-områderne dækker eksempelvis:
- Udvalgte forsikrings-scenarier
- Styring og drift af kritisk infrastruktur
- Retspleje
- Migration, asyl og grænsekontrol
- AI-systemer, der bruges i produkter omfattet af EU's lovgivning om produktsikkerhed.
Dette inkluderer legetøj, luftfart, biler, medicinske apparater og elevatorer.
Systemer og modeller til generelle formål:
AI-systemer som kan bruges på tværs af flere scenarier samt generativ AI, som f.eks. ChatGPT, skal overholde gennemsigtighedskrav:
- Det skal fremgå, at indholdet blev genereret af AI
- Der skal offentliggøre opsummeringer af ophavsretligt beskyttet data brugt til træning
- Derudover skal generelle modeller, der kan udgøre systemisk risiko på det indre marked gennemgå grundige evalueringer, og alvorlige hændelser skal rapporteres til Europa-Kommissionen.
Begrænset risiko:
AI-systemer med begrænset risiko skal overholde gennemsigtighedskrav, der giver brugerne mulighed for at træffe informerede beslutninger. Brugerne skal informeres, når de interagerer med AI. Dette inkluderer AI-systemer, der genererer eller manipulerer billede-, lyd- eller videoindhold.
AI-forordningen
- 21. april 2021:
EU-Kommissionen fremsatte forslag til forordningen. - 6. december 2022:
Ministerrådet-rådet offentliggjorde deres endelige position (general approach). - 14. juni 2023:
Europa-Parlamentet vedtog deres forhandlingsmandet. - 14. juni 2023:
Forordningen overgik til trilog-forhandlinger, hvor Ministerrådet og parlamentet med kommissionen som mægler skal blive enige om den endelige tekst. - 8. december 2023:
Politisk enighed og aftale om forordningen mellem Ministerrådet og parlamentet. - Q1 2024:
En endelig forordningstekst forventes i januar/februar 2024. Teksten skal formelt vedtages, inden forordningen kan træde i kraft. Dette forventes at ske i Q1 2024.
Implementering i dansk ret: Forventeligt 2024. Forordningen gælder direkte i alle EU-lande efter vedtagelsen. De forskellige krav i forordningen har dog forskellige frister for anvendelse (overgangsperioder). Udgangspunktet er dog 2 år efter ikrafttrædelsen.
Vil du vide mere
Kontakt vores ekspert i digitaliseringspolitik
Jakob Holm
Chefkonsulent