Sådan forbereder du dig på EU's regulering af kunstig intelligens
IT-PERSPEKTIVER: Den finansielle sektor er blevet spået som én af de sektorer, hvor AI-forordningen vil have betydelig påvirkning. Her er tre konkrete eksempler på, hvad det vil betyde. og hvordan sektoren bør forberede sig.
Hvordan finder AI-forordningen anvendelse?
AI-forordningen tager en risikobaseret tilgang og kategoriserer AI-systemer i 4 risikoniveauer: Lav eller minimal risiko, begrænset risiko, høj risiko og uacceptabel risiko.
Uacceptabel risiko: Disse AI-systemer opfattes som skadelige for grundlæggende rettigheder. Dette gælder blandt andet AI-systemer, der kan bruges til omfattende og indgribende social kontrol eller overvågning. Disse AI-systemer forbydes.
Høj risiko: Disse AI-systemer kan have mere alvorlige konsekvenser, såsom AI-systemer der automatisk træffer beslutninger, der kan påvirke menneskers liv. Dette gælder blandt andet AI-systemer til at foretage kreditvurderinger af mennesker eller fastslå deres kreditværdighed. Disse AI-systemer skal opfylde en række særlige betingelser, såsom risikovurderinger, tilsyn og dokumentation.
Begrænset risiko: Disse AI-systemer anvender generativ AI (eksempelvis chatrobotter som ChatGPT). Her gælder minimumskrav i forhold til gennemsigtighed, således brugerne er klar over, at de interagerer med AI-systemer.
Lav eller minimal risiko: Disse AI-systemer omfatter applikationer, der allerede er bredt tilgængelige som for eksempel spamfiltre. Disse vil være stort set uregulerede.
Hvordan påvirker AI-forordningen den finansielle sektor?
Den finansielle sektor er blevet spået som én af de sektorer, hvor AI-forordningen vil have betydelig påvirkning. Dette er blandt andet fordi, AI vil blive brugt til øget automatisering af denne sektor, og fordi systemerne i mange tilfælde vil kunne påvirke menneskers liv væsentligt.
Her er især tre eksempler, der har relevans for den finansielle sektor:
Kreditvurderings- og beslutningssystemer
AI-systemer, der anvendes til at foretage kreditvurdering af mennesker eller fastslå deres kreditværdighed, kategoriseres pr. definition som et AI-system med høj risiko.
Ligeledes har Europa-Parlamentet lagt op til, at AI-systemer, der er beregnet til at træffe beslutninger om menneskers berettigelse til sundheds- og livsforsikring, også anses som et AI-system med høj risiko.
Disse AI-systemer skal opfylde en lang række krav i AI-forordningen, der blandt andet indebærer oprettelse af et risikostyringssystem, specifikke krav til den anvendte data, registrerings- og dokumentationskrav og gennemsigtighedskrav.
Det er også værd at bemærke, at AI-forordningen både pålægger forpligtelser for udviklere af AI-systemer (der eksempelvis har bygget og evt. trænet den kunstige intelligens) og brugere af AI-systemer (der anvender systemet erhvervsmæssigt).
Kreditinstitutter omfattet af kapitalkravsdirektivet (CRD)
Kreditinstitutter, der er underlagt det fjerde kapitalkravsdirektiv (CRD IV), skal også overholde en række af AI-forordningens krav.
Disse krav og opfyldelsen heraf skal være en integreret del af deres dokumentation for styring af risici, procedurer og intern ledelse, som blandt andet er nødvendige for at efterleve kapitalkravsdirektivet.
Bred definition af AI
EU har i AI-forordningen forsøgt at definere AI under en bred definition. Simpelt sagt defineres det, som et system, der er designet til at operere med varierende grader af autonomi, der kan generere outputs som forudsigelser, anbefalinger eller beslutninger, der påvirker andre miljøer.
Denne definition vil sandsynligvis omfatte systemer til at træffe beslutninger, der har været på plads i adskillige år. Man bør derfor kritisk overveje, hvilke systemer, der allerede anvendes, der kunne blive anset for et AI-system.
Hvordan forbereder man sig på AI-forordningen?
- Kortlæg nuværende brug af AI-systemer
Foretag en vurdering af om de AI-systemer der anvendes i dag, vil blive betegnet som minimal risiko, begrænset risiko, høj risiko eller uacceptabel risiko. Det vil forberede dig på omfanget af krav, jeres system(er) vil blive underlagt, den dag AI-forordningen finder anvendelse. - Tænk AI-forordningens krav ind i nye AI-systemer
Udover ovenstående bør man tænke AI-forordningens krav ind i nye AI-systemer, blandet andet ved at risikovurdere dem som ovenfor. Det gælder især, hvis man selv udvikler nye AI-systemer, men det gælder også hvis man indkøber AI-systemer, hvor kravene skal tænkes ind i kontrakten med ens leverandør. - Udarbejd en AI-governance struktur
Man kan med fordel etablere klare retningslinjer og processer for udvikling, udrulning og overvågning af AI-systemer. Dette er både for at sikre overholdelse af AI-forordningen den dag den finder anvendelse, men også for at sikre overholdelse af øvrig lovgivning såsom GDPR og de sektorspecifikke regler, der gælder for finansielle virksomheder.
