AI er i gang med at revolutionere finanssektoren: Disse 4 tiltag er afgørende

Her er udfordringerne med AI i finanssektoren

Når AI implementeres og bruges i den finansielle sektor, er der flere ting, som skal sikres. Jeg kan koge dem ned til fire krav, der er afgørende for at efterleve EU’s nye AI-forordning (AIA). 

1. Vi skal sikre os, at vi har lov til at bruge de data, vi anvender.
   
   Med andre ord skal vi have samtykke/lovhjemmel til at behandle de data, vi fodrer vores AI med og blandt andet sikre, at GDPR overholdes.
2. Løsningen skal være testet for, om den indeholder bias.
   
   Her er det områder som religion, etnicitet og køn, som alle skal behandles lige. Den kunstige intelligens skal altså ikke vægte en vis befolkningsgruppes interesser højere end andres, men i stedet være fair.
   
   Modellen skal være under menneskelig op. Her er det vigtigt, at modellen som helhed kan forklares, samt at de enkelte resultater også kan forklares. Eksempelvis hvorfor en bestemt transaktion er udtaget til nærmere undersøgelse.
   
   
3. Data skal være relevante og retvisende i forhold til de funktioner, vores AI arbejder med.
   
   En klassisk udfordring her er at adskille de data, der ligner korrelationer, men i virkeligheden ikke har nogen årsagsvirkning.
   
   Modellen skal endvidere testes grundigt, samt sikres mod cyber- og dataangreb.
   
   
4. Modellen skal monitoreres efter idriftsættelse.
   
   Det er vigtigt at forhindre "drift", som er det, at AI over tid kan ændre sin adfærd og afvige fra det oprindeligt tænkte i kraft af de data, som modellen modtager.
   
   Det er vigtigt, at AI-modellen gentrænes løbende og i det hele taget er underlagt et risk management-system fra vugge til grav.

Løsningen ligger hos it og data scientists i samarbejde med jura og forretningen

En stor del af svaret ligger gemt i brugen af DevOps-platforme for machine learning (ML DevOps) koblet med ML-compliance løsninger.

Det smarte ved ML DevOps-platforme er, at de muliggør tracking helt tilbage fra, da modellen blev udviklet og videre til implementering og drift.

På den måde kan vi kontrollere, hvilke data det egentlig var, vi anvendte, og hvilke tests der er udført undervejs.

ML DevOps-platforme koblet med ML-compliance løsninger er det, som skal til.

Implementeringen af ML DevOps og compliance løsninger som grundlag for al AI-udvikling er med til at etablere en disciplin, som de fleste steder ikke er tilstede i dag.

En disciplin, som er helt central, når vi udvikler og anvender AI fremover.

Den er nødvendig for at leve op til regulativerne i den nye AI-forordning. Ligeledes vil den give struktur på design, udvikling og drift. Noget som nogle udviklere måske vil finde begrænsende, men tværtimod vil det reelt løfte udviklingen på sigt, blandt andet via lettere genbrug og stærkt forbedret test og drift.

Den anden del af svaret er, at forretningen og den juridiske afdeling skal med ind fra starten af udviklingen.

Ved at have juraen på plads fra begyndelsen, er der hele tiden afklaring omkring de juridiske problemstillinger, som de opstår. Ved at trioen bestående af udvikler, forretning og jura mødes, når vi bevæger os igennem udviklingen, sikres det, at alt er klappet af og dokumenteret.

I dag er det alt for ofte udvikleren/data scientisten som sidder med det hele. Forretningen er ikke tilstrækkeligt involveret i afgørende beslutninger og juristerne involveres typisk for sent.

Sådan kommer din virksomhed videre

Forordningen træder i fuld kraft i 2026, formentlig april, og så er bøderne markante.

Politisk blev den endelige tekst vedtaget af ministrene 2. februar 2024.

Den endelige godkendelse af parlamentet forventes til april.

Hvis du vil stå bedst rustet til AI-forordningen, så gå i gang med din virksomheds AIA-review allerede nu.