Danske banker slår bremsen i for brugen af ChatGPT: "Vi har en stor opgave foran os som bank"
De nye generative AI-teknologier som ChatGPT er med fuld fart krøbet ind hos flere finansielle institutioner. Flere banker har indført restriktioner, men arbejder samtidig på at få endnu mere kunstig intelligens ud i forretningen.
Jyske Bank, Nordea og Danske Bank har implementeret forskellige indgreb eller restriktioner, der skal mindske risiciene for, at ChatGPT og lignende AI-værktøjer bruges på en forkert måde.
Det oplyser bankerne til Finansforbundet. Alle tre store danske banker følger dermed en generel tendens i den finansielle sektor, hvor flere både danske og internationale organisationer har indført restriktioner for brugen af de nye offentligt tilgængelige AI-værktøjer.
USA’s største bank, JPMorgan Chase, valgte allerede i februar at indskrænke de ansattes brug af ChatGPT. Siden fulgte restriktioner hos store banker som Citigroup, Goldman Sachs, Bank of America og Deutsche Bank.
Også de tre datacentraler, Bankdata, BEC og SDC har fortalt Finansforbundet, at de tager sikkerhedsrisiciene meget alvorligt og arbejder på løsninger og retningslinjer.
Det sker alt samme efter flere sikkerhedsbekymringer og blandt andet afsløringen om, at ansatte fra Samsung utilsigtet lækkede fortrolige data til amerikanske OpenAI, firmaet bag det populære ChatGPT.
Sådan forholder datacentraler sig til ansattes brug af ChatGPT.
"Sund fornuft er en god retningslinje"
Til Finansforbundet bekræfter bankdirektør Peter Schleidt fra Jyske Bank, at der er implementeret restriktioner for brugen af ChatGPT. Han henviser samtidig til, at medarbejderne generelt bør tænke sig godt om, når de tilgår forskellige værktøjer på internettet.
"Den vigtigste værdi i Jyske Bank er sund fornuft. Når man kender faldgruberne i de her værktøjer, er sund fornuft en god retningslinje for, hvad man kan og ikke kan," siger han.
Peter Schleidt slår videre fast, at en af de helt store udfordringer med den hurtige udvikling inden for kunstig intelligens bliver et intensiveret pres på sikkerheden.
"Det er skræmmende at tænke på, hvilke nye trusler der er for økonomisk kriminalitet, cyberangreb og krig med de nye teknologier. Det er det største minus, som jeg kan se det lige nu," siger han og tilføjer:
"Det kalder på, at vi får mulighed for at samarbejde endnu mere i sektoren og på tværs af myndigheder og finansielle organisationer."
Trods flere bekymringer er der dog mange spændende perspektiver med den nye teknologi, erkender han.
Og især til privat brug er han begejstret for ChatGPT.
"Senest brugte jeg det til at få en prioriteret liste over hvidvine, jeg skulle smage, da jeg var i Portugal i påskeferien. Som jeg har forstået det, har ChatGPT bestået den allerøverste sommelier-eksamen. Der er helt klart perspektiver,” siger han.
”Jeg er imponeret. Men det begår også fejl," lyder det i næste sætning.
Peter Schleidt, bankdirektør hos Jyske Bank siden 2017. Tidligere har han været CTO og CIO hos Danske Bank og var blandt andet en af de første, der så potentialet i MobilePay. Han er uddannet civilingeniør fra DTU i 1989, hvor han blandt andet blev undervist i kunstig intelligens.
Stor opgave at håndtere risiciene
Hos Nordea tager man risiciene med værktøjerne så seriøst, at adgangen til dem er lige nu er begrænset. Restriktioner bliver først fjernet, når der er fundet en løsning på udfordringerne, oplyser Mattias Fras, chef for Nordeas AI Hub.
"Vi arbejder i øjeblikket på en løsning, hvor Nordeas medarbejdere kan bruge ChatGPT og andre generative AI-tjenester på en sikker og compliant måde i overensstemmelse med vores retningslinjer. Indtil den nye løsning er på plads, er adgangen til ChatGPT på OpenAI-hjemmesiden og lignende tjenester begrænset," lyder det.
Nordeas AI Hub blev lanceret i 2021 og arbejder på at øge forretningsværdien af kunstig intelligens. Mattias Fras forklarer, at afdelingen følger udviklingen inden for AI tæt og generelt ser et stort potentiale for, at generative AI-tjenester kan forbedre arbejdsprocesserne i Nordea.
Men han understreger, at der er mange risici, der skal håndteres i forhold til sikkerhed, normer, etiske standarder og lovgivning blandt andet via EU.
"Vi har en stor opgave foran os som bank i forhold til at håndtere disse risici på en ansvarlig måde," lyder det i hans svar, der fortsætter:
"Det er vigtigt at afveje fordele og risici og samtidig sikre, at vi har gode kontroller på plads. Med introduktionen af generativ AI stilles der nye og høje krav."
Tekniske kontrol og konkret vejledning
Til Finansforbundet oplyser Danske Bank, at nye teknologier, herunder generative AI-værktøjer såsom ChatGPT, udgør en central del bankens nye strategi Forward ’28. Men også her er der taget forbehold for, at der er risici knyttet til brug af værktøjerne.
Dansk Bank melder, at en kombination af teknisk kontrol og konkret vejledning til, hvordan man bruger, og ikke bruger, generative AI-værktøjer, skal gøre det muligt for medarbejdere at bruge værktøjerne "på en tryg måde."
"Det giver vores medarbejdere mulighed for at drage fordel af brugen af disse og andre digitale værktøjer samtidig med, at vi reducerer risiciene til et acceptabelt niveau," lyder det fra Danske Banks presseafdeling.
Finansforbundet har desuden modtaget et kort svar fra den mindre bank Ringkjøbing Landbobank, hvor meldingen ind til videre er, at der endnu ikke er udstukket konkrete retningslinjer knyttet til ChatGPT.
Mattias Fras, chef for Nordeas AI Hub.
Alarmklokkerne ringer
Trods bekymringer og begyndende restriktioner tyder noget på, at mange er begyndt at bruge værktøjerne til arbejdsopgaver. I en rundspørge på LinkedIn fra Finansforbundet tilkendegav 22 procent af knap 1.500 deltagere, at de brugte kunstig intelligens som ChatGPT i deres arbejde.
Men med en streng lovgivning og skrappe compliancekrav i den finansielle sektor skal man være opmærksom på, hvad man bruger eksempelvis ChatGPT til.
ChatGPT er en avanceret sprogmodel udviklet af amerikanske OpenAI. Med et par få tekstbaserede kommandoer kan den generere besvare spørgsmål og formulere tekst, der er trænet på en bred vifte af kilder.
Men når du skriver en kommando i ChatGPT eller mange andre offentligt tilgængelige værktøjer, overfører du oplysninger og data, som kan blive videregivet. Det er alvorligt, hvis der er tale om person- eller fortrolige oplysninger.
Med ChatGPT kan det være ekstra udtalt for europæiske virksomheder, da ejeren, OpenAI, har hovedsæde i USA, hvorfor der principielt talt kan være tale om en tredjelandsoverførsel, hvilket indebærer yderligere skærpede krav.
To partnere hos advokathuset Plesner har fortalt Finansforbundet, hvordan man bør forholde sig som medarbejdere, og ikke mindst hvad man ikke bør bruge værktøjerne til.
Forkert brug af ChatGPT kan koste dig jobbet: Sådan undgår du at havne i problemer
Hvordan skal kunstig intelligens tackles i den finansielle sektor?
En ny AI-lov er i fuld gang med at blive vedtaget i EU, men vil sandsynligvis først kunne nå at blive implementeret om to til tre år.
Den danske finansielle sektor er også selv i gang med at udarbejde en god praksis for dataetik ved brug af AI.
Finanstilsynet udsendte i maj et udkast til den praksis i høring. Det har en række organisationer, herunder Finansforbundet, givet høringssvar til.
Du kan finde udkastet her:
God praksis: Dataetik ved brug af AI i den finansielle sektor.
Kunstig intelligens overtager jobs
Alt imens flere har indført restriktioner for de frit tilgængelige AI-værktøjer, buldrer udviklingen og investeringerne i kunstig intelligens dog ufortrødent videre.
Flere af de største finansielle institutioner arbejder på AI-værktøjer, der måske kan revolutionere dele af måden at arbejde på.
Goldman Sachs har tidligere turneret med analysen om, at 300 millioner fuldtidsstillinger verden over står til at kunne blive automatiseret i en vis grad som følgende af den nyeste AI-bølge.
Finanssektorens Arbejdsgiverforening (FA) har lavet en undersøgelse blandt landets finansvirksomheder, hvor 64 procent af de adspurgte forventer, at kunstig intelligens vil overtage jobfunktioner, som i dag udføres af mennesker, inden for de næste tre år.
"Det handler ikke om, at 64 procent af virksomhederne forventer, at arbejdspladserne forsvinder. Det er ikke til at sige, hvor mange jobs der bliver berørt, men jobfunktionerne vil ændre sig i takt med udviklingen," har analysen lydt fra Nadeem Farooq, underdirektør i FA til Finanswatch.
Fremtidens mest efterspurgte jobtype er AI-specialister: Se listen her.
Kravene til kompetencer vokser
Hos Jyske Bank fortæller Peter Schleidt blandt andet, at banken har haft en vis succes inden for obligationshandel ved at finjustere et AI-system.
Han mener dog ikke, at AI på kort sigt vil tage jobs fra eksempelvis rådgiverne.
"Vi kommer selvfølgelig længere og længere med digital rådgivning. Men mennesker vil gerne betrygges af mennesker, når det handler om de større økonomiske beslutninger. Så langt frem jer ser, er der brug for vores dygtige rådgivere," siger han og fortsætter:
”Men flere og flere veldefinerede opgaver bliver yderligere automatiseret. Det betyder også, at produktiviteten stiger. Historisk har det bare været sådan, at der kommer nye og mere komplekse jobs. Lige nu mangler mange arbejdskraft. Så lad os nu se, hvordan det bliver i fremtiden.”
Hvilke kompetencer ser du, at der vil være øget behov for i fremtiden i Jyske Bank?
"Jeg er sikker på, at kravene til kompetencer, uanset hvor man sidder, kun vil vokse. De akademiske, faglige og samarbejdsorienterede færdigheder bliver kun vigtigere."
Finansforbundets næstformand Michael Budolfsen har opfordret til, at udrulningen i finanssektoren bør være med "mennesket i kontrol".
"AI skal supplere i stedet for at erstatte ansatte, og opkvalificering og omskoling er nødvendig for både ledere og medarbejdere. Social dialog er vigtigere end nogensinde, hvis vi fortsat skal skabe værdi for medarbejdere, virksomheder og samfund."
Ét parameter er afgørende for succes med AI i den finansielle sektor
Orienter dig om, hvorvidt din virksomhed har fået en politik på området.
Det er ikke længe siden, ChatGPT var helt ukendt for mange, men i takt med at flere og flere bruger ChatGPT til at løse opgaver på arbejdet har flere virksomheder også lanceret regler, politik eller retningslinjer. Selvom du måske har brugt ChatGPT længe, og din virksomhed ikke har haft nogen politik på området, kan det let ændre sig.
I ChatGPT er der indarbejdet nogle reguleringsmæssige og etiske instruktioner og regler, men ChatGPT 'tænker' ikke etisk.
Det er derfor vigtigt, at du er opmærksom på eventuelle etiske dilemmaer, der kan opstå i forhold til at bruge ChatGPT.
Forhold dig kritisk til det, ChatGPT svarer.
ChatGPT er et resultat af de tekster, den er fodret med, og kan derfor let, og relativt usynligt, reproducere tidligere forståelser af køn, etnicitet med vivdere, der ikke er repræsentativt for den måde, vi tænker i dag. Vær opmærksom på, at ChatGPT er udviklet fra et amerikansk perspektiv og forståelse af mennesker, samfund, køn osv.
ChatGPT er yderst overbevisende i sine besvarelser, men du skal være kritisk og eftertjekke de oplysninger, den giver.
En af ulemperne er, at ChatGPT ikke kildehenviser. Det gør det svært at følge op på dens påstande.
Du skal også være opmærksom på, at ChatGPT kun giver dig ét bud ad gangen. Du kan således ikke se variationerne som, når du eksempelvis Googler.
Det kan dertil blive vanskeligere at skelne mellem menneskeligt og AI-genereret indhold. Du skal derfor være opmærksom på informationsforurening og spredning af misinformation.
ChatGPT er blevet kritiseret for, er dets beskyttelse af brugernes data. Der har været eksempler på et større datalæk, der betød, at brugeres historik på overskriftsniveau blev tilgængelig for andre.
Derudover skal du overveje, at det du skriver, bruges aktivt til at træne algoritmen. Du skal derfor være varsom med at indlæse nogen for form information, der kan føres tilbage til nogen specifik, for eksempel kunder, eller der kan krænke din egen ret til privatliv (hvis du for eksempel indlæser din sygejournal for at få hjælp til at forstå den).
Du kan under indstillinger aktivt afvise, at OpenAI bruger dine chats til at træne algoritmen. Det betyder ikke, at dine data ikke er videregivet, men at de slettes efter 30 dage. Vær opmærksom på at slå denne funktion til/fra på alle de enheder, du bruger, da den ikke slår igennem på tværs af for eksempel din computer(e), telefon, tablet osv.
Man har lidt flere beskyttelsesmuligheder i den betalte version.
Ifølge oplysningspligten kan du kræve at få oplyst, hvilke data OpenAI har indsamlet om dig, og med hvilket formål.
Du skal bruge ChatGPTs eksportfunktion under indstillinger.
Det er vigtigt, at du fastholder din egen faglighed og kritiske sans, og ikke bliver for afhængig af teknologien.
Overvej altid, hvad du selv ville have foreslået og undersøg nysgerrigt og kritisk, hvorfor løsningen eventuelt overvejer noget andet, end du selv ville have peget på.
Det er stadig dig, der er den faglige og har kendskab til alle de omkringliggende relevante forhold, som løsningen ikke har indsigt i.