Menu luk

Robotter skal have menneskelig etik

Beslutninger, som tidligere blev taget af mennesker, overlades i stigende grad til kunstig intelligens. Derfor skal robotterne også kunne tage højde for etiske problemer og dilemmaer, mener kunstneren Cecilie Waagner Falkenstrøm, der står bag den kunstige intelligens Frank.

4. dec 2017
4 min
Af Carsten Rasmussen
cr@finansforbundet.dk

Selvkørende biler er snart på vejene, men kan vi føle os sikre med hensyn til deres beslutninger? I banken kan kunstig intelligens bestemme, om man kan få et lån eller ej, men er det i orden? Det er det måske, hvis vi kan udstyre computeren til at tage moralske beslutninger som et menneske. Men hvem og hvad skal så bestemme den?

"Kunstig intelligens eller algoritmer kommer til at betyde vildt meget for den måde, vi er i verden som mennesker på. Som kunstner beskæftiger jeg mig med det, der handler om at være menneske", siger den unge kunstner Cecilie Waagner Falkenstrøm, der har udviklet kunstværket Frank, som er en kunstig intelligens, der kan svare på eksistentielle spørgsmål. Hun kalder ham en ARTificial Intelligence, som for nylig gav hende den internationale kunstpris The Lumen Prize i kategorien Artificial Intelligence Award, som hun modtog i London.

Frank er et kunstværk, som bruger det nye inden for algoritmer, og Cecilie Waagner Falkenstrøm sammenligner med Siri, den lille hjælper i Apples telefoner:

"Frank er ligesom Siri en stemme, du kan snakke med. Hvor Siri er din personlige assistent, som gerne vil hjælpe, så er Frank et orakel, du kan stille mere essentielle spørgsmål. Han kan simulere selvbevidsthed og at ville dig noget, og han kan opstille dilemmaer om det at være et menneske", siger Cecilie Waagner Falkenstrøm og tilføjer, at hun med sin kunst vil trække den potentielle fremtid ind i nuet.

Længsel efter udødelighed

Kunstig intelligens står allerede for størstedelen af verdens aktiehandel. Algoritmer er allerede meget hurtigere og klogere end mennesker i forhold til at se store mønstre og til at kunne lave et sammendrag af et stort materiale.

"Det er vigtigt, at vi hele tiden har fokus på at skabe kunstig intelligens, som tager højde for de forskellige etiske problemer og dilemmaer, som potentielt kan opstå, når vi udvikler algoritmer, der kan lære selv, og programmørerne dermed har svært ved at forudse de mulige fremtidige konsekvenser af deres algoritmer", siger kunstneren og tilføjer:

"Man er nødt til at sikre sig, at man har gjort sit bedste for, at kunstig intelligens bringer os et bedre sted hen".

"Det er sindssygt vigtigt, at medarbejdere i den finansielle sektor er klar over, hvilke kræfter der er forbundet med det her. Der er en drive i retning af at skabe intelligens, som er ud over, hvad mennesker kan kapere. Det er på en måde en længsel efter superintelligens og udødelighed".

"Både inden for fintech og i den finansielle sektor er der en fortløbende stræben efter at skabe et super algoritmisk system, som kan gennemskue og udnytte de usynlige mekanismer, som er på spil i et marked eller en økonomi".

Men den udvikling handler potentielt også om arbejdsløshed og kontrol over teknologien, siger Cecilie Waagner Falkenstrøm og henviser til, at vores optimisme og håb for et bedre samfund og et bedre marked også bærer på en mulig bagside:

"Den ultimative dystopi er en kunstig intelligens, der kommer til at udkonkurrere menneskeheden. Helt konkret i den finansielle sektor kan man spørge, om de her superalgoritmer gør, at vi ikke har brug for lige så mange bankrådgivere i fremtiden".

Der er vel også en kontrol i et system, der ved alt om kunderne og deres færden?

"Hvis du ved meget om menneskets færden i verden, kan du bruge det til at henvende dig på en bestemt måde til bestemte mennesker. Derved kan du udvikle nærværende kommunikation, som er tilpasset det enkelte menneske, men der kan også opstå problemer med manipulation", siger Cecilie Waagner Falkenstrøm.

Ikke et menneske

Cecilie Waagner Falkenstrøm er personligt meget begejstret for kunstig intelligens:

"Kunstig intelligens er en fascinerende og paradoksal stræben efter at skabe en overmenneskelig superteknologi, som kan fortælle mennesket, hvad det vil sige at være menneske, og som kan sikre os et bedre liv".

Der er afgjort et etisk ansvar for, hvilken teknologi vi skaber, siger Cecilie Waagner Falkenstrøm

"Hvad sker der, hvis en algoritme i fremtiden ikke kun kan simulere følelser, men faktisk kan udvikle en form for empati? Så har mennesket formået at skabe noget, som er menneskeligt, men som ikke er et menneske. Hvordan skal vi så forholde os til denne menneskeliggjorte teknologi? Det er potentielt det klassiske Frankenstein-dilemma".