Et mere fair samfund med lærende maskiner

Mange taler om kunstig intelligens. Zoubin Ghahramani har ikke blot ydet talrige teoretiske bidrag, men også skabt en række praktiske løsninger. Senest en automatisk statistiker.

”Maskinen foretager ikke blot en matematisk bearbejdning af de data, den bliver fodret med. Den forfatter også en rapport, der sammenfatter resultaterne, på samme måde som en menneskelig statistiker ville gøre. Rapporten er brugbar for en person, der er uddannet inden for et givent fagområde, men ikke selv er statistiker. Det kan f.eks. være en læge, der skal stille en diagnose ud fra data fra skanningsbilleder eller vævsprøver,” forklarer Zoubin Ghahramani.

”Løsningen kommer ikke til at gøre de menneskelige statistikere arbejdsløse. Men der er en lang række opgaver inden for statistik, som en maskine kan klare bedre end et menneske. Vi mennesker er faktisk ikke særlig gode til at gøre ting systematisk.”

Vi er omgivet af usynlige algoritmer

Iranskfødte Zoubin Ghahramani er professor ved britiske University of Cambridge. Efter sin uddannelse som computeringeniør ved University of Pennsylvania, USA, valgte han at skrive ph.d. om kognitiv neurovidenskab ved MIT. Siden har han arbejdet med ’machine learning’.

”Vi er omgivet af lærende maskiner allerede. Når jeg lander her i København, kan jeg bruge min smartphone til at finde vej rundt i byen. Og når jeg modtager en e-mail skrevet på et fremmed sprog, kan jeg sende den gennem et oversætterprogram og få en god idé om indholdet. Begge dele er kun mulige takket være usynlige algoritmer, der er udviklet inden for vores forskningsfelt.”

Andre eksempler er genkendelse af tale, billeder og ansigter, automatiseret handel på aktiemarkederne, selvkørende biler og selvstyrende robotter samt systemer, der kan give brugerne anbefalinger om restauranter og butikker, som passer til deres smag.

Når maskinerne diskriminerer

Professoren er ikke blind for, at der også er skyggesider af machine learning:

”På et tidspunkt forsøgte man sig i USA med et system til støtte for beslutninger om prøveløsladelse af indsatte i fængslerne. Idéen var, at man kunne træffe beslutningerne hurtigere og mere retfærdigt ved i højere grad at basere dem på objektive parametre. Da man senere evaluerede systemet, opdagede man imidlertid en klar slagside. Systemet gav hvide indsatte uforholdsmæssigt gode muligheder for prøveløsladelse i sammenligning med farvede.”

Et tilsvarende eksempel er ligestilling mellem kønnene:

”Lad os sige, at jeg ønsker at udvikle et system, der kan grovsortere jobansøgere. Her vil det være naturligt – og ofte også lovpligtigt – at sikre, at mandlige og kvindelige ansøgere er ens stillet. Selvfølgelig kan jeg skrive ind i min algoritme, at den skal se bort fra oplysningen om personens køn. Men det vil være naivt at tro, at jeg dermed har løst min udfordring. Der er mange systematiske forskelle på de oplysninger, som mænd og kvinder vælger at give i deres ansøgninger. Derfor er det faktisk en meget kompleks opgave at sikre, at de to køn reelt behandles ligeværdigt i systemet.”

Eksemplerne viser, at skaberne af et automatiseret system til beslutningsstøtte risikerer at indarbejde deres egne kulturelt betingede normer.

”Typisk sker det ubevidst. En lille nuance i en formulering kan skabe en skævvridning, som man ikke selv tænker over,” konstaterer Zoubin Ghahramani. ”Den gode nyhed er imidlertid, at hvis vi lykkes med at gøre tingene rigtigt, kan vi få et samfund, der er væsentlig mere retfærdigt end i dag. Vi ved jo udmærket, at mennesker bestemt ikke er objektive, når de skal træffe beslutninger om, hvilke ansøgere til et job de vil kalde ind, eller hvilke fanger de vil prøveløslade fra et fængsel. En maskine kan træffe den slags beslutninger langt mere objektivt. Derfor er jeg grundlæggende meget optimistisk!”

Se intelligens som funktioner

Sagt på en anden måde, kan en maskine blive i stand til at træffe bedre beslutninger end et menneske? ”Jeg ved godt, at den påstand vil provokere mange! Men man skal jo ikke forstå det sådan, at jeg mener, at maskiner er klogere end mennesker. Intelligens er mange ting. Det interessante for mig er ikke så meget, hvad intelligens er, men hvad den bruges til. Når man deler se, at der er nogle opgaver, som vi bedst kan overlade til mennesker, andre til dyr og atter andre til maskiner. Det er for mig at se den mest konstruktive tilgang.”

Af samme grund foretrækker Zoubin Ghahramani udtrykket machine learning frem for kunstig intelligens:

”Udtrykket kunstig intelligens skaber forskellige associationer hos forskellige mennesker. Det slipper man ud over ved at sige machine learning. I virkeligheden handler det mest om tidshorisont. Kunstig intelligens vil sige, at maskiner fuldstændig automatiseret overtager funktioner, som mennesker tidligere udførte. Det er stadig futuristisk. I machine learning er mennesket i høj grad med til at understøtte maskinens løsning af opgaverne. Det ligger ude i fremtiden, men ikke så langt. De fleste af de ting, vi allerede ser i dag, hører under et tredje felt, nemlig data science. Her gør maskinerne rigtig meget. F.eks. at indsamle store mængder data og sortere dem. Men det er mennesker, der træffer beslutningerne.”

Algoritmer skal lægges åbent frem

Ud over forskellen i tidshorisont er der varierende traditioner inden for kunstig intelligens, machine learning og data science:

”Felterne overlapper hinanden, men i den akademiske verden er der tale om tre forskellige skoler. Jeg ser helt klart mig selv som medlem af machine learning- skolen.”

Fokus inden for machine learning er i opbrud:

”I starten handlede det kun om at konstruere algoritmer, der satte maskinen i stand til at finde de mest nøjagtige løsninger på de opgaver, som den blev stillet. Senere blev vi opmærksomme på, at algoritmerne også skulle være effektive, så forbruget af computerkraft holdes nede. Både for at spare på udgifterne og for at spare strøm. Eksempelvis tegner søgemaskiner sig for en meget stor andel af energiforbruget i verden. Både nøjagtighed og effektivitet er naturligvis stadig vigtige, men alligevel begynder opmærksomheden at samle sig om et tredje sæt af problemer. Nemlig hvordan man forebygger uheldige sideeffekter af machine learning, hvor mennesker bliver uretfærdigt behandlet eller får deres privatliv krænket.”

Ifølge Cambridge-professoren hedder løsningen gennemsigtighed:

”Når man kommer med en ny løsning baseret på machine learning, bør man efter min mening lægge sine algoritmer åbent frem. På den måde får andre mulighed for at vurdere, om systemet f.eks. har en utilsigtet skævvridning indbygget. Det er i alles interesse,” siger professoren og følger op med et eksempel:

”Kreditvurderinger af personer, der ønsker at optage lån, er et oplagt område for machine learning. Men det er også et område, hvor afgørelserne har store konsekvenser for menneskers livssituation. Derfor må det være rimeligt, at den enkelte ansøger får en begrundelse for et afslag. Ellers vil mistanken om mulig forskelsbehandling lure.”

Hård kamp om kvikke hoveder Interviewet finder sted i forbindelse med Ghahramanis Ørsted-forelæsning på DTU i foråret 2017. Besøget giver ham lejlighed til at hilse på en række af universitetets forskere.

”Jeg vil helst ikke fremhæve nogen grupper eller forskere frem for andre, men bare sige, at efter min mening har DTU et forskningsmiljø i verdensklasse inden for machine learning. Men naturligvis har DTU samme problem som os andre – det er svært at rekruttere eksperter. Hver gang man har en stilling, ligger man i konkurrence ikke kun med andre universiteter, men også med store virksomheder, der har råd til at betale høje lønninger.”

Zoubin Ghahramani er medlem af det britiske videnskabsakademi Royal Society og en af hovedforfatterne til en ny rapport fra akademiet om machine learning. Rapporten anbefaler, at der bliver uddannet markant flere kandidater på området.

”Som rapporten dokumenterer, rummer machine learning et meget stort potentiale for vækst i samfundet. En af de mest spændende ting ved at arbejde inden for feltet er, at en given løsning, som du udvikler, kan finde anvendelse på mange forskellige områder. Når vi f.eks. er lykkedes med at udvikle en automatiseret statistiker, er der rigtig gode chancer for, at de samme algoritmer kan bruges til f.eks. at identificere kræftceller i vævsprøver eller til at hjælpe astronomerne med at forstå universet bedre.”

Den automatiske statistiker virker, men er samtidig et forskningsprojekt, tilføjer Zoubin Ghahramani: ”Undervejs i projektet er vi naturligvis stødt ind i forskellige udfordringer. Mange af dem er systematiske. Det vil sige, at løsningerne på dem kan overføres til andre projekter inden for machine learning.”

På vej mod supermennesket

Blandt de gennemgående barrierer for machine learning er almindelig konservatisme:

”Det er fint nok at have udviklet nye, effektive algoritmer, men du skal også overbevise andre om at tage dem i brug. Her er det en fordel, hvis du kan komme med algoritmer, som er simple. Det gør dem lettere for andre at forstå. Samtidig er du typisk også nødt til enten at forære din software væk eller gøre den meget billig.”

Endelig er det nogle gange en barriere, at der mangler data til at afprøve nye algoritmer: ”Data er brændstof for machine learning. Der er sket en rivende udvikling sammenlignet med for 20 år siden. Noget af det skyldes bedre algoritmer, men jeg vil faktisk hævde, at den største del af fremskridtet er sket, fordi vi i dag har langt større mængder af data til rådighed. Men der er fortsat områder, hvor det er svært at skaffe data.”

Alligevel er Zoubin Ghahramani overbevist om, at udviklingen vil fortsætte og kun øge i hastighed:

”Man hører nogle gange det synspunkt, at machine learning vil gøre os til supermennesker. Det er jeg sådan set enig i. Men er vi egentlig ikke allerede supermennesker sammenlignet med det, som vores forfædre var i stand til? Gennem de seneste generationer har mennesket fået en lang række nye værktøjer. Som jeg ser det, er machine learning en del af den udvikling. Det er måske nok maskinen, der lærer, men den gør det for at blive et endnu bedre værktøj for mennesket.”