Kan kunstig intelligens påvirke likestillingen?

«KI-systemer skal legge til rette for inkludering, mangfold og likebehandling.» Det heter det i regjeringens nasjonale strategi for kunstig intelligens. Men skjer dette i praksis? Kilden kjønnsforskning.no har på oppdrag fra Likestillings- og diskrimineringsombudet kartlagt norsk forskning på kunstig intelligens med kjønns- og likestillingsperspektiv.

Kunnskapsoversikten fokuserer på tre områder: offentlige og private tjenester, arbeidsliv, og sosiale medier og underholdning. Likestillings- og diskrimineringsombud Hanne Bjurstrøm mener at en slik kartlegging er viktig med tanke på den digitale utviklingen.

‒ Når kunstig intelligens brukes til å fatte stadig flere avgjørelser som får betydning for livene våre, er det naturlig at dette også kommer til å bli en viktig del av likestillings- og antidiskrimineringsarbeidet fremover, forklarer hun.

‒ Da er vi avhengige av å vite mer om forskningsgrunnlaget, og hvilken effekt teknologien har på dem den rettes mot. Denne rapporten er et viktig bidrag i det arbeidet.

Nye løsninger

Trine Rogg Korsvik er en av forfatterne bak rapporten, og jobber til daglig som seniorrådgiver i Kilden. Hun peker på at man allerede har sett at kunstig intelligens har ført til diskriminering i andre land.

‒ Man har blant annet sett uheldige sider ved ansiktsgjenkjenning, automatisering av arbeid og målrettet reklame. Kunstig intelligens er et tema som berører mange samfunnsområder, forteller Korsvik.

Kunstig intelligens har allerede blitt tatt i bruk i enkelte offentlige tjenester, eksempelvis i automatisert saksbehandling hos NAV. Korsvik forteller at man i noen land også har prøvd ut kunstig intelligens til andre typer tjenester, som ansiktsgjenkjennelse for å kartlegge potensielle kriminelle eller algoritmer som bestemmer hvem som får lån i banken.

Kunstig intelligens er et mannsdominert felt, med nærmere 80 prosent menn blant utviklerne.

‒ Det kan lede til et overvåkningssamfunn, men også til forsterking av fordommer ettersom algoritmene bygger på historiske data som kan være preget av kjønnsskjevhet.

I arbeidslivet blir forskjellige sektorer rammet ulikt av automatisering. Dette handler om hvilke oppgaver man kan utføre med kunstig intelligens, forklarer Korsvik.

‒ Oppgaver som krever menneskelig tilstedeværelse og intuisjon står ikke i fare for å bli automatisert bort. Systemene er basert på logikk og universelle svar, men mangler evnen til å lese implisitte signaler.

‒ I Norge har vi for eksempel chatboten Kommune-Kari, som kan fortelle når biblioteket er åpent og den typen ting. Men det er veldig begrenset hva en chatbot kan svare på.

Les også: Bilar blir framleis bygd for menn

Digital kompetanse

For mange mennesker kan digitaliseringen by på utfordringer. Noen sliter med de nye løsningene, og risikerer å ikke få hjelpen de trenger. Korsvik trekker frem NAV-søkere som ble sittende uten inntekt under koronapandemien fordi de hadde fylt ut skjemaene feil.

‒ Digitale verktøy kan være nyttige og tidsbesparende. Men alle har ikke den samme digitale kompetansen, og for enkelte kan de nye løsningene føre til rettighetstap.

Korsvik mener at sosiale forhold spiller en viktig rolle i hvordan teknologien påvirker oss. Hun fremhever at digitaliseringen kan føre til større sosiale forskjeller.

‒ Ifølge en av undersøkelsene vi har sett på oppgir kvinner å ha mindre kjennskap til kunstig intelligens og algoritmer. Spesielt eldre kvinner med lav utdanning svarer de vet lite om dette, mens menn oftere hevder de både har god kjennskap til og meninger om algoritmer, sier hun.

‒ Så må det legges til at disse tallene stammer fra egenrapportering, hvor dataene er basert på hva folk selv mener om egen kjennskap.

Korsvik understreker at det handler om mer enn kjønnsforskjeller. Sosial klasse, utdanningsnivå og økonomiske ressurser spiller også inn.

‒ I Norge har digitaliseringen kommet lenger enn i de fleste andre land. Omlag 90 prosent av befolkningen har internett. Samtidig må man huske at 10 prosent ikke har det, og står i fare for å falle utenfor. Spesielt eldre folk uten utdanning og mennesker med dårlig helse er utsatt.

Et annet problem kan være kjønnsbalansen i IKT-faget. Kunstig intelligens er et mannsdominert felt, med nærmere 80 prosent menn blant utviklerne.

‒ Det er heller ikke mange kvinnelige studenter i IKT-utdanningene. Fordi teknologien preges av de som lager den, trekker flere forskere fram den manglende kjønnsbalansen i IKT-sektoren som et likestillingsproblem, sier Korsvik.

Dataskjevhet

Inga Strümke er fysiker og jobber i Simula, hvor hun blant annet forsker på kunstig intelligens. Hun savner en offentlig debatt rundt utviklingen.

‒ Vi sliter litt med å komme igang med debatten i Norge. Dette er fordi vi fremdeles har relativt liten bruk av kunstig intelligens. Derfor er det lite å forske på, forteller hun.

‒ Det man kan og bør gjøre er å se på planleggingsprosessene hos de som arbeider med å implementere kunstig intelligens, særlig i det offentlige. Forskningen trenger mer empiri, men vi må være realistiske. Vi har enda ikke nok erfaring til å se klare tendenser.

Er likestilling et relevant tema når man diskuterer kunstig intelligens?

Den kunstige intelligensen styres av dataene, ikke av hvem som har laget den.

‒ Absolutt. Kunstig intelligens kan både forbedre og forverre likestillingen. Algoritmene forutser fremtiden basert på fortiden. De er basert på menneskelige data som må samles inn. Og folk er jo diskriminerende, så kunstig intelligens kan reprodusere fordommene våre. Dermed kreves det endringer hvis man vil se en forbedring, forklarer Strümke.

Hun påpeker at det generelt sett finnes mer data om menn. For eksempel finnes det flere bilder av menn enn av kvinner på nettet, og man har mer medisinsk data om menn. Det kan føre til skjevheter i hvordan brukere behandles.

‒ Det er ikke lett å kompensere for dette. Man kan samle inn mer data om kvinner, eller man kan gi mer verdi til eksisterende data om kvinner, sier hun.

‒ Ideen om at menn lager «mannlig» kunstig intelligens er feil. Den kunstige intelligensen styres av dataene, ikke av hvem som har laget den. Samtidig er det, som med alt annet, viktig med mangfold. Ikke bare når det kommer til kjønn, men alle typer mangfold. Mer mangfold, i dette tilfellet flere kvinnelige utviklere, øker muligheten for å få frem flere perspektiver.

Les også: Intelligente roboter kan forsterke kjønnsnormer

Etikk for utviklere

Både Korsvik og Strümke problematiserer hvem som utvikler tjenestene vi benytter oss av. Ofte er de kunstige intelligensene laget av store teknologiselskap som tjener på å holde metodene sine hemmelige.

‒ Det er ikke tvil om at algoritmene har kommet for å bli. Derfor er det viktig at man har demokratisk kontroll over dem, så ikke teknologiselskapene får for mye makt, sier Korsvik.

‒ Utviklingen skjer på flere nivåer, og går ofte over hodet på vanlige mennesker. Det er ikke klart hvem man skal klandre hvis en algoritme gjør en feil.

Strümke argumenterer for at også juridisk praksis ligger bakpå når det kommer til spørsmål rundt kunstig intelligens. Hun er redd for at mangelen på motstand gjør at teknologiselskapene får fritt leide.

‒ Man kan si at den teknologiske utviklingen går raskere enn den etiske, sier hun.

‒ Folk er raske til å plukke opp ny teknologi, men bruker lenger tid på å problematisere den. Vi har også lite rettspraksis knyttet til kunstig intelligens. Jeg er redd for at teknologiselskapene kan få en slags sedvanerett.

Strümke mener det er viktig å se på hvordan de digitale løsningene påvirker adferden vår.

‒ Selskap som Instagram, YouTube og Facebook ansetter adferdspsykologer som skal få deg til å bruke mer tid på tjenestene. Maskinlæring består av to grunnpilarer: data og mål. I dette tilfellet er dataen adferden din, og målet er å få deg til å se og klikke mer. Heldigvis virker det som at folk begynner å bli klar over dette.

Forskning for fremtiden

En av hovedkonklusjonene i kunnskapsoversikten er at det finnes lite norsk forskning på kunstig intelligens som tar opp likestillingsspørsmål. Likestillings- og diskrimineringsombudet har håp om at dette vil endre seg i fremtiden.

‒ Kunstig intelligens er en styrke for de aller fleste fagfelt. Samtidig må vi ikke glemme at den utvikles av mennesker. Da må vi sikre oss at ikke teknologien forsterker stereotypiske holdninger som mennesker har, sier Bjurstrøm.

‒ Vi må både sikre et større mangfold hos dem som utvikler systemene, og at de som utvikler dem har kjennskap til regelverk rundt likestilling og diskriminering. Det er et arbeid vi vil følge med interesse etter årskonferansen.

Strümke påpeker på sin side at fremtiden avhenger av hva vi bruker den kunstige intelligensen til.

Vi trenger folkeopplysning og mer offentlig debatt om hvordan kunstig intelligens påvirker samfunnet.

‒ Kunstig intelligens kan bidra til et helt utopisk samfunn, hvor alle oppgaver vi ikke liker blir utført av maskiner. Men i dag fokuserer man som regel på kortsiktig vinning, sier hun.

Hun vektlegger at kunstig intelligens blir brukt til å oppnå mål. I dag er ofte målet at teknologiselskapene skal tjene mest mulig.

‒ På den annen side skal man ikke høre for mye på teknologer som overvurderer seg selv. Det må jo ikke ende med enten utopi eller katastrofe, ler Strümke.

Hun mener man må diskutere spørsmålene om likestilling og diskriminering grundigere.

‒ Ingen vil ha diskriminering. Allikevel sliter vi med å bli kvitt det. Jeg mener det må være rom for å diskutere problemene ordentlig. Det er lett å kritisere kunstig intelligens, men vi trenger også rom for en mindre polarisert debatt. Dette er et problem som er større enn bare digitaliseringen av samfunnet.

Også Korsvik håper at vi vil se mer forskning på feltet i årene fremover. Det meste som finnes har kommet de par siste årene.

‒ Den teknologiske utviklingen går raskere enn tradisjonelle forskningsprosesser, forteller hun.

Hun hevder at det trengs flere empiriske studier som utforsker samfunnsmessige konsekvenser av kunstig intelligens og som også ser på hva de teknologiske endringene har å si for likestillingen, ikke minst i arbeidslivet.

‒ Vi trenger folkeopplysning og mer offentlig debatt om hvordan kunstig intelligens påvirker samfunnet. Denne kunnskapsoversikten er et bidrag til det.

Les også: Kan en robot være en god mor?

Kilden kjønnsforskning.no, som har skrevet kunnskapsoppsummeringen som omtales, er et nasjonalt kunnskapssenter for kjønnsperspektiver og kjønnsbalanse i forskning. Nyhetsmagasinet er uavhengig, og følger Redaktørplakaten, Vær varsom-plakaten og er med i Fagpressen.