Kunstig intelligens med indlærte fordomme

UBEVIDSTE FORDOMME OVERFØRES TIL ALGORITMERNE

- Vores ubevidste fordomme overføres til algoritmerne, forklarer Kristine, der er Chief Customer Officer hos Amesto og leder af ODA, Nordens største netværk for kvinder inden for teknologi.

Hun påpeger, at det meste af teknologien drives af en relativt homogen gruppe, hvoraf langt størstedelen er mænd, og at der i en række tilfælde er opstået mangfoldighedsudfordringer relateret til blandt andet køn og etnicitet.

Eksemplerne, som Kristine henviser til, er kun en Google-søgning væk. Amazon kasserede sit AI-baserede rekrutteringsværktøj, da det viste sig, at AI-løsningen "ikke kunne lide kvinder". Tidligere var det endda også sådan, at hvis du skrev "Johanne" på LinkedIn foreslog LinkedIn, om du ikke mente "Johan".

- Og har du nogensinde tænkt på temperaturindstillingerne på kontoret? Spørger Kristine. Produktivitetstemperaturen for mænd er faktisk et par grader lavere end for kvinder. Kan du tænke dig til, hvordan standardtemperaturen for et kontor er blevet indstillet?

AUTOMATION OG TEKNOLOGI ER BÅDE VIGTIGT OG GODT

- Men vi skal have et reflekterende forhold til det. Vi må ikke kun tænke på, hvordan vi træner AI, men også på hvem der træner AI. Udfordringen ligger ikke kun i, at det ofte er mænd, der har udviklet algoritmerne, men også i, at det faktiske datagrundlag for algoritmerne i sig selv er fordomsfulde og ikke er tilstrækkeligt korrigerede. Det er derfor vores job er at sikre, at algoritmerne ikke forstærker uønskede tendenser.

Den menneskelige hjerne er indstillet på at være så effektiv som muligt, så meget af vores tankekraft sker i det ubevidste. At skabe neutrale og ikke-diskriminerende AI-løsninger er udfordrende på mange måder, fordi vi endnu ikke er gode nok til at være opmærksomme på vores egne fordomme, og derfor er mangfoldighed blandt dem, som skal skabe teknologien, ekstra vigtig.

"Det er på tide at sætte AI-kompetence og mangfoldighed højere på dagsordenen, tilføjer Kristine. Vi kan ikke have brugt så mange år på at udligne forskelle i samfundet for derefter at miste det i junglen af algoritmer?"

KUNSTIG INTELLIGENS, MENNESKELIGT HJERTE

- Moderne teknologi medfører potentielle sociale risici, som vi bliver nødt til at adressere, tilføjer Kjetil Kalager, leder af Amesto’s AI-laboratorium, som arbejder med kunstig intelligens, maskinindlæring og analyse.

Han mener, at vi skal være opmærksomme på, at maskinindlæring på mange måder afspejler de mennesker, der træner den. Dette betyder, at AI-løsninger ofte vil have de samme mangler, opfattelser eller meninger som dem, der udvikler løsningen.

Algoritmerne skal trænes på baggrund af en database, der afspejler både kvinder og mænd, etnicitet, religiøs overbevisning og andre vigtige faktorer. Vi skal oprette gode datasæt for at implementere algoritmerne, og databasen skal repræsentere flere vinkler og forskellige typer mennesker.

En stor udfordring er, at de data, der bruges til at skabe AI, ikke er repræsentative i første omgang. Testdataene forstår ikke forskellen mellem mænd, kvinder eller bestemte etniske grupper på samme måde som vi gør. De første ansigtsgenkendelsesløsninger er et godt eksempel, fordi testdataene var baseret på dem, der havde udviklet løsningen; primært hvide mænd.

Hvis du skaber AI-løsninger uden at tænke kritisk og i diversitet, risikerer du for eksempel at fængsle sorte, unge mænd, mens hvide unge mænd får mildere domme, hvilket faktisk skete i retsvæsenet i USA. Problemet er ofte, at problemerne fra virkeligheden manifesterer sig i dataene, og AI husker og gentager fejlene.

Så hvordan kan vi skabe objektivitet og neutralitet i AI-løsningerne?
- Vi skal øge tværfagligheden og opbygge grupper med forskellige oplevelser, synspunkter, meninger, holdninger osv. for at skabe en repræsentativ virkelighed. Vi skal være i stand til at tænke mere end en tanke ad gangen og se kompetence, data og mangfoldighed mod hinanden, siger Kristine.

- Det er os der sidder med læsningen. Og med den følger et stort socialt ansvar. En algoritme vil for eksempel altid blive forstærket, og det er vores opgave at sikre, at den forstærker ud fra det rigtige grundlag. Vi er nødt til at kode algoritmer, der tager hensyn til mangfoldighed.

FLERE KVINDER TIL TECH-BRANCHEN

I dag er 29% af personerne i it-branchen i Norge kvinder. Der er endnu færre i AI-branchen. Dette betyder, at langt størstedelen af maskinlæring i dag udføres af mænd.

- For at bryde med etablerede mønstre skal vi tænke anderledes og modernisere os selv, siger Kristine. Vi skal ansætte forskellige typer mennesker og samtidig sørge for, at vi tænker mangfoldighed ind i alt, hvad vi gør. Ikke mindst skal vi øge kompetencen i Norge, både for at sikre vores konkurrenceevne og for at skabe løsninger som samfundet behøver i fremtiden.

TECH ER IKKE BARE SKABT I SILICON VALLEY!

Kristine mener, at meget handler om gode rollemodeller og også om involvering i topledelsen, og hun trækker Lene Diesen, leder af AI-løsningen Semine, frem som et godt eksempel. Hun mener, at Diesen er en pioner, der kan vise unge piger, at det er muligt og ikke mindst spændende at arbejde med AI.

- Derudover mener vi, det er vigtigt at tiltrække mangfoldighed gennem et attraktivt værdigrundlag i virksomheden, tilføjer Kjetil. Selvom vi dybest set er en kommercielt drevet teknologivirksomhed, arbejder vi efter det, vi kalder en tredobbelt bundlinje. Det betyder, at vi ikke kun er drevet af fortjeneste, men at vi også har fokus på mennesker og det samfund, vi lever i.

Han mener, det er vigtigt at have topledere, der virkelig forholder sig til dette.

- Vi skal sikre, at AI-løsninger i fremtiden ikke hæmmer, men fremmer mangfoldighed, og så kan vi ikke risikere differentieret behandling i form af fordomsfulde algoritmer. I den sidste ende er det menneskerne bag maskinerne, der træffer beslutningerne. Tager de gode valg?

HVAD ER EGENTLIG KUNSTIG INTELLIGENS?

Kunstig intelligens er en teknik, der bruges til at give computere og computerprogrammer et såkaldt intelligent svar. Feltet kunstig intelligens er bredt og er opstået på tværs af forskellige områder som datalogi, matematik, statistik, psykologi, neurologi og lingvistik.

Kunstig intelligens udfører handlinger baseret på fortolkning, analyse, afkodning og behandling af strukturerede eller ustrukturerede data.

Vi mener, at kunstig intelligens er vigtig, fordi den repræsenterer et stort potentiale. Ikke kun for os som firma, men også for enkeltpersoner. Kunstig intelligens kan hjælpe med at forenkle og strømline rutineopgaver. For os er dette i tråd med vores vision «Simplifying business. Simplifying life. »

Med den rigtige anvendelse kan teknologi hjælpe med at nå vigtige mål inden for innovation og bæredygtighed.

50 % KVINDER ER IKKE NOK

Helt ærligt. Tænker du også, at du har gjort nok, når halvdelen af ledergruppen er kvinder? Kønsbalance er vigtigt, men det er ikke nok. Mangfoldighed handler om at se hele mennesket og dyrke forskelligheder i et miljø med lige vilkår.

Læs mere

MANGFOLDIGHED

Mangfoldighed beriger arbejdslivet og bidrager direkte til lønsomhed og værdiskabelse. Kundesegmenter ændrer sig hurtigt, især i et globalt perspektiv.

Læs mere

TEKNOLOGI + INNOVATION = SANDT

I Amesto har vi stor tiltro til, at kombinationen af teknologi og mennesker kan skabe unikke tjenestekoncepter, der kan forenkle forretningsdriften og undgå unødig belastning af miljøet.

Læs mere

TREDOBBELT BUNDLINJE

Det er en god forretning at tænke tredobbelt bundlinje. Det mener vi i Amesto. Vi vælger at kalde det Corporate Social Value, fordi vi ser værdien i det arbejde, vi udfører, og det vi tilfører - både til vores selskab og til det samfund, vi opererer i.

Læs mere

Helt ærligt.