At et menneske er involvert i en AI-støttet beslutning, betyr ikke automatisk at det finnes reell menneskelig kontroll. Hvis AI kommer med den første anbefalingen, kan den påvirke vurderingen før personen har rukket å gjøre seg opp sin egen mening. Det viktige spørsmålet er derfor ikke bare om et menneske er involvert, men når mennesket kommer inn i prosessen – og om det fortsatt er rom for en selvstendig vurdering.
Når organisasjoner snakker om ansvarlig AI, dukker ett prinsipp opp igjen og igjen: Sørg for at et menneske alltid er med i prosessen. Tanken er god. AI kan analysere, anbefale og automatisere, men når en beslutning virkelig betyr noe, er det fortsatt et menneske som har ansvaret for den endelige avgjørelsen.
Problemet løst? Kanskje ikke.
En debatt om AI og rekruttering under Arendalsuka - den årlige møteplassen for samfunnsdebatt om temaer som former næringsliv og samfunn - løftet frem en mer ubehagelig mulighet: Hva om mennesket er med i prosessen, men AI allerede har påvirket vurderingen? Det er et spørsmål som er relevant langt utover rekruttering. Etter hvert som AI blir en del av stadig flere beslutninger på jobben, må organisasjoner kanskje tenke nytt om hva reell menneskelig kontroll faktisk innebærer.
Når AI får snakke først
Tenk deg at du vurderer kandidater til en stilling. Før du åpner en søknad, forteller et AI-system deg at kandidaten ikke passer særlig godt. Deretter går du gjennom søknaden selv. Formelt sett er det fortsatt du som tar beslutningen. Du er mennesket i prosessen. Men leser du søknaden på samme måte som du ville gjort hvis du ikke hadde sett AI-anbefalingen? Det er her det blir interessant.
I sin innledning under Arendalsuka utfordret Morten Goodwin, professor i kunstig intelligens ved Universitetet i Agder, et av de vanligste punktene om ansvarlig AI: at det er nok å ha et menneske med i prosessen.
At et menneske er til stede, gjør ikke nødvendigvis en AI-støttet prosess uavhengig eller trygg.
Rekkefølgen betyr noe. Når vi først har fått en anbefaling, kan den bli et anker for vår egen vurdering. I stedet for å vurdere informasjonen selvstendig risikerer vi å vurdere om vi er enige med AI-en. Det er en helt annen oppgave.
Menneskelig kontroll kan bli menneskelig bekreftelse
Dette er spesielt relevant fordi AI-systemer ofte fremstår med en viss autoritet. En kollega kan si: «Jeg har på følelsen at denne kandidaten ikke er riktig.» Vi vet at det er en subjektiv vurdering. Kanskje spør vi hvorfor. Et AI-system kan gi en poengsum, en rangering eller et velformulert sammendrag. Det kan virke mer objektivt, fordi det ser ut til å bygge på data. Men at noe ser sikkert ut, betyr ikke at det er objektivt. AI-systemer kan gjenskape mønstre og skjevheter i dataene og miljøene de lærer av. Det er stadig bedre forstått.
Den mindre omtalte risikoen er hva som skjer etter at AI-en har gitt oss svaret sitt. Hvis vi stoler for mye på svaret, kan «menneskelig kontroll» i det stille bli til menneskelig bekreftelse. Og det er særlig bekymringsfullt når AI brukes som støtte i beslutninger om mennesker.
Rekruttering gjør problemet tydelig
Rekruttering er et godt eksempel, fordi AI i økende grad brukes på begge sider av prosessen. Kandidater kan bruke generativ AI til å skrive og finpusse søknader. Rekrutterere kan bruke det til å lage stillingsannonser og oppsummere informasjon om kandidater. Arbeidsgivere kan også bruke AI-støttede verktøy til å matche, sile eller rangere søkere.
Under Arendalsuka fortalte en rekrutterer om fire søknader til samme stilling som så ut til å være laget på nesten nøyaktig samme måte – helt ned til siste setning og tegnsetting. Samtidig eksperimenterer arbeidsgivere med teknologi som kan ta over stadig større deler av rekrutteringsprosessen. Effektivitetsgevinstene er tydelige. Men jo mer AI går fra å hjelpe oss med å behandle informasjon til å hjelpe oss med å bestemme, desto viktigere blir det hvordan mennesket involveres. Det spørsmålet løses ikke ved å legge til en rekrutterer på slutten av prosessen.
Hvordan ser reell menneskelig kontroll ut?
Et forslag fra debatten under Arendalsuka snur den vanlige modellen på hodet. La mennesket ta seg av den første vurderingen. Så kan AI komme inn. En rekrutterer kan vurdere en kandidat først, og deretter be AI om å peke på informasjon som kan ha blitt oversett, utfordre antakelser eller foreslå andre tolkninger. AI blir en ekstra vurdering, ikke utgangspunktet. Det høres ut som en liten endring. Det er det ikke. I den tradisjonelle «human in the loop»-modellen kan prosessen se omtrent slik ut:
AI-anbefaling → menneskelig gjennomgang → beslutning
En annen modell kan være:
Menneskelig vurdering → AI utfordrer → mennesket vurderer på nytt → beslutning
Mennesket er ikke bare der for å godkjenne eller avvise det systemet har foreslått. AI brukes til å utfordre menneskelig tenkning, ikke til å legge premissene for oss. Det kan være en langt mer meningsfull form for menneskelig kontroll.
Dette handler ikke bare om rekruttering
Prinsippet blir enda viktigere når vi ser utover rekruttering. AI brukes i økende grad til å oppsummere informasjon, anbefale tiltak, finne mønstre og støtte beslutninger i hele organisasjonen.
Tenk deg et AI-system som foreslår:
- hvilke ansatte som kan komme til å slutte
- hvem som bør vurderes for forfremmelse
- hvilken kompetanse organisasjonen mangler
- hvordan informasjon om prestasjoner bør tolkes
- hvor ressursene bør brukes
En leder kan formelt sett fortsatt være ansvarlig for hver eneste beslutning. Men hvis AI-anbefalingen alltid kommer først, hvor selvstendig er egentlig lederens vurdering? Derfor kan «det er alltid et menneske involvert» være en for lav terskel. Et bedre spørsmål er:
Hvilken rolle spiller mennesket egentlig?
Fra «human in the loop» til reell menneskelig dømmekraft
Ingenting av dette betyr at AI ikke skal støtte beslutninger. AI kan hjelpe mennesker med å jobbe seg gjennom store mengder informasjon, oppdage ting de ellers kunne ha oversett, og stille spørsmål ved antakelser. Det kan være verdifulle egenskaper. Men organisasjoner må tenke lenger enn å bare plassere et menneske et sted i en automatisert prosess. For HR-ledere betyr det å stille mer presise spørsmål:
Gjør personen seg opp en selvstendig mening før AI-anbefalingen vises?
Forstår personen hvilken informasjon anbefalingen bygger på?
Forventes det at personen utfordrer systemet – eller bare kontrollerer resultatet?
Kan personen trygt si seg uenig?
Kan personen forklare hvorfor den endelige beslutningen ble tatt?
Disse spørsmålene sier langt mer om reell kontroll enn spørsmålet om hvorvidt et menneske formelt sett var involvert.
Slik beholder mennesker kontrollen
«Human in the loop» er et tiltalende prinsipp, fordi det høres ut som et tydelig skille. AI står for effektiviteten. Mennesker står for dømmekraften. I praksis er skillet langt mindre tydelig. Hvis AI former informasjonen vi ser, rammer inn valgene, og gir oss en anbefaling før vi har gjort oss opp vår egen mening, er det ikke sikkert at menneskelig involvering alene er nok til at mennesker har reell kontroll.
Kanskje handler neste steg i ansvarlig AI derfor ikke om å sørge for at et menneske fortsatt er med et sted i prosessen. Det handler om å utforme prosessen slik at menneskelig dømmekraft fortsatt betyr noe. Og noen ganger kan det bety at mennesket bør gå først.
Om denne artikkelen:
Denne artikkelen er en del av serien vår Den menneskelige siden av AI, som er inspirert av arrangementer under Arendalsuka, den årlige møteplassen for samfunnsdebatt om temaer som former næringsliv og samfunn.
Artikkelen bygger på arrangementet «KI i rekruttering: Et mer likestilt arbeidsliv?» med Morten Goodwin, professor i kunstig intelligens ved Universitetet i Agder (UiA); Thomas Jahren, seniorrådgiver i Likestillings- og diskrimineringsombudet; Karoline Sandsbråten Scheide, leder for innsikt og kommunikasjon i HR Norge; og Safina de Klerk, visepresident i NITO.
Ordstyrer var Rasha Abdallah fra Senter for likestilling ved UiA.
Kilde: Arendalsuka – KI i rekruttering: Et mer likestilt arbeidsliv?
