At et menneske er involveret i en AI-understøttet beslutning, er ikke i sig selv en garanti for reel menneskelig kontrol. Hvis AI kommer med den første anbefaling, kan det påvirke personens vurdering, før vedkommende når at danne sit eget synspunkt. Det vigtige spørgsmål er derfor ikke kun, om et menneske er involveret, men hvornår mennesket træder ind i processen – og om der stadig er plads til en selvstændig vurdering.
Når organisationer taler om ansvarlig AI, dukker ét princip op igen og igen: Hold et menneske i loopet. Tanken giver god mening. AI kan analysere, anbefale og automatisere, men når en beslutning virkelig betyder noget, er det stadig et menneske, der har ansvaret for den endelige beslutning.
Så er problemet løst? Måske ikke.
En debat om AI og rekruttering på Arendalsuka, Norges årlige samlingspunkt for offentlig debat og samtaler om de temaer, der former erhvervsliv og samfund, rejste et mere ubehageligt spørgsmål: Hvad hvis mennesket er med i processen, men AI allerede har påvirket vurderingen? Det spørgsmål rækker langt ud over rekruttering. I takt med at AI bliver en del af flere beslutninger på arbejdspladsen, kan organisationer få brug for at tænke anderledes om, hvad reel menneskelig kontrol egentlig vil sige.
Problemet med at komme bagefter
Forestil dig, at du vurderer kandidater til en stilling. Før du åbner en ansøgning, fortæller et AI-system dig, at kandidaten er et dårligt match. Derefter gennemgår du selv ansøgningen. Teknisk set er det stadig dig, der træffer beslutningen. Du er mennesket i loopet. Men går du til ansøgningen på samme måde, som du ville have gjort, hvis du ikke først havde set AI-anbefalingen? Det er her, det bliver interessant.
I sin introduktion på Arendalsuka udfordrede Morten Goodwin, professor i kunstig intelligens ved Universitetet i Agder, en af de mest udbredte antagelser om ansvarlig AI: At det er nok at holde et menneske i loopet.
At et menneske er til stede, betyder ikke nødvendigvis, at en AI-understøttet proces er uafhængig eller sikker.
Rækkefølgen betyder noget. Når vi først har fået en anbefaling, kan den blive et anker for vores egen vurdering. I stedet for at vurdere informationen selvstændigt risikerer vi at vurdere, om vi er enige med AI. Det er en helt anden opgave.
Menneskelig kontrol kan blive til menneskelig bekræftelse
Det er særligt relevant, fordi AI-systemer ofte fremstår med en aura af autoritet. En kollega kan sige: “Jeg har en fornemmelse af, at denne kandidat ikke er den rette.” Vi ved, at det er en subjektiv vurdering. Vi vil måske spørge hvorfor. Et AI-system kan levere en score, en rangering eller et velformuleret resumé. Det kan opleves mere objektivt, fordi det ser ud til at være baseret på data. Men et output, der ser sikkert ud, er ikke det samme som et objektivt output. AI-systemer kan gengive mønstre og bias fra de data og miljøer, de lærer af. Det er efterhånden velkendt.
Den mindre omtalte risiko er, hvad der sker efter AI har givet os sit svar. Hvis mennesker tillægger svaret for stor vægt, kan “menneskelig kontrol” stille og roligt blive til menneskelig bekræftelse. Og det er særligt bekymrende, når AI bruges til at understøtte beslutninger om mennesker.
Rekruttering gør problemet tydeligt
Rekruttering er et godt eksempel, fordi AI i stigende grad er til stede på begge sider af processen. Kandidater kan bruge generativ AI til at skrive og finpudse ansøgninger. Rekrutterende teams kan bruge AI til at udarbejde jobannoncer og opsummere kandidatoplysninger. Arbejdsgivere kan også bruge AI-understøttede værktøjer til at matche, screene eller rangere ansøgere.
På Arendalsuka beskrev en rekrutteringsansvarlig, hvordan de havde modtaget fire ansøgninger til samme stilling, som så ud til at være genereret på næsten præcis samme måde – helt ned til den afsluttende sætning og tegnsætningen. Samtidig eksperimenterer arbejdsgivere med teknologi, der kan overtage stadig større dele af rekrutteringsprocessen. Der er tydelige effektivitetsgevinster. Men jo mere AI bevæger sig fra at hjælpe os med at behandle information til at hjælpe os med at træffe beslutninger, desto vigtigere bliver det, hvordan den menneskelige involvering er designet. Det spørgsmål bliver ikke besvaret ved blot at tilføje en rekrutteringsansvarlig til sidst i processen.
Hvordan ser meningsfuld menneskelig kontrol ud?
Et forslag fra debatten på Arendalsuka vender den sædvanlige model om. Lad mennesket foretage den første vurdering. Bring derefter AI ind. En rekrutteringsansvarlig kan først vurdere en kandidat og derefter bede AI om at pege på information, der måske er blevet overset, udfordre antagelser eller foreslå alternative fortolkninger. AI bliver en anden vurdering i stedet for den første. Det lyder som en lille ændring. Det er det ikke. I den traditionelle “human in the loop”-model kan processen se sådan ud:
AI-anbefaling → menneskelig gennemgang → beslutning
En anden model kunne være:
Menneskelig vurdering → AI-udfordring → menneskelig genovervejelse → beslutning
Mennesket er ikke blot til stede for at godkende eller afvise det, systemet har foreslået. AI bruges til at udfordre menneskelig tænkning – ikke til at sætte rammen for den. Det kunne være en langt mere meningsfuld form for menneskelig kontrol.
Det handler ikke kun om rekruttering
Princippet bliver endnu vigtigere, når vi ser ud over rekruttering. AI bruges i stigende grad til at opsummere information, anbefale handlinger, identificere mønstre og understøtte beslutninger på tværs af organisationer.
Forestil dig et AI-system, der foreslår:
- hvilke medarbejdere der måske forlader organisationen;
- hvem der bør overvejes til forfremmelse;
- hvilke kompetencer organisationen mangler;
- hvordan performance-information bør fortolkes;
- hvor ressourcer bør placeres.
En leder kan teknisk set stadig være ansvarlig for alle beslutninger. Men hvis AI-anbefalingen altid kommer først, hvor selvstændig er lederens vurdering så? Derfor kan “der er altid et menneske involveret” være en for lav barre. Det bedre spørgsmål er:
Hvilken rolle spiller mennesket reelt?
Fra human in the loop til meningsfuld menneskelig vurdering
Intet af dette betyder, at AI ikke bør understøtte beslutninger. AI kan hjælpe mennesker med at arbejde sig igennem store mængder information, få øje på forhold, de ellers kunne overse, og stille spørgsmål ved antagelser. Det kan være værdifulde egenskaber. Men organisationer har brug for at tænke videre end blot at placere et menneske et sted i en automatiseret proces. For HR-ledere betyder det at stille mere præcise spørgsmål:
Danner personen sig et selvstændigt billede, før AI-anbefalingen vises?
Forstår personen, hvilken information anbefalingen bygger på?
Forventes personen at udfordre systemet – eller blot kontrollere outputtet?
Kan personen være tryg ved at være uenig?
Kan personen forklare, hvorfor den endelige beslutning blev truffet?
De spørgsmål kommer langt tættere på meningsfuld kontrol end spørgsmålet om, hvorvidt et menneske teknisk set var involveret.
At holde mennesker i kontrol
“Human in the loop” er et tiltalende princip, fordi det lyder som en tydelig skillelinje. AI leverer effektiviteten. Mennesker leverer dømmekraften. I praksis er den skillelinje langt mindre tydelig. Hvis AI former den information, vi ser, rammesætter mulighederne og giver os en anbefaling, før vi har dannet vores eget synspunkt, er menneskelig involvering i sig selv måske ikke nok til at bevare reel menneskelig kontrol.
Måske handler næste skridt i ansvarlig AI derfor ikke kun om at sikre, at et menneske stadig er et sted i processen. Det handler om at designe processen, så menneskelig dømmekraft stadig har reel betydning. Og nogle gange kan det betyde, at mennesket skal gå først.
Om denne artikel:
Denne artikel er en del af vores serie Den menneskelige side af AI, som er inspireret af sessioner på Arendalsuka, Norges årlige samlingspunkt for offentlig debat og diskussion om emner med betydning for erhvervsliv og samfund.
Artiklen bygger på sessionen “KI i rekruttering: Et mer likestilt arbeidsliv?” med Morten Goodwin, professor i kunstig intelligens ved Universitetet i Agder (UiA); Thomas Jahren, seniorrådgiver hos Likestillings- og diskrimineringsombudet; Karoline Sandsbråten Scheide, Head of Insights and Communication hos HR Norge; og Safina de Klerk, Vice President hos NITO.
Sessionen blev modereret af Rasha Abdallah fra UiA’s Centre for Gender Equality.
Kilde: Arendalsuka – KI i rekruttering: Et mer likestilt arbeidsliv?
