Att en människa är involverad i ett AI-stött beslut garanterar inte en meningsfull mänsklig kontroll. Om AI:n står för den första rekommendationen kan den påverka personens bedömning innan hen hunnit bilda sig en egen uppfattning. Den viktiga frågan är därför inte bara om en människa är med, utan när i processen hen kommer in och om det finns utrymme för en självständig bedömning.
När organisationer pratar om ansvarsfull AI dyker en princip upp gång på gång: se till att det finns en människa i loopen. Tanken är rimlig. AI kan analysera, rekommendera och automatisera, men när ett beslut verkligen spelar roll är det fortfarande en människa som ansvarar för det slutliga avgörandet.
Problemet löst? Kanske inte.
Under ett samtal om AI och rekrytering på Arendalsuka, Norges årliga mötesplats för samhällsdebatt om frågor som formar näringsliv och samhälle, lyftes en mer obekväm möjlighet: tänk om människan finns i loopen, men AI:n redan har påverkat hennes bedömning? Den frågan är relevant långt utanför rekrytering. När AI blir en del av allt fler beslut på jobbet kan organisationer behöva tänka om kring vad meningsfull mänsklig kontroll faktiskt innebär.
Problemet med att komma i andra hand
Tänk dig att du går igenom kandidater till en tjänst. Innan du öppnar en ansökan meddelar ett AI-system att kandidaten matchar dåligt. Sedan läser du ansökan själv. Formellt är det fortfarande du som fattar beslutet. Du är människan i loopen. Men läser du ansökan på samma sätt som du hade gjort om du inte sett AI:ns rekommendation? Det är där det blir intressant.
I sin inledning på Arendalsuka utmanade Morten Goodwin, professor i artificiell intelligens vid Universitetet i Agder, ett av de vanligaste antagandena om ansvarsfull AI: att det räcker att ha en människa i loopen. Att en människa finns med gör inte automatiskt en AI-stödd process oberoende eller säker.
Ordningen spelar roll. När vi väl har fått en rekommendation kan den bli ett ankare för vår egen bedömning. I stället för att självständigt värdera informationen riskerar vi att värdera om vi håller med AI:n. Det är en helt annan uppgift.
Mänsklig kontroll kan bli mänsklig bekräftelse
Det här är särskilt relevant eftersom AI-system ofta framstår som auktoritativa. En kollega kan säga: ”Jag har en känsla av att den här kandidaten inte är rätt.” Vi vet att det är en subjektiv bedömning, och vi kanske frågar varför. Ett AI-system kan i stället leverera en poäng, en rangordning eller en snyggt formulerad sammanfattning. Det kan kännas mer objektivt eftersom det verkar bygga på data. Men att något ser säkert ut betyder inte att det är objektivt. AI-system kan återskapa mönster och snedvridningar som finns i den data och de miljöer de lär sig från. Det är något allt fler känner till.
Den risk som diskuteras mindre är vad som händer efter att AI:n har gett oss sitt svar. Om vi litar för mycket på svaret kan ”mänsklig kontroll” i det tysta förvandlas till mänsklig bekräftelse. Och det är särskilt oroande när AI används för att stödja beslut som handlar om människor.
Rekrytering gör problemet tydligt
Rekrytering är ett bra exempel eftersom AI i allt högre grad finns på båda sidor av processen. Kandidater kan använda generativ AI för att skriva och finslipa sina ansökningar. Rekryterare kan använda den för att skriva platsannonser och sammanfatta information om kandidater. Arbetsgivare kan också använda AI-stödda verktyg för att matcha, sålla eller rangordna sökande.
På Arendalsuka berättade en rekryterare om fyra ansökningar till samma tjänst som såg ut att ha genererats på nästan exakt samma sätt, ända ner till sista meningen och skiljetecknen. Samtidigt experimenterar arbetsgivare med teknik som kan ta över allt större delar av rekryteringsprocessen. Effektivitetsvinsterna är tydliga. Men ju mer AI går från att hjälpa oss bearbeta information till att hjälpa oss fatta beslut, desto viktigare blir det hur den mänskliga medverkan är utformad. Att bara lägga till en rekryterare i slutet av processen besvarar inte den frågan.
Hur ser meningsfull mänsklig kontroll ut?
Ett förslag från samtalet på Arendalsuka vänder på den vanliga modellen. Låt människan göra den första bedömningen. Ta sedan in AI. En rekryterare kan bedöma en kandidat och först därefter be AI:n hitta information som kan ha missats, ifrågasätta antaganden eller föreslå andra tolkningar. AI blir då ett andra perspektiv i stället för det första.
Det låter som en liten förändring. Det är det inte. I den traditionella modellen med en människa i loopen kan processen se ut ungefär så här:
AI-rekommendation → mänsklig granskning → beslut
En annan modell skulle kunna se ut så här:
Mänsklig bedömning → AI utmanar → människan omprövar → beslut
Människan är inte där bara för att godkänna eller avvisa det systemet har föreslagit. AI används för att utmana det mänskliga tänkandet snarare än att rama in det. Det kan vara en betydligt mer meningsfull form av mänsklig kontroll.
Det här är inte bara en rekryteringsfråga
Principen blir ännu viktigare när vi ser bortom rekrytering. AI används allt oftare för att sammanfatta information, rekommendera åtgärder, identifiera mönster och stödja beslut i hela organisationen.
Tänk dig ett AI-system som föreslår:
- vilka medarbetare som kan tänkas sluta
- vem som borde komma i fråga för befordran
- vilken kompetens organisationen saknar
- hur prestationsdata ska tolkas
- var resurserna ska fördelas.
- Bildar sig personen en egen uppfattning innan hen ser AI:ns rekommendation?
- Förstår hen vilken information rekommendationen bygger på?
- Förväntas hen utmana systemet, eller bara kontrollera det systemet levererar?
- Kan hen med säkerhet gå emot rekommendationen?
- Kan hen förklara varför det slutliga beslutet fattades?
En chef kan formellt fortfarande vara ansvarig för varje beslut. Men om AI:ns rekommendation alltid kommer först, hur självständig är då chefens bedömning? Därför kan ”det finns alltid en människa med” vara en för låg ribba. Den bättre frågan är:
Vilken roll spelar människan egentligen?
Från human in the loop till ett meningsfullt mänskligt omdöme
Inget av detta betyder att AI inte ska stödja beslut. AI kan hjälpa oss att ta oss igenom stora mängder information, upptäcka sådant vi annars kanske missar och ifrågasätta antaganden. Det är potentiellt värdefulla förmågor. Men organisationer behöver tänka längre än att bara placera en människa någonstans i en automatiserad process. För HR-ledare innebär det att ställa mer specifika frågor:
De frågorna kommer betydligt närmare meningsfull kontroll än att fråga om en människa formellt var inblandad.
Att behålla kontrollen
”Human in the loop” är en tilltalande princip eftersom den låter som en tydlig gräns. AI står för effektiviteten. Människan står för omdömet. I praktiken är den gränsen betydligt otydligare. Om AI formar den information vi ser, ramar in alternativen och ger oss en rekommendation innan vi hunnit bilda oss en egen uppfattning, räcker det kanske inte att en människa är inblandad för att vi ska ha verklig kontroll.
Nästa steg för ansvarsfull AI handlar därför kanske inte om att se till att det finns en människa kvar någonstans i processen. Det handlar om att utforma processen så att det mänskliga omdömet fortfarande spelar roll. Och ibland kan det innebära att låta människan gå först.
Om artikeln
Den här artikeln ingår i vår serie Den mänskliga sidan av AI, inspirerad av samtal på Arendalsuka, Norges årliga mötesplats för samhällsdebatt om frågor som formar näringsliv och samhälle. Den bygger på samtalet ”KI i rekruttering: Et mer likestilt arbeidsliv?” med Morten Goodwin, professor i artificiell intelligens vid Universitetet i Agder (UiA), Thomas Jahren, seniorrådgivare på Likestillings- og diskrimineringsombudet, Karoline Sandsbråten Scheide, chef för insikt och kommunikation på HR Norge, och Safina de Klerk, vice ordförande i NITO. Samtalet modererades av Rasha Abdallah från Senter for likestilling vid UiA.
Källa: Arendalsuka, KI i rekruttering: Et mer likestilt arbeidsliv?
