Tjugosex anställda vid Facebooks moderbolag Meta har valt att stämma företaget efter att ha varslats om uppsägning. De hävdar att bolaget använt artificiell intelligens för att avgöra vilka medarbetare som ska få sparken, vilket enligt dem lett till diskriminerande behandling. Fallet kan bli ett prejudikat för hur AI-verktyg får användas vid personalnedskärningar i USA.

Meta tillkännagav under våren ett omfattande sparpaket som innebär att 8 000 medarbetare förlorar sina jobb. Det motsvarar drygt tio procent av den totala arbetsstyrkan på det globala techbolaget. Åtgärden är en del av de kostnadsnedskärningar som många stora techföretag genomfört under det senaste året efter en period av kraftig expansion.

Men det är sättet som Meta valt att genomföra uppsägningarna på som nu ifrågasätts. De 26 anställda, som valt att förbli anonyma i stämningsansökan, hävdar att företaget tagit hjälp av internt utvecklade AI-modeller för att bestämma vilka som skulle varslas. Enligt nyhetsbyrån Reuters är detta troligtvis det första större amerikanska rättsfallet som rör användningen av artificiell intelligens för att genomföra personalnedskärningar.

Tidigare i år införde Meta ett AI-baserat övervakningssystem för att analysera de anställdas arbetsprestation. Systemet går igenom knapptryckningar, musklick, e-postmeddelanden, interna chattar och platsdata från personalens datorer för att mäta och utvärdera produktivitet. Införandet möttes av kraftiga interna protester från de anställda, och efter några månader valde Meta att pausa projektet.

Men enligt stämningsansökan har data från just detta övervakningsprogram, tillsammans med andra AI-verktyg, använts för att avgöra vilka medarbetare som skulle varslas. De anställda hävdar att systemet premierat personer som var flitiga användare av Metas egna AI-verktyg, medan de som nu varslats inte fick samma ”poäng” av modellerna. Särskilt anmärkningsvärt är att de varslade medarbetarnas närmaste chefer enligt stämningsansökan inte alls ska ha varit inblandade i beslutsprocessen.

Detta väcker allvarliga frågor om hur mycket inflytande automatiserade system ska få ha över anställningsbeslut. I techbranschen är det vanligt med uttrycket ”eat your own dogfood”, vilket innebär att företag ska använda samma teknik internt som de försöker sälja till sina kunder. Meta, som precis som andra stora techföretag försöker integrera AI-lösningar i praktiskt taget alla sina produkter, verkar enligt stämningsansökan ha tillämpat denna filosofi även på personalhanteringen.

De 26 anställda menar att Meta genom sitt agerande brutit mot flera delstatliga och federala diskrimineringslagar i USA. De pekar särskilt på att många av de varslade medarbetarna varit föräldralediga, sjukskrivna eller har funktionsnedsättningar, vilket gjort att de inte kunnat prestera på samma sätt som sina kollegor under mätperioden. Därför kunde de inte samla lika många ”poäng” hos AI-modellerna, trots att deras frånvaro varit laglig och skyddad.

Detta lyfter fram en grundläggande problematik med AI-baserade beslutssystem: de kan reproducera och förstärka diskriminering om de inte är noggrant utformade och granskade. Om ett system premierar konstant närvaro och aktivitet kan det missgynna personer med skyddade frånvaroorsaker som föräldraledighet eller sjukdom.

I en kommentar till The Guardian avvisar en talesperson för Meta anklagelserna och kallar dem grundlösa. Talespersonen betonar att ”beslut rörande personalhantering och organisation fattas av människor, inte av AI”. Detta står dock i kontrast till vad de anställda beskriver i sin stämningsansökan.

Rättsfallet kommer sannolikt att följas noga av både arbetsrättsexperter och andra företag som överväger att använda AI-verktyg i personalhanteringen. Utgången kan få stor betydelse för hur automatiserade system får användas vid anställningsbeslut framöver, inte bara i USA utan även internationellt. Frågan om hur man säkerställer att AI-system inte diskriminerar är central i takt med att tekniken blir allt vanligare på arbetsplatser världen över.