Øvelse 1: AI-agent til kundевærdi og kompensationsbeslutninger

Vi er en dansk webshop med 40 ansatte, der sælger hudplejeprodukter via abonnement og enkeltkøb til kunder i Danmark, Sverige og Norge. Vi har omkring 65.000 aktive kunder, hvoraf en stor del abonnerer på faste leverancer.

I forbindelse med køb kan kunder frivilligt udfylde et spørgeskema om hudtype, allergier og tidligere hudreaktioner for at få mere målrettede produktanbefalinger. Vi modtager også henvendelser fra kunder, der oplever hudreaktioner efter brug af vores produkter. Kundeservice modtager dagligt mellem 80 og 150 henvendelser om levering, returnering, abonnementer, faktura og produktreaktioner.

Vi overvejer at implementere en AI-agent, som både skal håndtere kundehenvendelser og beregne en kundевærdi- og risikoscore. Scoren skal baseres på blandt andet købshistorik, abonnementsvarighed, returhyppighed, tidligere klager, betalingsmønstre og respons på kampagner. Derudover vil systemet kunne inddrage oplysninger om tidligere rapporterede hudreaktioner og kundens oplyste hudtype.

AI-agenten skal bruge scoren til automatisk at:

• Prioritere kundens placering i chatkø
• Fastlægge kompensationsniveau
• Avgøre, om refundering gives automatisk
• Identificere mønstre i retur- og klageadfærd
• Foreslå begrænsninger ved gentagne krav

Vi forventer, at omkring 70 % af kundeservicebeslutninger kan automatiseres. Samtidig planlægger vi at reducere bemandingen i kundeservice fra fire til to medarbejdere.

Øvelse 2 – Gøre gavn, ikke skade

Hvilken konkret værdi skal løsningen skabe – og hvordan?
Vi ønsker at reducere ventetid, målrette kompensation bedre og mindske tab ved misbrug. Samtidig ønsker vi at forbedre profitabiliteten ved at bruge ressourcerne mere effektivt. Den forventede gavn er hurtigere service og mere præcis beslutningstagning. Men vi har drøftet, om gavn for virksomheden også er gavn for kunderne. Hvis systemet prioriterer loyale kunder højere og stiller andre ringere, kan det skabe en oplevelse af uretfærdighed – selv om det er økonomisk rationelt.

Kan løsningen gøre det sværere for nogen at træffe faglige beslutninger?
Ja. Når størstedelen af beslutninger træffes automatisk, risikerer medarbejderne at få en reduceret rolle. De kan blive afhængige af systemets vurdering og få sværere ved at opdage fejl eller skævheder.

Hvad sker der, hvis løsningen tager fejl?
Hvis systemet afviser kompensation ved en anmeldt hudreaktion, kan det ikke blot påvirke kundens oplevelse, men også deres tillid til, at vi tager helbredsrelaterede henvendelser alvorligt. Fejl kan blive systematiske, før de opdages, især når bemandingen reduceres.

Kan vi opnå det samme med mindre brug af data?
Vi har derfor overvejet, om helbredsoplysninger bør indgå i beslutningsgrundlaget for kompensation. Selvom det teknisk er muligt, har vi besluttet, at disse oplysninger ikke må bruges til at reducere kundens rettigheder eller sandsynlighed for kompensation. De kan anvendes til produktvejledning, men ikke til at begrænse service. Her har vi aktivt valgt dataminimering frem for maksimal optimering.

Øvelse 3 – Sikre retfærdighed

Kan løsningen betyde, at nogle prioriteres højere eller lavere end andre?
Ja. Systemet er designet til at differentiere. Kunder med høj omsætning kan få hurtigere behandling og større kompensation. Det er et bevidst valg – men det rejser et retfærdighedsspørgsmål.
Vi har drøftet, om denne differentiering indirekte kan ramme bestemte grupper. Hvis kunder med bestemte hudproblemer oftere returnerer produkter, kan de få en lavere score og dermed ringere behandling. Dermed kan helbredstilstand indirekte påvirke servicevilkår.

Er der sager, løsningen kan have sværere ved?
Sager med komplekse hudreaktioner eller uklare symptomer kan være vanskelige at vurdere automatisk. Der er risiko for, at systemet forenkler vurderinger, som burde håndteres med særlig omhu.

Hvordan opdager vi skævhed?
Vi har besluttet at analysere afgørelser fordelt på sagstyper, kundевærdi og sager med helbredsoplysninger. Hvis vi ser systematiske forskelle, vil modellen blive justeret.

Hvad gør vi, hvis nogle får dårligere resultater?
Vi vil reducere modellens beslutningskompetence og sikre, at disse sagstyper håndteres manuelt.

Her er dataetikken tydelig: økonomisk rationalitet må ikke føre til systematisk dårligere behandling af sårbare kunder.

Øvelse 4 – Sikre selvbestemmelse

Vil medarbejdere følge løsningens forslag uden at overveje alternativer?
Det er sandsynligt. Når bemandingen reduceres, vil der være et praktisk pres for at acceptere systemets afgørelser.
Vi har derfor besluttet, at medarbejdere skal kunne overstyre systemet uden ekstra godkendelse, og at de skal kunne se, hvilke faktorer der har påvirket scoren.

Kan medarbejdere vælge en anden løsning end den, AI foreslår?
Ja. Medarbejdere får fuldt mandat til at overstyre systemets afgørelser.

Er det tydeligt, hvem der har det endelige ansvar for beslutningen?
Ja. Ansvaret ligger hos ledelsen. Leverandøren leverer teknologien, men vi er ansvarlige for dens anvendelse.

Hvad gør vi, hvis medarbejdere begynder at stole for meget på løsningens anbefalinger?
Vi indfører faste kvalitetsgennemgange og sikrer, at medarbejdere har indblik i systemets beslutningsgrundlag.

Øvelse 5 – Hvem har ansvaret i praksis?

Hvem vil have ansvar for at følge med i, hvordan løsningen fungerer i hverdagen?
Kundeservicechefen har det daglige ansvar. Ledelsen foretager kvartalsvise evalueringer.

Hvordan vil fejl eller problemer blive opdaget?
Gennem systematisk analyse af klager, kompensationsmønstre og stikprøvekontrol.

Hvem kan ændre eller stoppe løsningen?
Ledelsen kan sætte systemet i manuel tilstand eller begrænse dets funktion.

Hvordan vil vi løbende vurdere, om løsningen stadig fungerer som ønsket?
Første evaluering sker efter tre måneder, derefter halvårligt. Der er fastsat stopkriterier ved markant stigning i klager eller dokumenteret skæv behandling.

Øvelse 6 – Hvad er næste skridt?

Hvad taler for at gå videre?
Økonomisk gevinst, hurtigere service og bedre ressourceudnyttelse.

Hvad gør os i tvivl?
Risiko for uigennemsigtig profilering, indirekte forskelsbehandling og uhensigtsmæssig brug af helbredsoplysninger.

Beslutning
Vi går videre med justeringer og begrænsninger i modellens brug af følsomme data.

Hvornår følger vi op?
Efter tre måneder og igen efter seks måneder.

Hvem har ansvaret for opfølgning?
Kundeservicechef og direktion.

Hvad vil få os til at ændre eller stoppe brugen?
Systematisk skæv behandling, stigende klagefrekvens eller manglende mulighed for forklaring af afgørelser.