7 spørgsmål du bør stille din AI-leverandør i kundeservice

Demoen ser imponerende ud. Spørgsmålene afgør, om I tør.

AI i kundeservice er gået fra eksperiment til indkøbsbeslutning. Andelen af danske virksomheder, der bruger chatbots i kundeservice, er mere end fordoblet på to år (Dansk Erhverv). Samtidig bekymrer 66 % af danskerne sig om misbrug af deres personlige data, og kun 12 % har høj tillid til AI-genereret information (PwC/Epinion 2026).

Det er det spænd, I som kundeservice- eller supportchef står i. De fleste AI-demoer ser overbevisende ud. Men få af dem svarer på det, der faktisk betyder noget: Hvor ender jeres kundedata? Hvem træner på dem? Og hvem hæfter, når AI'en foreslår noget forkert?

Her er de syv spørgsmål, vi mener, I bør stille enhver AI-leverandør, før jeres kundedata ryger ind i en model, I ikke kender. Også os.

En simpel tommelfingerregel undervejs: Et godt svar er konkret og kan dokumenteres. Et dårligt svar er "det er sikkert" uden detaljer.

1. Hvor hostes og behandles vores data – fysisk?

Spørg ikke "er det GDPR-sikkert?". Spørg, hvilket land serverne står i, og hvem der ejer dem. Det afgør, hvilken lovgivning jeres kundedata er underlagt, og hvem der kan få adgang til dem. Ligger modellen hos en udbyder uden for EU, gælder deres regler – ikke jeres.

Et godt svar nævner land, datacenter og om leverandøren selv driver modellerne eller sender data videre til fx en amerikansk cloud- eller AI-udbyder. Det skal kunne bekræftes i listen over underdatabehandlere. Vær vågen, hvis I hører "vi bruger en førende AI-partner" uden et navn.

2. Hvem træner på vores data?

Mange AI-løsninger bliver bedre, fordi de lærer af kundernes samtaler. Spørgsmålet er, om det er jeres model, der bliver bedre – eller alles. Jeres sagshistorik er en af virksomhedens mest fortrolige datakilder. Bruges den til at træne en fælles model, kan I ikke længere svare på, hvor jeres viden ender.

Et godt svar skelner klart: Jeres sagshistorik bruges kun til jeres egne AI-funktioner, i jeres eget afgrænsede miljø, og kun hvis I har sagt ja. Advarselstegnet er træning slået til som standard, eller "vi anonymiserer" uden en forklaring på hvordan.

3. Hvem beslutter, hvad der sendes til kunden?

Der er stor forskel på AI, der foreslår et svar til en medarbejder, og AI, der sender svaret selv. Det første hjælper teamet. Det andet flytter ansvaret for kundeoplevelsen over på en model, og hver eneste fejl rammer en kunde direkte.

CBS-forskere peger på, at mange chatbot-løsninger er indført med fokus på besparelser frem for kundeoplevelse. Klarna, der ville lade AI overtage kundeservice, har siden trukket i land.

Et godt svar beskriver præcis, hvilke opgaver AI'en løser – opsummering, svarforslag, kategorisering, oversættelse, prioritering – og hvor et menneske godkender, før noget når kunden. Vær skeptisk over for "AI'en håndterer 80 % af sagerne" uden tal for kundetilfredshed.

4. Hvem hæfter, når AI'en tager fejl?

EU's AI-forordning lægger ansvar på den virksomhed, der bruger AI over for kunder – ikke kun på den, der har bygget den. Foreslår jeres bot noget, der skader en kunde, er det jeres navn på svaret.

Et godt svar indeholder en vurdering af løsningen i forhold til AI Act, dokumentation for hvordan AI'ens forslag overvåges og forbedres, og en klar aftale om, hvad leverandøren hæfter for. Nævner kontrakten ikke AI med ét ord, er det et problem.

5. Hvad sker der med følsomme oplysninger i sagerne?

Kunder skriver CPR-numre, kortoplysninger og helbredsoplysninger i supportmails. Det gør de også, når AI'en læser med. GDPR-ansvaret er jeres, uanset hvilket værktøj der læser henvendelsen.

Et godt svar forklarer, hvordan følsomme oplysninger opdages og markeres, om de kan holdes ude af AI-behandlingen, og hvordan de håndteres i logs og sagshistorik bagefter. Hvis sletning i sagen ikke sletter det, AI'en har set, er I ikke i kontrol.

6. Hvad kan vi dokumentere over for DPO, revisor og kunder?

Den dag jeres DPO, en stor kunde eller et offentligt udbud beder om dokumentation, skal svaret ligge klar – ikke blive skrevet.

Et godt svar er en pakke: databehandleraftale, opdateret liste over underdatabehandlere, en uafhængig revisorerklæring (fx ISAE 3000) og en skriftlig beskrivelse af AI-funktionerne og deres datagrundlag. Får I en salgspræsentation i stedet for et dokument, juristen kan læse, så spørg igen.

7. Hvad sker der med vores data, hvis vi stopper?

Jo mere en løsning lærer om jeres kunder, desto dyrere bliver det at forlade den. Exit-vilkårene bør derfor være afklaret, mens I stadig har forhandlingskraft.

Et godt svar beskriver, hvordan I får sagshistorik og vidensgrundlag med jer i et brugbart format, hvornår data slettes hos leverandøren og underdatabehandlere – og at det samme gælder det, AI'en har lært af jeres data. Binding på flere år, før I har set løsningen i drift, er et advarselstegn.

Sådan bruger I spørgsmålene

Send de syv spørgsmål skriftligt til leverandøren før mødet. Svarene, der kommer på skrift, er dem, I kan holde leverandøren op på.

Marker derefter hvert svar: grøn, hvis det er konkret og dokumenteret; gul, hvis det lyder rigtigt, men mangler dokumentation; rød, hvis det er uklart eller rummer et advarselstegn.

Et enkelt rødt svar på spørgsmål 1, 2 eller 4 – hosting, træning og ansvar – bør stoppe processen, indtil det er afklaret.

Sådan svarer etrack1

Vi har bygget AI i etrack1 ud fra de samme syv spørgsmål. Kort fortalt:

1. AI-funktionerne kører på Confirmas egne servere i Danmark med modeller, vi selv driver. Ingen tredjeparts AI-udbyder.
2. Hver kunde har sin egen datasilo. Jeres sagshistorik bruges kun til jeres egne AI-funktioner – og kun efter skriftlig aftale.
3. AI'en foreslår, mennesket sender. Opsummering, svarforslag, kategorisering, oversættelse og trends er hjælp til medarbejderen.
4. Løsningen er vurderet i forhold til EU's AI Act, med et interface til at overvåge og forbedre AI'ens forslag.
5. etrack1 opdager og markerer følsomme oplysninger som personoplysninger og kortdata i indkomne henvendelser.
6. ISAE 3000 type II fra Deloitte, databehandleraftale, offentlig liste over underdatabehandlere og skriftlig beskrivelse af AI-funktionerne.
7. 30 dages prøveperiode uden binding. Stopper I, stopper samarbejdet.

Hent tjeklisten som PDF – med scorekort til leverandørmødet. Download tjeklisten

Se det i hverdagen – 20 minutter. Book en demo eller ring på +45 70 26 30 31.