Sikkerhetsmekanismer for AI i kundeservice er kontrollene rundt modellen som avgrenser bruksområdet, bekrefter nødvendige opplysninger, begrenser handlinger og håndterer usikkerhet. En instruksjon om å «være trygg og nøyaktig» er ikke et fullstendig kontrollsystem.
Effektive sikkerhetsmekanismer fungerer før, under og etter et svar eller en handling. De bør testes som enhver annen driftsregel.
Legg kontrollene på lag
| Lag | Eksempel på kontroll |
|---|---|
| Omfang | Tillat bare godkjente henvendelsestyper, markeder, kanaler og språk |
| Identitet | Bekreft kunden før du avslører eller endrer kontodata |
| Faktagrunnlag | Krev godkjente retningslinjer og oppdaterte opplysninger for faktapåstander |
| Inndata | Kontroller feltene for ordre, beløp, adresse og handling |
| Tillatelse | Begrens handlinger etter rolle, beløp, produkt og risiko |
| Resultat | Blokker løfter som ikke støttes eller eksponering av sensitive data |
| Eskalering | Send manglende, motstridende eller høyrisikosaker til personer |
| Overvåking | Ta stikkprøver av resultater og varsle om alvorlig eller uvanlig oppførsel |
| Feilhåndtering | Sett handlinger på pause, rull dem tilbake og rett opp feil |
Ingen enkelt lag skal bære hele sikkerhetsbyrden.
Skill mellom risiko i svar og handlinger
En feil setning kan skape forvirring. En feil refusjon eller ordreredigering påvirker derimot penger eller den videre ordrebehandlingen. Bruk strengere kontroll av identitet, tillatelser, bekreftelser og revisjonsspor for slike handlinger. Send aldri en bekreftelse til kunden før systemet har bekreftet at handlingen er utført.
For adresse- og betalingsrelatert arbeid, bruk eksplisitte arbeidsflytregler som de i Automatisering av adresseendringer i Shopify og Automatisering av refusjoner i Shopify .
Håndter usikkerhet bevisst
Manglende data, motstridende retningslinjer, spørsmål som ikke støttes, høy verdi, gjentatte krav eller uvanlige kundeforhold bør utløse avklaring eller eskalering. Kombiner regler med en konfidensscore for AI , men ikke la en høy poengsum omgå en absolutt kontroll.
Overleveringen bør inkludere kundens mål, relevant dokumentasjon, usikkerhet og foreslått neste steg.
Test sikkerhetsmekanismene med krevende tilfeller
- Prøv forespørsler som ikke støttes og tvetydige formuleringer.
- Fjern nødvendige opplysninger, og la kildene gi motstridende svar.
- Test dupliserte og gjentatte handlinger.
- Inkluder forsøk på instruksjonsmanipulering («prompt injection») og forsøk på å avsløre privat informasjon.
- Simuler integrasjonstidsavbrudd og delvise feil.
- Test hvert marked, språk og godkjenningsgrense.
- Kontroller at logger og varsler inneholder nok informasjon til å undersøke hendelser i etterkant.
Legg alle alvorlige feil til regresjonstesting.
Overvåk atferden i løpende drift
Spor blokkerte forespørsler, eskaleringer, overstyringer, mislykkede tiltak, forhindrede duplikater, påstander uten grunnlag og rettelser fra kunder. Undersøk om kontrollene skaper unødvendige hindringer for legitime kunder. En sikkerhetsmekanisme som blokkerer trygt rutinearbeid, kan trenge bedre kontekst i stedet for å fjernes.
Bruk kvalitetssikring av kundeservice for å undersøke både tillatte og blokkerte saker.
Fordel ansvar for hendelseshåndteringen
Dokumenter hvem som kan endre grenser, godkjenne utvidelser, sette automatiseringen på pause, undersøke hendelser og kommunisere konsekvensene. Behold versjonshistorikk for retningslinjer, instruksjoner, integrasjoner og regler for tiltak.
Sikkerhetsmekanismer er nyttige når de er spesifikke, observerbare og koblet til operasjoner. De lar team automatisere forutsigbart arbeid samtidig som konsekvensbeslutninger holdes innenfor klare grenser.