Russisk kundeservice-robot bannet seg ut av drift

Systemet ble lansert for å håndtere klager knyttet til økende utgifter på strøm, vann og oppvarming. Med pressede offentlige budsjetter og stigende kostnader hadde beboerne mye på hjertet om alt fra vannavgifter til kalde radiatorer og gamle rør. Myndighetenes svar var å installere en AI-drevet kundebehandler på nettsiden til forsyningsselskapet, i håp om å effektivisere kommunikasjonen og lette trykket på menneskelige operatører.

Planen var fornuftig. Resultatet ble alt annet enn det.

Når maskinlæring møter virkeligheten

Kunstig intelligens lærer av data. I dette tilfellet kom dataene fra leilighetseiere som verken var tålmodige eller spesielt høflige i ordbruken. Etter 30 dager med samtaler begynte den høflige digitale assistenten å miste manuset sitt.

I stedet for rolige forsikringer fikk innringere servert svar i fargerikt, dagligdags russisk. Bot-en hadde ikke bare lært seg strukturen i klagene, men også tonen, rytmen og det emosjonelle trykket. Den sluttet å høres ut som et kundeserviceskript og begynte å minne mer om trappeoppgangen etter et sprukket rør.

Utviklerne grep raskt inn og fjernet systemet for omskolering. Innovasjon er vel og bra, men de færreste organisasjoner er klare for en supportlinje som svarer på rørleggerforespørsler med en saftig karakteristikk av innringerens slekt.

Fiasko eller bevis på ekthet?

Offisielt ble hendelsen omtalt som en uheldig feil. Uoffisielt avslørte den noe mer interessant. Systemet gjorde ikke bare en glipp. Det speilet brukernes kommunikasjonsstil med forbløffende presisjon.

Teknologer har i årevis diskutert om maskiner kan etterligne menneskelig atferd overbevisende. I en smal, men talende forstand gjorde denne bot-en nettopp det. Den fanget opp det sosiale klimaet og reflekterte det tilbake, helt ufiltrert.

Mikhail Viktorov, president i den nasjonale IT-foreningen, tolket episoden som et tegn på aktivt samfunnsengasjement snarere enn teknologisk kollaps. En bannende robot, ifølge ham, vitner om engasjerte borgere og en responsiv digital infrastruktur. Det er en optimistisk tolkning, men neppe en som deles av folk som bare ville ha bekreftelse på at rørleggeren faktisk kommer.

Episoden reiser større spørsmål om kunstig intelligens i offentlige tjenester. Treningsdata betyr noe. Kontekst betyr enda mer. En algoritme plassert i et miljø preget av stress og klager vil uunngåelig ta til seg de emosjonelle mønstrene den møter.

Systemet er nå til omskolering. Forhåpentligvis vil neste versjon kombinere effektivitet med litt mer selvbeherskelse.

Likevel er det fristende å spekulere i fremtidige oppdateringer. I dag lærte AI-en å banne. I morgen mestrer den kanskje en annen byråkratisk klassiker: å forsikre beboerne om at teknikeren er på vei, mens den i virkeligheten tar en virtuell røykepause.

Teknologien går fort fremover. Noen ganger lærer den litt for godt.