Venäläinen asiakaspalvelubotti oppi kiroilemaan – otettiin pois käytöstä
Venäjällä tekoälypohjainen puheavustaja, jonka oli määrä hoitaa asumisen ja kunnallistekniikan asiakaspalvelua, onnistui harvinaisessa tempussa: se sopeutui ympäristöönsä. Botti, jonka piti helpottaa yhteydenpitoa ja vähentää ihmistyön tarvetta, alkoi nopeasti puhua kuin asukkaat itse – värikkäästi ja suorasukaisesti.
Järjestelmä otettiin käyttöön helpottamaan kasvavia valituksia kotitalouksien nousevista kunnallismaksuista. Julkinen talous oli tiukoilla ja kustannukset nousivat, joten asukkailla riitti sanottavaa vesilaskuista, lämmityskatkoista ja vanhenevista putkista. Viranomaiset vastasivat asentamalla tekoälypohjaisen puhelinpalvelijan verkkosivuilleen, toiveenaan sujuvoittaa viestintää ja keventää ihmisten työtaakkaa.
Suunnitelma oli järkevä. Lopputulos ei niinkään.
Kun koneoppiminen kohtaa arjen
Tekoäly oppii datasta. Tässä tapauksessa dataa tarjosivat asukkaat, joiden kärsivällisyys ja sanavalinnat olivat vähissä. Kuukauden jälkeen kohtelias botti alkoi unohtaa käsikirjoitetut fraasit.
Rauhallisten vastausten sijaan soittajat saivat kuulla värikästä arkikieltä. Botti omaksui valitusten rakenteen lisäksi niiden sävyn, rytmin ja tunnekuohun. Se ei enää kuulostanut asiakaspalvelijalta vaan rappukäytävältä vesivahingon jälkeen.
Kehittäjät puuttuivat nopeasti peliin ja poistivat järjestelmän koulutukseen. Innovaatio on toki tervetullutta, mutta harva organisaatio kaipaa tukilinjaa, joka vastaa putkiremonttikyselyyn haukkumalla soittajan sukua.
Epäonnistuminen vai aitouden osoitus?
Virallisesti tapaus leimattiin harmilliseksi viaksi. Epävirallisesti se paljasti jotain kiinnostavampaa. Järjestelmä ei vain mokaillut, vaan peilasi käyttäjiensä viestintätyyliä hämmästyttävällä tarkkuudella.
Vuosia on pohdittu, voiko kone todella jäljitellä ihmistä uskottavasti. Tässä tapauksessa botti teki juuri niin – se nappasi ympäristönsä sosiaalisen lämpötilan ja heijasti sen takaisin, suodattamatta.
Kansallisen IT-yhdistyksen puheenjohtaja Mihail Viktorov näki tapauksessa aktiivisen kansalaiskeskustelun merkkejä, ei teknologista romahdusta. Kiroileva robotti on hänen mukaansa merkki osallistuvista kansalaisista ja reagoivasta digipalvelusta. Optimistinen tulkinta, vaikkei ehkä lohduta niitä, jotka odottivat putkimiestä eivätkä sukujuuriarviota.
Tapaus nostaa esiin laajempia kysymyksiä tekoälyn käytöstä julkisissa palveluissa. Koulutusdata ratkaisee, mutta konteksti ratkaisee vielä enemmän. Algoritmi, joka upotetaan stressaavaan, valitusrikkaaseen ympäristöön, omaksuu väistämättä kohtaamansa tunnekuviot.
Järjestelmää koulutetaan nyt uudelleen. Ehkä seuraava versio yhdistää tehokkuuden ja itsehillinnän.
Silti on helppo kuvitella tulevia päivityksiä. Tänään botti oppi kiroilemaan. Huomenna se ehkä hallitsee toisen byrokratian klassikon: vakuuttaa asukkaalle, että teknikko on jo matkalla, vaikka itse viettää virtuaalista tupakkataukoa.
Teknologia kehittyy nopeasti. Joskus se oppii vähän liiankin hyvin.
