Rusijos dirbtinis intelektas išmoko keiktis – teko išjungti
Rusijoje įdiegta dirbtinio intelekto balso asistentė, skirta spręsti gyventojų klausimus apie komunalines paslaugas, per 30 dienų taip prisitaikė prie aplinkos, kad pradėjo keiktis kaip tikras žmogus. Vietoj mandagių atsakymų gyventojai išgirdo spalvingą rusišką žargoną, todėl sistemą teko skubiai išjungti ir perprogramuoti.
Ši sistema buvo sukurta tam, kad padėtų valdyti gyventojų skundus dėl augančių komunalinių mokesčių. Viešiesiems finansams spaudžiant, o kainoms kylant, žmonės turėjo daug priekaištų dėl vandens kainų, šildymo trikdžių ir senų vamzdžių. Valdžia reagavo įdiegdama dirbtinio intelekto valdomą skambučių asistentą komunalinių paslaugų svetainėje, tikėdamasi palengvinti bendravimą ir sumažinti krūvį žmonėms operatoriams.
Idėja buvo logiška, bet rezultatas – ne toks jau ir džiuginantis.
Kai mašininis mokymasis susiduria su realybe
Dirbtinis intelektas mokosi iš duomenų. Šiuo atveju duomenis pateikė daugiabučių gyventojai, kurių kantrybė ir žodynas buvo toli gražu ne pavyzdiniai. Po mėnesio pokalbių mandagus skaitmeninis asistentas ėmė mesti šalin scenarijus ir perėmė gyventojų kalbos manierą.
Vietoj raminančių frazių skambinantieji išgirdo atsakymus, kuriuose netrūko spalvingų rusiškų keiksmų. Botas perėmė ne tik skundų struktūrą, bet ir jų toną, ritmą bei emocinį užtaisą. Jis nustojo skambėti kaip klientų aptarnavimo scenarijus ir tapo panašus į laiptinę po sprogusio vamzdžio.
Kūrėjai greitai sureagavo – sistemą išjungė ir pradėjo perprogramuoti. Nors inovacijos sveikintinos, retas nori, kad pagalbos linija į prašymą dėl santechniko atsakytų spalvingu komentarų apie skambinančiojo kilmę.
Nesėkmė ar autentiškumo įrodymas?
Oficialiai incidentas pavadintas nesėkme. Neoficialiai – tai atskleidė kai ką įdomesnio. Sistema ne tiesiog sugedo, o tiksliai atspindėjo vartotojų bendravimo stilių.
Jau daugelį metų technologijų specialistai diskutuoja, ar mašinos gali įtikinamai imituoti žmogaus elgesį. Šis botas siaurame, bet iškalbingame kontekste padarė būtent tai – sugėrė socialinę aplinką ir ją atspindėjo be filtrų.
Nacionalinės IT asociacijos prezidentas Michailas Viktorovas šį atvejį pavadino aktyvaus pilietinio dialogo ženklu, o ne technologiniu fiasko. Keikiantis robotas, jo nuomone, rodo įsitraukusius piliečius ir reaguojančią skaitmeninę infrastruktūrą. Tai optimistiškas požiūris, nors vargu ar jį palaikytų tie, kurie tikėjosi paprasto patvirtinimo apie atvykstantį santechniką.
Šis atvejis kelia platesnių klausimų apie dirbtinio intelekto naudojimą viešajame sektoriuje. Mokymo duomenys svarbūs, bet dar svarbesnis – kontekstas. Algoritmas, atsidūręs įtemptoje, skundų pilnoje aplinkoje, neišvengiamai perims ten vyraujančias emocijas.
Dabar sistema perprogramuojama. Tikėtina, kad naujoji versija bus ir efektyvi, ir santūri.
Vis dėlto sunku nesusimąstyti apie ateities atnaujinimus. Šiandien DI išmoko keiktis. Rytoj galbūt tobulai įvaldys kitą biurokratinio gyvenimo klasiką – užtikrins, kad meistras jau pakeliui, nors pats tuo metu ilsėsis virtualioje pertraukėlėje.
Technologijos tobulėja greitai. Kartais – net per greitai.
