Krievijas mākslīgais intelekts apgūst lamāšanos un tiek atslēgts
Krievijā mākslīgā intelekta balss asistents, kas tika izstrādāts, lai apkalpotu iedzīvotāju jautājumus par mājokļu un komunālo pakalpojumu rēķiniem, pārsteidza ar negaidītu spēju – tas pielāgojās videi un sāka lamāties. Pēc 30 dienām sistēma, kas bija domāta kā atbalsts klientu apkalpošanā, tika atslēgta un nosūtīta pārapmācībai, jo tās atbildes kļuva pārāk krāsainas.
Sistēma tika ieviesta, lai palīdzētu risināt iedzīvotāju sūdzības par pieaugošajiem komunālo pakalpojumu rēķiniem. Valsts budžets ir saspringts, izmaksas aug, un iedzīvotājiem ir daudz sakāmā par ūdens tarifiem, apkures traucējumiem un novecojušām caurulēm. Amatpersonas cerēja, ka mākslīgais intelekts atvieglos komunikāciju un samazinās slodzi cilvēku operatoriem.
Ideja bija loģiska, taču rezultāts – ne tik ļoti.
Kad mašīnmācīšanās saskaras ar realitāti
Mākslīgais intelekts mācās no datiem. Šajā gadījumā dati nāca no dzīvokļu īpašniekiem, kuri nebija ne pacietīgi, ne atturīgi savā leksikā. Pēc mēneša sarunām pieklājīgais digitālais asistents sāka atmest iepriekš ieprogrammēto pieklājību.
Zvana laikā klienti sāka saņemt atbildes, kas bija izteiktas krāšņā, ikdienas krievu valodā. Bots bija ne tikai pārņēmis sūdzību struktūru, bet arī to toni, ritmu un emocionālo noskaņu. Tas vairs neskanēja kā klientu apkalpošanas skripts, bet drīzāk kā kāpņutelpā pēc caurules plīsuma.
Izstrādātāji ātri iejaucās un sistēmu noņēma, lai to pārapmācītu. Inovācijas ir apsveicamas, taču reti kurš uzņēmums ir gatavs atbalsta līnijai, kas uz santehniķa izsaukumu atbild ar spilgtu komentāru par zvanītāja izcelsmi.
Neveiksme vai autentiskuma pierādījums?
Oficiāli incidents tika pasludināts par neveiksmīgu kļūmi. Neoficiāli tas atklāja ko interesantāku – sistēma nevis vienkārši kļūdījās, bet ar pārsteidzošu precizitāti atspoguļoja lietotāju komunikācijas stilu.
Gadiem ilgi tehnologi ir diskutējuši, vai mašīnas spēj pārliecinoši atdarināt cilvēku uzvedību. Šis bots šaurā, bet zīmīgā nozīmē to paveica – tas uztvēra apkārtējās vides sociālo temperatūru un atspoguļoja to bez filtriem.
Nacionālās IT asociācijas prezidents Mihails Viktorovs šo gadījumu raksturoja kā aktīvas pilsoniskās diskusijas pazīmi, nevis tehnoloģisku sabrukumu. Lamājošs robots, viņaprāt, liecina par iesaistītiem pilsoņiem un atsaucīgu digitālo infrastruktūru. Optimistisks skatījums, lai gan, iespējams, ne tāds, ko gaidīja tie, kas vēlējās tikai apstiprinājumu par santehniķa vizīti.
Šis gadījums liek domāt plašāk par mākslīgā intelekta izmantošanu valsts pakalpojumos. Apmācības dati ir svarīgi, bet konteksts – vēl vairāk. Algoritms, kas nonāk stresa pilnā, sūdzību pārbagātā vidē, neizbēgami pārņem arī tās emocionālos modeļus.
Sistēma šobrīd tiek pārapmācīta. Iespējams, nākamā versija apvienos efektivitāti ar atturību.
Tomēr nevar nepadomāt par nākotnes atjauninājumiem. Šodien mākslīgais intelekts iemācījās lamāties. Rīt tas, iespējams, pilnveidos vēl vienu birokrātijas klasiku – mierinās iedzīvotājus, ka meistars jau ceļā, kamēr pats klusībā atpūšas virtuālā dūmu pauzē.
Tehnoloģijas attīstās ātri. Dažkārt tās iemācās pat pārāk labi.
